Jacques Ellul: Από την τεχνική της βιομηχανικής εποχής στην τεχνητή νοημοσύνη, την αυτοματοποίηση και τη δυστοπία του 21ου αιώνα. Μπορεί η τεχνολογία να γίνει αυτόνομη κοινωνική δύναμη;
Jacques Ellul: Από την τεχνική της βιομηχανικής εποχής στην τεχνητή νοημοσύνη, την αυτοματοποίηση και τη δυστοπία του 21ου αιώνα. Μπορεί η τεχνολογία να γίνει αυτόνομη κοινωνική δύναμη;
Ορισμένες ιδέες, όταν διατυπώνονται για πρώτη φορά, μοιάζουν υπερβολικές, απαισιόδοξες ή ακόμη και παράξενες, αλλά αποκτούν διαφορετικό νόημα όταν τις κοιτάξουμε από την απόσταση αρκετών δεκαετιών. Η σκέψη του Γάλλου φιλοσόφου, κοινωνιολόγου και θεολόγου Jacques Ellul ανήκει σε αυτή την κατηγορία. Όταν το 1954 δημοσίευσε το “La Technique ou l’enjeu du siècle”, έργο που μεταφράστηκε στα αγγλικά ως “The Technological Society” το 1964, ο κόσμος βρισκόταν ακόμη στην αυγή της ηλεκτρονικής εποχής. Οι ηλεκτρονικοί υπολογιστές ήταν τεράστιες μηχανές περιορισμένης χρήσης, το διαδίκτυο δεν υπήρχε, η τεχνητή νοημοσύνη βρισκόταν στα πρώτα θεωρητικά της βήματα και η ιδέα ότι ένας αλγόριθμος θα μπορούσε κάποτε να επηρεάζει καθημερινά τη συμπεριφορά εκατομμυρίων ανθρώπων ανήκε περισσότερο στη σφαίρα της επιστημονικής φαντασίας. Κι όμως, ο Ellul δεν χρειάστηκε να προβλέψει συγκεκριμένες μηχανές για να θέσει ένα ερώτημα που σήμερα μοιάζει σχεδόν αναπόφευκτο, τι συμβαίνει όταν η τεχνολογία παύει να αποτελεί απλώς εργαλείο του ανθρώπου και μετατρέπεται σε δύναμη που οργανώνει την ίδια την κοινωνία; Η ερώτηση αυτή μας οδηγεί πέρα από τον φόβο μιας μελλοντικής μηχανικής εξέγερσης και αγγίζει κάτι πολύ πιο λεπτό, την πιθανότητα ο άνθρωπος να παραδώσει σταδιακά την αυτονομία του όχι σε έναν εξωτερικό κατακτητή, αλλά σε ένα σύστημα που ο ίδιος δημιούργησε.
Για να κατανοήσουμε τον Ellul, πρέπει πρώτα να αφήσουμε στην άκρη μια συνηθισμένη παρανόηση. Όταν ακούμε σήμερα τη λέξη τεχνολογία, σκεφτόμαστε υπολογιστές, smartphones, δίκτυα, ρομπότ, τεχνητή νοημοσύνη, μηχανές και λογισμικό. Για τον Ellul, όμως, η τεχνική (Technique), ήταν κάτι πολύ ευρύτερο. Δεν ταυτιζόταν ούτε με τη μηχανή ούτε με μια συλλογή τεχνολογικών προϊόντων. Ήταν το σύνολο των μεθόδων που έχουν ορθολογικά διαμορφωθεί και επιδιώκουν τη μέγιστη δυνατή αποτελεσματικότητα σε κάθε πεδίο ανθρώπινης δραστηριότητας. Αυτό σημαίνει ότι η τεχνική μπορεί να υπάρχει στο εργοστάσιο, αλλά επίσης στη διοίκηση, στην εκπαίδευση, στην οικονομία, στην πολιτική, στην αστυνομία, στην οργάνωση της εργασίας και σε κάθε διαδικασία όπου η ανθρώπινη δραστηριότητα μετατρέπεται σε πρόβλημα προς επίλυση μέσω της αποτελεσματικότερης δυνατής μεθόδου. Ο ίδιος ο Ellul επέμενε αργότερα ότι η τεχνική δεν πρέπει να συγχέεται με την τεχνολογία με τη στενή έννοια, αλλά να κατανοείται ως μια ευρύτερη κοινωνική και πολιτισμική λογική.
Η διάκριση αυτή είναι καθοριστική. Αν η τεχνολογία ήταν απλώς ένα σύνολο εργαλείων, τότε το πρόβλημα θα ήταν σχετικά απλό. Ο άνθρωπος θα μπορούσε να επιλέξει αν θα χρησιμοποιήσει ένα εργαλείο και για ποιον σκοπό. Ένα σφυρί μπορεί να χρησιμοποιηθεί για να χτιστεί ένα σπίτι ή για να καταστραφεί κάτι, το εργαλείο από μόνο του δεν αποφασίζει. Ο Ellul, όμως, υποστήριζε ότι στη σύγχρονη κοινωνία έχει συμβεί κάτι διαφορετικό. Η λογική της αποτελεσματικότητας έχει αρχίσει να διεισδύει σε ολόκληρο τον κοινωνικό οργανισμό. Δεν ρωτάμε πλέον μόνο αν ένας στόχος είναι καλός, δίκαιος ή ανθρώπινος. Ρωτάμε πόσο γρήγορα μπορεί να επιτευχθεί, πόσο φθηνά, πόσο μετρήσιμα και πόσο αποτελεσματικά. Με αυτόν τον τρόπο, η τεχνική λογική μπορεί να μετατρέψει ακόμη και ζητήματα που κάποτε ανήκαν στην ηθική ή στην πολιτική σε προβλήματα τεχνικής βελτιστοποίησης. Η κοινωνία αρχίζει να συμπεριφέρεται σαν ένα τεράστιο σύστημα που πρέπει συνεχώς να γίνει αποδοτικότερο.
Εδώ βρίσκεται η πρώτη μεγάλη ανατροπή της σκέψης του Ellul. Η σύγχρονη κοινωνία δεν είναι απλώς μια κοινωνία που χρησιμοποιεί πολλές τεχνολογίες. Είναι μια κοινωνία που έχει αρχίσει να σκέφτεται με τεχνικούς όρους. Η διοίκηση οργανώνεται για μεγαλύτερη αποτελεσματικότητα, η παραγωγή για μεγαλύτερη απόδοση, η εκπαίδευση για μετρήσιμα αποτελέσματα, η επικοινωνία για μεγαλύτερη ταχύτητα και η οικονομία για συνεχή βελτιστοποίηση. Ακόμη και η ανθρώπινη συμπεριφορά μπορεί να αντιμετωπιστεί ως κάτι που πρέπει να μετρηθεί, να προβλεφθεί και να τροποποιηθεί. Με αυτή την έννοια, η Τεχνική δεν βρίσκεται έξω από την κοινωνία. Γίνεται το ίδιο το περιβάλλον μέσα στο οποίο η κοινωνία λειτουργεί. Η International Jacques Ellul Society σημειώνει χαρακτηριστικά ότι, σύμφωνα με τον Ellul, η τεχνική δεν αποτελεί πλέον έναν δευτερεύοντα παράγοντα ενταγμένο σε μια μη τεχνική κοινωνία, αλλά έχει μετατραπεί σε κυρίαρχο παράγοντα, από τον οποίο εξαρτώνται ολοένα περισσότερες κοινωνικές λειτουργίες.
Αυτό εξηγεί και γιατί η σκέψη του Ellul δεν πρέπει να διαβαστεί ως μια απλή επίθεση εναντίον των μηχανών. Ο ίδιος δεν υποστήριζε ότι κάθε τεχνολογική εξέλιξη είναι κακή ή ότι πρέπει να επιστρέψουμε σε έναν προνεωτερικό κόσμο. Το ερώτημά του ήταν πολύ πιο δύσκολο, ποια είναι η κοινωνική θέση της τεχνολογικής λογικής όταν αυτή γίνεται κυρίαρχη; Και κυρίως, ποιος αποφασίζει πότε μια τεχνική έχει φτάσει αρκετά μακριά; Αν μια νέα μέθοδος είναι ταχύτερη, φθηνότερη και αποτελεσματικότερη από την προηγούμενη, πόσο εύκολο είναι για μια κοινωνία να αρνηθεί τη χρήση της επειδή μπορεί να έχει συνέπειες που δεν μπορούν να μετρηθούν;
Από εδώ αρχίζει η πραγματική δυστοπική διάσταση της σκέψης του Ellul. Δεν χρειάζεται να φανταστούμε ένα μέλλον όπου οι μηχανές αποκτούν συνείδηση και αποφασίζουν να εξοντώσουν την ανθρωπότητα. Η δυστοπία μπορεί να είναι πολύ πιο ήσυχη. Μπορεί να εμφανιστεί όταν μια κοινωνία αποδέχεται σταδιακά την ιδέα ότι κάθε πρόβλημα έχει μια τεχνική λύση και ότι η καλύτερη λύση είναι εκείνη που επιτυγχάνει το καλύτερο αποτέλεσμα. Τότε η τεχνολογία δεν χρειάζεται να μας διατάξει. Αρκεί να μας πείσει ότι η επιλογή της είναι η μόνη λογική επιλογή.
Εδώ βρίσκεται ίσως η πιο σημαντική και πιο παρεξηγημένη ιδέα του Ellul, η αυτονομία της τεχνικής. Ο όρος δεν σημαίνει ότι η τεχνολογία αποκτά κυριολεκτικά ανθρώπινη συνείδηση ή ότι οι μηχανές ανεξαρτητοποιούνται από κάθε ανθρώπινο παράγοντα. Ο Ellul μιλά για κάτι πιο σύνθετο. Η τεχνική αποκτά μια εσωτερική δυναμική, έναν τρόπο εξέλιξης που περιορίζει ολοένα περισσότερο την ανθρώπινη δυνατότητα να καθορίζει την κατεύθυνσή της. Σε μια τεχνικά οργανωμένη κοινωνία, οι άνθρωποι συνεχίζουν να παίρνουν αποφάσεις, αλλά οι διαθέσιμες επιλογές τους διαμορφώνονται ήδη από το τεχνικό περιβάλλον μέσα στο οποίο καλούνται να αποφασίσουν. Σύγχρονες αναλύσεις της σκέψης του Ellul περιγράφουν αυτή την ιδέα ακριβώς ως μετατόπιση της επιρροής, η επιρροή των ανθρώπων πάνω στην τεχνική γίνεται λιγότερο αποφασιστική σε σχέση με την επιρροή που ασκεί η τεχνική πάνω στους ανθρώπους.
Ένα από τα πιο χαρακτηριστικά στοιχεία αυτής της λογικής είναι αυτό που ο Ellul ονομάζει αυτοματισμό της τεχνικής επιλογής (automatism of technical choice). Όταν μια μέθοδος αποδεικνύεται μετρήσιμα αποτελεσματικότερη από μια άλλη, η επιλογή αρχίζει να μοιάζει αυτονόητη. Αν ένας αλγόριθμος μπορεί να επεξεργαστεί εκατομμύρια δεδομένα σε δευτερόλεπτα, γιατί να χρησιμοποιήσουμε έναν άνθρωπο; Αν ένα σύστημα μπορεί να προβλέψει καλύτερα μια συμπεριφορά, γιατί να βασιστούμε αποκλειστικά στην ανθρώπινη κρίση; Αν μια μηχανή μπορεί να λειτουργεί όλο το εικοσιτετράωρο χωρίς διακοπή, γιατί να διατηρήσουμε μια διαδικασία που εξαρτάται από τα ανθρώπινα ωράρια; Η τεχνική απάντηση μοιάζει αυτονόητη επειδή βασίζεται σε αριθμούς. Αλλά η πραγματική ερώτηση βρίσκεται αλλού, ποιος αποφάσισε ότι η αποτελεσματικότητα είναι το υπέρτατο κριτήριο;
Αυτό είναι ένα σημείο στο οποίο ο Ellul γίνεται ιδιαίτερα επίκαιρος. Η τεχνική λογική έχει την τάση να διαχωρίζει τα μέσα από τους σκοπούς. Μπορεί να απαντήσει εξαιρετικά στο ερώτημα «πώς θα το κάνουμε;», αλλά δυσκολεύεται να απαντήσει στο «γιατί πρέπει να το κάνουμε;». Ένα σύστημα μπορεί να γίνει εξαιρετικά αποτελεσματικό στην παρακολούθηση πολιτών, στην αξιολόγηση εργαζομένων, στην πρόβλεψη καταναλωτικών συμπεριφορών ή στην αυτοματοποίηση αποφάσεων χωρίς να απαντά από μόνο του αν αυτές οι δραστηριότητες είναι επιθυμητές. Η τεχνική μπορεί να βελτιστοποιήσει ένα μέσο χωρίς να αξιολογεί επαρκώς τον σκοπό. Σύγχρονη βιβλιογραφία για την αυτονομία της τεχνολογίας επισημαίνει ακριβώς αυτή τη διάσταση της σκέψης του Ellul, η τεχνική ορθολογικότητα υποτάσσει διαφορετικές μορφές κοινωνικής ορθολογικότητας σε μια λογική απόλυτης αποτελεσματικότητας και μετατρέπει ολοένα περισσότερα πράγματα σε μέσα.
Το πρόβλημα γίνεται ακόμη βαθύτερο εξαιτίας της αυτοαύξησης της τεχνικής. Μια τεχνολογία δεν εμφανίζεται ποτέ εντελώς μόνη. Δημιουργεί ανάγκες για άλλες τεχνολογίες, οι οποίες με τη σειρά τους δημιουργούν νέες υποδομές, νέα επαγγέλματα, νέες εξαρτήσεις και νέες τεχνικές. Ο ηλεκτρισμός δημιούργησε την ανάγκη για δίκτυα. Τα δίκτυα δημιούργησαν νέες μορφές επικοινωνίας. Οι ψηφιακές επικοινωνίες δημιούργησαν τεράστιες υποδομές δεδομένων. Τα δεδομένα δημιούργησαν την ανάγκη για συστήματα επεξεργασίας. Η τεχνητή νοημοσύνη απαιτεί ακόμη περισσότερα δεδομένα, υπολογιστική ισχύ, κέντρα δεδομένων, δίκτυα και αυτοματοποιημένα συστήματα. Κάθε νέο επίπεδο τεχνολογίας δημιουργεί τις προϋποθέσεις για το επόμενο. Έτσι σχηματίζεται ένα τεχνικό οικοσύστημα τόσο περίπλοκο και αλληλοεξαρτώμενο ώστε κανένας μεμονωμένος άνθρωπος και καμία μεμονωμένη ομάδα να μην το ελέγχει συνολικά. Η σύγχρονη μελέτη της σκέψης του Ellul περιγράφει αυτή τη διαδικασία ως αυξανόμενη κλίμακα, αδιαφάνεια, αλληλεξάρτηση και αλληλοενίσχυση των τεχνολογικών συστημάτων.
Αυτό όμως δεν σημαίνει ότι ο Ellul θεωρούσε την ανθρώπινη ελευθερία εντελώς χαμένη. Εδώ χρειάζεται προσοχή, γιατί ο Ellul έχει συχνά παρουσιαστεί ως απόλυτος τεχνολογικός ντετερμινιστής, σαν να υποστήριζε ότι η ανθρωπότητα δεν μπορεί να κάνει τίποτα. Η εικόνα αυτή είναι υπερβολικά απλή. Σύγχρονες ερμηνείες της σκέψης του υποστηρίζουν ότι η θέση του δεν είναι τόσο μοιρολατρική όσο συχνά θεωρείται και ότι ο Ellul αφήνει χώρο για συνειδητή αντίσταση, αυτοκριτική και αναζήτηση μιας διαφορετικής σχέσης με την τεχνολογία.
Το πραγματικό πρόβλημα, λοιπόν, δεν είναι ότι η τεχνική γίνεται ανεξάρτητη από τον άνθρωπο με απόλυτο τρόπο. Είναι ότι ο άνθρωπος προσαρμόζεται στις απαιτήσεις της. Αυτό αποτελεί μια αντιστροφή που είναι πολύ πιο ενδιαφέρουσα από το κλασικό σενάριο της μηχανικής επανάστασης. Δεν χρειάζεται η μηχανή να υποδουλώσει τον άνθρωπο, όταν ο άνθρωπος έχει ήδη οργανώσει τη ζωή του έτσι ώστε να υπηρετεί τις ανάγκες της μηχανής. Η τεχνολογία γίνεται τότε αυτόνομη όχι επειδή λειτουργεί χωρίς ανθρώπους, αλλά επειδή οι άνθρωποι αρχίζουν να λειτουργούν σύμφωνα με τη λογική της.
Αν ο Ellul είχε δίκιο, το ενδιαφέρον σήμερα δεν βρίσκεται στο να αναζητήσουμε αν κάποια συγκεκριμένη τεχνολογία είναι καλή ή κακή. Βρίσκεται στο να εξετάσουμε τι είδους κοινωνία δημιουργείται όταν πολλές τεχνολογίες συνδέονται μεταξύ τους και αποκτούν τη δυνατότητα να μετρούν, να προβλέπουν και να επηρεάζουν την ανθρώπινη συμπεριφορά. Η ψηφιακή εποχή αποτελεί ίσως το πιο καθαρό παράδειγμα αυτού του προβλήματος. Για πρώτη φορά στην ιστορία, τεράστιες ποσότητες πληροφοριών για την ανθρώπινη συμπεριφορά μπορούν να συλλέγονται, να αποθηκεύονται και να αναλύονται σχεδόν σε πραγματικό χρόνο. Οι κινήσεις μας, οι αναζητήσεις μας, οι προτιμήσεις μας, οι επαφές μας, οι αγορές μας και οι αντιδράσεις μας μπορούν να μετατραπούν σε δεδομένα. Και τα δεδομένα αυτά μπορούν στη συνέχεια να τροφοδοτήσουν αλγοριθμικά συστήματα που δεν περιγράφουν απλώς τη συμπεριφορά αλλά προσπαθούν να την προβλέψουν.
Εδώ η σκέψη του Ellul συναντά μια από τις πιο χαρακτηριστικές δυστοπικές τάσεις της εποχής μας, την αλγοριθμική διαχείριση του ανθρώπου. Ο αλγόριθμος μπορεί να προτείνει τι θα παρακολουθήσουμε, τι θα αγοράσουμε, ποιο περιεχόμενο θα εμφανιστεί μπροστά μας, ποιον θα γνωρίσουμε, ποια είδηση θα διαβάσουμε ή ποια εργασία μπορεί να μας ταιριάζει. Καθεμία από αυτές τις λειτουργίες μπορεί να παρουσιάζεται ως υπηρεσία που μας εξοικονομεί χρόνο. Και πράγματι, συχνά είναι. Το πρόβλημα βρίσκεται στο σωρευτικό αποτέλεσμα. Όταν όλο και περισσότερες αποφάσεις μεταφέρονται σε συστήματα που λειτουργούν με βάση την πρόβλεψη και τη βελτιστοποίηση, η ανθρώπινη επιλογή δεν εξαφανίζεται ξαφνικά, στενεύει αθόρυβα.
Η τεχνητή νοημοσύνη επιταχύνει αυτή τη διαδικασία. Για πρώτη φορά, δεν μιλάμε μόνο για μηχανές που εκτελούν προκαθορισμένες εντολές. Μιλάμε για συστήματα που μπορούν να αναλύουν γλώσσα, να παράγουν κείμενο και εικόνα, να αναγνωρίζουν μοτίβα, να υποστηρίζουν αποφάσεις, να γράφουν κώδικα και να αλληλεπιδρούν με ανθρώπους. Αυτό δεν σημαίνει ότι η τεχνητή νοημοσύνη έχει αποκτήσει αυτονομία με την έννοια που φανταζόμαστε στην επιστημονική φαντασία. Σημαίνει όμως ότι η κοινωνική αυτονομία της τεχνικής αποκτά ένα νέο επίπεδο, οι άνθρωποι μπορούν να ενσωματώσουν υπολογιστικά συστήματα σε διαδικασίες που προηγουμένως απαιτούσαν ανθρώπινη κρίση, και όσο περισσότερο τα συστήματα αυτά χρησιμοποιούνται, τόσο περισσότερο η κοινωνία προσαρμόζεται στις δυνατότητές τους.
Ένα πρόσφατο ακαδημαϊκό έργο που εξετάζει ρητά την Ellul προβληματική σε σχέση με την AI υποστηρίζει ότι τα χαρακτηριστικά που ο Ellul απέδιδε στη σύγχρονη τεχνική, αυτοματισμός, αυτοαύξηση, σύνδεση των τεχνικών, οικουμενικότητα και αυτονομία, προσφέρουν ένα πλαίσιο για την κατανόηση σύγχρονων ανησυχιών γύρω από την τεχνητή νοημοσύνη. Το ενδιαφέρον εδώ δεν είναι να ισχυριστούμε ότι ο Ellul προέβλεψε τα σημερινά μοντέλα τεχνητής νοημοσύνης, αλλά ότι η θεωρία του μπορεί να χρησιμοποιηθεί για να εξετάσουμε το κοινωνικό περιβάλλον μέσα στο οποίο αυτά τα μοντέλα αποκτούν δύναμη.
Και ίσως αυτό είναι το σημείο όπου η δυστοπία του 21ου αιώνα διαφοροποιείται από τις κλασικές δυστοπίες του George Orwell ή του Aldous Huxley. Στον Orwell, το κράτος παρακολουθεί και ελέγχει. Στον Huxley, η κοινωνία έχει διαμορφωθεί έτσι ώστε οι άνθρωποι να αγαπούν τη θέση τους μέσα στο σύστημα. Στον cyberpunk κόσμο του William Gibson, η τεχνολογία έχει διαποτίσει την οικονομία και την ανθρώπινη συνείδηση. Σήμερα όλα αυτά μπορούν να συνυπάρξουν μέσα σε ένα ενιαίο ψηφιακό περιβάλλον. Η επιτήρηση μπορεί να είναι ιδιωτική ή κρατική, η χειραγώγηση μπορεί να είναι αλγοριθμική και η συμμετοχή μας στο σύστημα μπορεί να είναι απολύτως εθελοντική.
Αυτό το τελευταίο στοιχείο είναι ιδιαίτερα σημαντικό. Η σύγχρονη τεχνολογική δυστοπία δεν χρειάζεται απαραίτητα καταναγκασμό. Μπορεί να βασίζεται στην ευκολία. Ο χρήστης εγκαθιστά την εφαρμογή επειδή τον εξυπηρετεί. Παραχωρεί δεδομένα επειδή θέλει μια καλύτερη υπηρεσία. Χρησιμοποιεί την τεχνητή νοημοσύνη επειδή εξοικονομεί χρόνο. Αποδέχεται την αυτοματοποίηση επειδή αυξάνει την παραγωγικότητα. Και κάθε μεμονωμένη απόφαση μπορεί να είναι λογική. Το συνολικό αποτέλεσμα, όμως, μπορεί να είναι η δημιουργία μιας κοινωνίας όπου η τεχνική υποδομή γίνεται τόσο απαραίτητη ώστε η απομάκρυνση από αυτή να μοιάζει αδύνατη.
Εδώ η ερώτηση επιστρέφει με νέα μορφή, ποιος αποφασίζει για την κατεύθυνση του συστήματος όταν κανείς δεν το ελέγχει στο σύνολό του; Οι μηχανικοί σχεδιάζουν τα μοντέλα, οι επιχειρήσεις επιδιώκουν οικονομικό όφελος, τα κράτη αναζητούν στρατηγικό πλεονέκτημα, οι χρήστες αναζητούν ευκολία και οι επενδυτές αναζητούν ανάπτυξη. Κανένας από αυτούς τους παράγοντες δεν χρειάζεται να επιθυμεί μια δυστοπία. Κι όμως, το άθροισμα των επιμέρους κινήσεων μπορεί να οδηγήσει σε ένα σύστημα που κανείς δεν σχεδίασε συνολικά. Αυτή ακριβώς η ιδέα κάνει τον Ellul τόσο ενδιαφέροντα για την εποχή της τεχνητής νοημοσύνης.
Μέχρι εδώ, η τεχνική οργανώνει την κοινωνία. Το επόμενο βήμα είναι πολύ πιο ριζοσπαστικό, τι συμβαίνει όταν η τεχνολογία αρχίζει να οργανώνει τον ίδιο τον άνθρωπο; Εδώ συναντάμε τον μετανθρωπισμό. Ο μετανθρωπισμός δεν αποτελεί ένα ενιαίο φιλοσοφικό κίνημα με μία μόνο θέση, αλλά ένας ευρύς χώρος ιδεών που αντιμετωπίζει τις τεχνολογίες ενίσχυσης του ανθρώπου ως πιθανό μέσο υπέρβασης ορισμένων βιολογικών περιορισμών. Η συζήτηση περιλαμβάνει τη γενετική μηχανική, τις νευροτεχνολογίες, τα τεχνητά όργανα, τα προσθετικά συστήματα, την τεχνητή νοημοσύνη και, σε πιο ακραίες εκδοχές, την πιθανότητα ψηφιακής μεταφοράς ή αναπαράστασης της ανθρώπινης συνείδησης.
Σε πρώτη ανάγνωση, αυτή η εξέλιξη μπορεί να φαίνεται σαν το ακριβώς αντίθετο της δυστοπίας. Αν η τεχνολογία μπορεί να θεραπεύσει ασθένειες, να αποκαταστήσει λειτουργίες, να επεκτείνει τις ανθρώπινες δυνατότητες και να μειώσει τον πόνο, γιατί να φοβόμαστε; Το ερώτημα είναι απολύτως λογικό. Και ακριβώς γι’ αυτό η συζήτηση πρέπει να ξεφύγει από την απλοϊκή αντίθεση «τεχνολογίας εναντίον ανθρώπου». Το κρίσιμο ζήτημα δεν είναι αν η τεχνολογία μπορεί να βελτιώσει τη ζωή. Είναι τι είδους άνθρωπο δημιουργούμε όταν η βελτιστοποίηση γίνεται ο κυρίαρχος τρόπος με τον οποίο αντιλαμβανόμαστε την ανθρώπινη ζωή.
Εδώ η Ellul σκέψη αποκτά μια απρόσμενη διάσταση. Αν η τεχνική επιδιώκει τη μέγιστη αποτελεσματικότητα σε κάθε πεδίο, τότε ο άνθρωπος μπορεί κάποια στιγμή να γίνει και ο ίδιος αντικείμενο τεχνικής αξιολόγησης. Δεν αρκεί πλέον να διορθώσουμε μια ασθένεια. Μπορούμε να αναρωτηθούμε αν μπορούμε να βελτιώσουμε τη μνήμη. Δεν αρκεί να αποκαταστήσουμε ένα κατεστραμμένο νευρικό σύστημα. Μπορούμε να εξετάσουμε αν μπορούμε να αυξήσουμε τις γνωστικές ικανότητες. Δεν αρκεί να αντικαταστήσουμε ένα χαμένο άκρο. Μπορούμε να αναρωτηθούμε αν ένα τεχνητό άκρο μπορεί να γίνει καλύτερο από το βιολογικό.
Και τότε εμφανίζεται μια παράδοξη μεταμόρφωση. Η τεχνολογία, που ξεκίνησε ως μέσο για να ξεπεράσει ο άνθρωπος τους περιορισμούς του φυσικού κόσμου, μπορεί να καταλήξει να ορίζει ποιοι περιορισμοί θεωρούνται πλέον απαράδεκτοι. Η γήρανση γίνεται πρόβλημα προς επίλυση. Η βιολογική αδυναμία γίνεται τεχνικό ελάττωμα. Η περιορισμένη μνήμη γίνεται αναποτελεσματικότητα. Η αδυναμία συγκέντρωσης γίνεται ζήτημα βελτιστοποίησης. Ο άνθρωπος αρχίζει να αντιμετωπίζει τον εαυτό του ως έργο μηχανικής.
Αυτό δεν σημαίνει ότι κάθε μορφή ανθρώπινης ενίσχυσης οδηγεί αναπόφευκτα σε δυστοπία. Η ιστορία της ιατρικής δείχνει ότι η τεχνολογία έχει ήδη μεταμορφώσει ριζικά τα όρια του ανθρώπινου σώματος. Η πραγματική πρόκληση βρίσκεται στο σημείο όπου η θεραπεία συναντά την ενίσχυση και η ενίσχυση συναντά την κανονικοποίηση. Αν μια τεχνολογία είναι διαθέσιμη, θα γίνει κάποια στιγμή υποχρεωτική έμμεσα; Αν όλοι μπορούν να ενισχύσουν μια συγκεκριμένη ικανότητα, θα θεωρείται σύντομα μειονέκτημα να μην το κάνουν; Και αν η αγορά, η εκπαίδευση ή η εργασία επιβραβεύουν τους «ενισχυμένους», πόσο ελεύθερη είναι η απόφαση εκείνου που επιλέγει να παραμείνει βιολογικά μη τροποποιημένος;
Εδώ συναντώνται οι ανησυχίες διαφορετικών στοχαστών. Ο Francis Fukuyama έχει υποστηρίξει ότι η βιοτεχνολογία μπορεί να επηρεάσει την ίδια την έννοια της ανθρώπινης φύσης και, μαζί της, θεμελιώδεις ιδέες περί ισότητας και ανθρώπινων δικαιωμάτων. Ο Jürgen Habermas έχει εξετάσει την επίδραση της γενετικής τροποποίησης στην αυτονομία και στην αυτοαντίληψη του ανθρώπου. Ο Michael Sandel έχει θέσει το ηθικό πρόβλημα της επιδίωξης της «τελειότητας» και της προσπάθειας να ελέγξουμε χαρακτηριστικά που κάποτε θεωρούσαμε μέρος της τύχης και της ανθρώπινης ευαλωτότητας. Ο Nick Bostrom, από διαφορετική αφετηρία, αντιμετωπίζει την ανθρώπινη ενίσχυση ως πιθανό δρόμο προς νέες μορφές ανθρώπινης ύπαρξης, ενώ παράλληλα εξετάζει τους υπαρξιακούς κινδύνους της υπερευφυούς τεχνολογίας. Η μεταξύ τους διαφωνία είναι σημαντική ακριβώς επειδή δείχνει ότι το πρόβλημα δεν έχει μία προφανή λύση.
Ο Ellul προσθέτει σε αυτή τη συζήτηση ένα διαφορετικό ερώτημα. Ποιος αποφασίζει ότι πρέπει να βελτιστοποιήσουμε τον άνθρωπο; Αν η απάντηση είναι «επειδή είναι τεχνικά δυνατό», τότε έχουμε ήδη εισέλθει στη λογική της τεχνικής. Αν η απάντηση είναι «επειδή θα αυξήσει την αποτελεσματικότητα», τότε το κριτήριο έχει ήδη μετατοπιστεί από το ανθρώπινο νόημα στην τεχνική απόδοση. Και αν τελικά ο άνθρωπος αισθανθεί υποχρεωμένος να τροποποιήσει τον εαυτό του για να παραμείνει ανταγωνιστικός, τότε η τεχνολογία δεν θα έχει απλώς βελτιώσει τον άνθρωπο. Θα έχει αλλάξει τους όρους σύμφωνα με τους οποίους ο άνθρωπος πρέπει να υπάρχει.
Το ενδεχόμενο αυτό είναι ιδιαίτερα εμφανές στην εποχή της τεχνητής νοημοσύνης. Αν η τεχνητή νοημοσύνη μπορεί να γράφει, να υπολογίζει, να αναλύει, να δημιουργεί εικόνες, να προγραμματίζει και να επεξεργάζεται πληροφορίες ταχύτερα από έναν άνθρωπο, τότε η κοινωνία μπορεί να αρχίσει να επαναπροσδιορίζει την αξία της ανθρώπινης εργασίας. Στην αρχή είναι εργαλείο. Στη συνέχεια γίνεται συνεργάτης. Αργότερα μπορεί να γίνει πρότυπο παραγωγικότητας. Και τότε ο άνθρωπος αρχίζει να συγκρίνεται με τη μηχανή που ο ίδιος δημιούργησε. Αυτό είναι ίσως ένα από τα πιο βαθιά σημεία όπου η Ellul προβληματική συναντά τον μετανθρωπισμό, η τεχνολογία δεν χρειάζεται να αντικαταστήσει τον άνθρωπο για να τον μεταμορφώσει. Αρκεί να αλλάξει το περιβάλλον μέσα στο οποίο ο άνθρωπος πρέπει να επιβιώσει.
Η τελική συνέπεια θα μπορούσε να είναι μια κοινωνία στην οποία ο «βελτιωμένος άνθρωπος» δεν αποτελεί πλέον εξαίρεση αλλά πρότυπο. Τότε ο μη ενισχυμένος άνθρωπος μπορεί να θεωρείται αργός, αναποτελεσματικός ή ανεπαρκής. Η διαφορά ανάμεσα στη θεραπεία, στην ενίσχυση και στην υποχρέωση μπορεί να γίνει δυσδιάκριτη. Και αυτό μας φέρνει στο πιο σκοτεινό ενδεχόμενο, μήπως ο μετανθρωπισμός δεν χρειάζεται να επιβληθεί από κάποιο αυταρχικό καθεστώς, αλλά μπορεί να προκύψει από την ίδια την κοινωνική πίεση για διαρκή βελτιστοποίηση;
Ίσως τελικά αυτό να είναι το πιο ενδιαφέρον στοιχείο της σκέψης του Jacques Ellul για τον σύγχρονο κόσμο. Δεν μας προσφέρει ένα εύκολο σενάριο για το μέλλον. Δεν μας λέει ότι οι μηχανές θα αποκτήσουν συνείδηση, ότι η τεχνητή νοημοσύνη θα στραφεί εναντίον μας ή ότι ο άνθρωπος θα εξαφανιστεί από έναν στρατό ρομπότ. Η προειδοποίησή του είναι πιο αργή, πιο αφανής και γι’ αυτό ίσως πιο ανησυχητική. Η τεχνολογική κοινωνία μπορεί να μεταμορφώσει τον άνθρωπο χωρίς να χρειαστεί ποτέ να του κηρύξει πόλεμο.
Ο Ellul μας αναγκάζει να κοιτάξουμε όχι μόνο τις μηχανές που δημιουργούμε, αλλά και τις αξίες που δημιουργούμε μαζί τους. Αν η αποτελεσματικότητα γίνεται σημαντικότερη από το νόημα, αν η ταχύτητα γίνεται σημαντικότερη από την περισυλλογή, αν η πρόβλεψη γίνεται σημαντικότερη από την ελευθερία, αν η βελτιστοποίηση γίνεται σημαντικότερη από την ανθρώπινη ατέλεια, τότε η κοινωνία μπορεί να αλλάξει ακόμη κι αν κάθε μεμονωμένη τεχνολογία φαίνεται χρήσιμη και καλοπροαίρετη.
Η τεχνητή νοημοσύνη κάνει αυτή την προβληματική ακόμη πιο επίκαιρη. Για πρώτη φορά διαθέτουμε τεχνολογικά συστήματα που δεν περιορίζονται στην εκτέλεση μηχανικών εργασιών, αλλά εισέρχονται σε πεδία που παραδοσιακά συνδέαμε με τη γλώσσα, τη δημιουργικότητα, την κρίση και τη γνώση. Το ζήτημα, όμως, δεν είναι αν η τεχνητή νοημοσύνη θα γίνει «άνθρωπος». Ίσως το βαθύτερο ερώτημα είναι αν ο άνθρωπος θα αρχίσει να γίνεται περισσότερο σαν τη μηχανή, πιο μετρήσιμος, πιο προβλέψιμος, πιο αποδοτικός, πιο διασυνδεδεμένος, περισσότερο εξαρτημένος από συστήματα που κανείς δεν κατανοεί στο σύνολό τους.
Και εδώ ο Ellul αποκτά μια θέση ανάμεσα στους σημαντικότερους στοχαστές της δυστοπίας, ακόμη κι αν ο ίδιος δεν έγραψε δυστοπική λογοτεχνία. Η σκέψη του μπορεί να συνομιλήσει με τον Orwell, τον Huxley, τον Philip K. Dick και τον William Gibson, όχι επειδή όλοι υποστήριξαν τις ίδιες ιδέες, αλλά επειδή εξερεύνησαν διαφορετικές εκδοχές ενός κοινού φόβου, τι συμβαίνει όταν τα συστήματα που δημιουργήσαμε αρχίζουν να διαμορφώνουν την πραγματικότητα μέσα στην οποία ζούμε;
Στον Orwell, το σύστημα ελέγχει τη σκέψη. Στον Huxley, το σύστημα κάνει τον έλεγχο ευχάριστο. Στον Dick, η τεχνολογία θολώνει τα όρια ανάμεσα στο πραγματικό και στο τεχνητό. Στον Gibson, η τεχνολογία γίνεται το ίδιο το περιβάλλον της ανθρώπινης ύπαρξης. Στον Ellul, όμως, βρίσκεται ένα διαφορετικό θεμέλιο, η τεχνική ως κοινωνική λογική. Δεν χρειάζεται κάποιος να σχεδιάσει τη δυστοπία. Μπορεί να προκύψει από εκατομμύρια μικρές, λογικές, αποτελεσματικές αποφάσεις που όλες κινούνται προς την ίδια κατεύθυνση.
Αυτό είναι και το πιο σκοτεινό συμπέρασμα. Η δυστοπία δεν χρειάζεται να εμφανιστεί ως καταστροφή. Μπορεί να εμφανιστεί ως πρόοδος.
Μπορεί να έρθει με τη μορφή μιας εφαρμογής που κάνει τη ζωή ευκολότερη, ενός αλγορίθμου που κάνει μια διαδικασία ταχύτερη, μιας κάμερας που υπόσχεται μεγαλύτερη ασφάλεια, ενός συστήματος τεχνητής νοημοσύνης που αυξάνει την παραγωγικότητα, μιας βιοτεχνολογίας που υπόσχεται καλύτερη υγεία ή ενός νευροτεχνολογικού συστήματος που υπόσχεται να επεκτείνει τις ανθρώπινες ικανότητες. Καμία από αυτές τις εξελίξεις δεν είναι από μόνη της η δυστοπία. Η δυστοπία μπορεί να βρίσκεται στη στιγμή κατά την οποία παύουμε να αναρωτιόμαστε αν θέλουμε πραγματικά την κατεύθυνση προς την οποία μας οδηγούν.
Και ίσως εδώ βρίσκεται η μεγαλύτερη αξία της σκέψης του Ellul για τον 21ο αιώνα. Δεν μας ζητά να φοβηθούμε την τεχνολογία. Μας ζητά να είμαστε αρκετά ελεύθεροι ώστε να την κρίνουμε. Να διαχωρίζουμε το «μπορούμε» από το «πρέπει». Να αναρωτιόμαστε αν κάθε αύξηση της αποτελεσματικότητας αποτελεί πράγματι πρόοδο. Και κυρίως, να θυμόμαστε ότι ένα τεχνικά άριστο σύστημα μπορεί να υπηρετεί έναν σκοπό που κοινωνικά, ηθικά ή ανθρώπινα δεν είναι καθόλου άριστος.
Το ερώτημα, λοιπόν, δεν είναι μόνο αν η τεχνολογία μπορεί να γίνει αυτόνομη κοινωνική δύναμη. Η πιο δύσκολη ερώτηση είναι αν εμείς θα παραμείνουμε αρκετά αυτόνομοι ώστε να μπορούμε ακόμη να της πούμε όχι. Γιατί η πραγματική δυστοπία ίσως δεν είναι η ημέρα κατά την οποία οι μηχανές θα καταλάβουν τον κόσμο.
Ίσως είναι η ημέρα κατά την οποία θα κοιτάξουμε γύρω μας και θα συνειδητοποιήσουμε ότι δεν χρειάστηκε ποτέ να τον καταλάβουν.
Ο άνθρωπος δημιούργησε την τεχνική για να απελευθερωθεί από τους περιορισμούς της φύσης. Δημιούργησε μηχανές για να πολλαπλασιάσει τη δύναμή του, δίκτυα για να ξεπεράσει την απόσταση, υπολογιστές για να επεκτείνει τη μνήμη και τη σκέψη του και τεχνητή νοημοσύνη για να επεκτείνει ακόμη περισσότερο τις γνωστικές του δυνατότητες. Το επόμενο ερώτημα, όμως, είναι το πιο παράδοξο από όλα, καθώς δημιουργούμε συστήματα που γίνονται ολοένα ισχυρότερα, ποιος ακριβώς προσαρμόζεται σε ποιον;
Εάν η απάντηση είναι ότι η τεχνολογία προσαρμόζεται στον άνθρωπο, τότε η ιστορία παραμένει μια ιστορία εργαλείων και δημιουργών.
Εάν όμως η απάντηση αρχίσει να αντιστρέφετα, εάν ο άνθρωπος προσαρμόζεται στις απαιτήσεις της τεχνικής, της αυτοματοποίησης, της τεχνητής νοημοσύνης και της διαρκούς βελτιστοποίησης, τότε έχουμε περάσει σε ένα διαφορετικό ιστορικό στάδιο.
Και εκεί, ακριβώς εκεί, αρχίζει η πραγματική συζήτηση για τη δυστοπία και τον μετανθρωπισμό.
