Οι αλγόριθμοι της εξουσίας. Πώς οι μηχανές αναζήτησης διαμορφώνουν τη σκέψη μας σύμφωνα με τον Robert Epstein.

Οι αλγόριθμοι της εξουσίας. Πώς οι μηχανές αναζήτησης διαμορφώνουν τη σκέψη μας σύμφωνα με τον Robert Epstein.

Υπάρχουν εποχές στην ιστορία όπου η εξουσία αλλάζει μορφή χωρίς να γίνεται άμεσα αντιληπτή. Δεν εμφανίζεται με τη βία των όπλων ούτε με τις κραυγές των ιδεολογιών. Αντίθετα, εισχωρεί αθόρυβα στην καθημερινότητα, ενσωματώνεται στις συνήθειες, μετατρέπεται σε ευκολία. Στην εποχή της ψηφιακής κυριαρχίας, η εξουσία αυτή δεν επιβάλλεται, προτείνεται απο τις μηχανές αναζήτησης του world wide web. Και το πιο ανησυχητικό στοιχείο δεν είναι ότι υπάρχει, αλλά ότι δύσκολα αναγνωρίζεται ως τέτοια.

Στο επίκεντρο αυτής της μετατόπισης βρίσκεται το έργο του Robert Epstein, ενός ψυχολόγου με εκπαίδευση στο Χάρβαρντ, ο οποίος αφιέρωσε δεκαετίες στην κατανόηση του τρόπου με τον οποίο η τεχνολογία διαμορφώνει την ανθρώπινη συμπεριφορά. Μαθητής του B. F. Skinner και με δημοσιεύσεις σε κορυφαία επιστημονικά περιοδικά όπως το Nature, ο Epstein δεν ανήκει στην κατηγορία των περιθωριακών φωνών. Αντιθέτως, πρόκειται για έναν ερευνητή του συστήματος, που βρέθηκε να το αμφισβητεί εκ των έσω.

Η αφετηρία της σύγκρουσης δεν ήταν κάποια πολιτική θέση ή ιδεολογική αντιπαράθεση. Ήταν ένα ερώτημα, φαινομενικά απλό: Τι θα συνέβαινε αν η ελευθερία της σκέψης δεν είναι τόσο αυτονόητη όσο πιστεύουμε;

Από εκεί και πέρα, η έρευνα άρχισε να ξετυλίγει ένα νήμα που οδηγεί σε έναν κόσμο όπου η πραγματικότητα δεν διαμορφώνεται μόνο από τα γεγονότα, αλλά από την ιεράρχησή τους.

Το 2015, ο Epstein παρουσίασε ένα από τα πιο ανησυχητικά ευρήματα της σύγχρονης ψηφιακής εποχής, το φαινόμενο χειραγώγησης μέσω μηχανών αναζήτησης, γνωστό ως Search Engine Manipulation Effect (SEME). Η βασική του διαπίστωση ήταν ότι η απλή αναδιάταξη των αποτελεσμάτων μιας αναζήτησης μπορεί να επηρεάσει καθοριστικά τη γνώμη ενός χρήστη, χωρίς αυτός να αντιληφθεί την παρέμβαση. Δεν χρειάζονται ψευδείς ειδήσεις, ούτε προπαγανδιστικά μηνύματα. Αρκεί η σειρά. Το τι εμφανίζεται πρώτο και τι χάνεται στις επόμενες σελίδες.

Σε ελεγχόμενα πειράματα, η μεταβολή της άποψης έφτασε έως και το 20%, ενώ σε ορισμένες περιπτώσεις άγγιξε το 80%. Ακόμη πιο ανησυχητικό είναι ότι η συντριπτική πλειονότητα των συμμετεχόντων δεν αντιλήφθηκε ποτέ ότι είχε επηρεαστεί. Πίστευαν ότι είχαν καταλήξει μόνοι τους σε ένα συμπέρασμα, αγνοώντας ότι η διαδρομή προς αυτό είχε ήδη σχεδιαστεί.

Η σημασία αυτής της διαπίστωσης γίνεται πιο έντονη όταν συνδυαστεί με την κυριαρχία εταιρειών όπως η Google, οι οποίες λειτουργούν ως πύλες πρόσβασης στη γνώση. Σε έναν κόσμο όπου η πληροφορία είναι υπερβολική, η επιλογή του τι θα δει κανείς πρώτα αποκτά καθοριστική σημασία. Η μηχανή αναζήτησης δεν είναι πλέον ουδέτερος μεσάζων, είναι ενας επιμελητής της πραγματικότητας.

Η εικόνα γίνεται ακόμη πιο σύνθετη όταν εισέρχεται στο προσκήνιο ο παράγοντας της συλλογής δεδομένων. Η Google, που ξεκίνησε ως ακαδημαϊκό πείραμα στο Stanford University, εξελίχθηκε σε έναν οργανισμό που γνωρίζει όχι μόνο τι αναζητά ο χρήστης, αλλά πού βρίσκεται, πώς κινείται, τι αγοράζει, τι παρακολουθεί. Με πρωτοβουλίες όπως το Project Baseline της Verily, η συλλογή επεκτείνεται πλέον σε βιολογικά δεδομένα, μετατρέποντας το ανθρώπινο σώμα σε πηγή πληροφοριών.

Παράλληλα, οι σχέσεις με εταιρείες όπως η 23andMe ανοίγουν το ενδεχόμενο μιας νέας κατηγορίας δεδομένων, του DNA. Σε αντίθεση με τις συνήθειες ή τις προτιμήσεις, το γενετικό υλικό δεν αλλάζει. Είναι σταθερό, και η αξία του αυξάνεται όσο εξελίσσεται η επιστημονική γνώση. Η δυνατότητα πρόβλεψης ασθενειών ή χαρακτηριστικών πριν αυτά εκδηλωθούν δημιουργεί ένα νέο πεδίο εξουσίας, ένα πεδίο που αγγίζει τον ίδιο τον πυρήνα της ανθρώπινης ύπαρξης.

Αν όλα αυτά μοιάζουν με σενάριο επιστημονικής φαντασίας, η ιστορική διάσταση του διαδικτύου προσθέτει μια απρόσμενη βαρύτητα. Σύμφωνα με τον δημοσιογράφο Yasha Levine και το έργο του “Surveillance Valley” του 2018, οι ρίζες του διαδικτύου (W.W.W. – World Wide Web) συνδέονται με στρατιωτικά και κατασκοπευτικά προγράμματα. Οργανισμοί όπως η DARPA, η NSA και η CIA συμμετείχαν στην ανάπτυξη τεχνολογιών που στόχευαν όχι μόνο στη διακίνηση πληροφοριών, αλλά και στην παρακολούθηση της ανθρώπινης δραστηριότητας.

Σε αυτό το πλαίσιο, η εμφάνιση αλγορίθμων όπως το PageRank αποκτά διαφορετική σημασία. Δεν πρόκειται απλώς για εργαλεία οργάνωσης του χάους της πληροφορίας. Είναι μηχανισμοί που καταγράφουν πρόθεση, ενδιαφέρον, κατεύθυνση. Με άλλα λόγια, μετατρέπουν τη συμπεριφορά σε δεδομένα και τα δεδομένα σε προβλέψεις.

Οι αποκαλύψεις πληροφοριοδοτών, όπως του Zack Vorhies, ενισχύουν την εικόνα ενός συστήματος που λειτουργεί πέρα από τη δημόσια αντίληψη. Έγγραφα που διέρρευσαν έφεραν στο φως εργαλεία όπως μαύρες λίστες περιεχομένου, μηχανισμούς υποβάθμισης και ταξινόμησης πληροφοριών. Δεν πρόκειται απαραίτητα για λογοκρισία με την παραδοσιακή έννοια. Το περιεχόμενο δεν αφαιρείται, απλώς καθίσταται αόρατο.

Η διαφορά είναι κρίσιμη. Σε ένα σύστημα όπου η ορατότητα ισοδυναμεί με ύπαρξη, η αόρατη υποβάθμιση λειτουργεί ως σιωπηλή εξάλειψη. Ο χρήστης διατηρεί την ψευδαίσθηση της ελευθερίας, ενώ το πεδίο επιλογών του έχει ήδη περιοριστεί.

Ένα περιστατικό του 2009 αποκαλύπτει, έστω και στιγμιαία, την έκταση αυτής της δύναμης. Για περίπου σαράντα λεπτά, η Google χαρακτήρισε όλες τις ιστοσελίδες ως επικίνδυνες. Το διαδίκτυο «πάγωσε». Η εξήγηση ήταν ένα τεχνικό λάθος. Ωστόσο, για ορισμένους αναλυτές, το γεγονός λειτούργησε ως υπενθύμιση, ένας και μόνο διακόπτης μπορεί να επηρεάσει την πρόσβαση στην παγκόσμια πληροφορία.

Στο επίπεδο της πολιτικής και της δικαιοσύνης, η εικόνα παραμένει θολή. Οι μεγάλες δικαστικές υποθέσεις που αφορούν την Google επικεντρώνονται κυρίως σε ζητήματα ανταγωνισμού και μονοπωλίου. Όμως, όπως επισημαίνει ο Epstein, τα ουσιαστικά ερωτήματα, η επιρροή στη σκέψη, η ψυχολογική στόχευση, η χειραγώγηση, σπάνια τίθενται στο επίκεντρο.

Ακόμη και σε υποθετικά σενάρια όπου η εταιρεία υποχρεώνεται να αποχωριστεί προϊόντα όπως το Chrome, το πρόβλημα δεν επιλύεται. Η ροή των δεδομένων, οι μηχανισμοί επιρροής και η αρχιτεκτονική των αλγορίθμων παραμένουν άθικτα. Η αλλαγή είναι επιφανειακή, ενώ η ουσία διατηρείται.

Κάπου εδώ, η συζήτηση παύει να είναι τεχνολογική και μετατρέπεται σε φιλοσοφική. Τι σημαίνει ελευθερία σε έναν κόσμο όπου οι επιλογές διαμορφώνονται πριν καν γίνουν αντιληπτές; Ποια είναι η φύση της συνείδησης όταν η πληροφορία που τη διαμορφώνει έχει ήδη φιλτραριστεί;

Η έννοια της κυριαρχίας της συνείδησης, όπως την περιγράφει ο Epstein, δεν αφορά απλώς την αγορά ή την πολιτική. Αφορά την ίδια την ικανότητα του ανθρώπου να σκέφτεται αυτόνομα. Αν μια εταιρεία μπορεί να επηρεάσει τι πιστεύεις, τότε η ιδιοκτησία του λογισμικού καθίσταται δευτερεύουσα. Το κρίσιμο είναι η ιδιοκτησία της σκέψης.

Και έτσι το πιο ανησυχητικό στοιχείο δεν είναι η ύπαρξη αυτών των μηχανισμών, αλλά η αορατότητα τους. Οι αλγόριθμοι δεν ανακοινώνουν την παρουσία τους. Δεν επιβάλλονται με τρόπο εμφανή. Δρουν στο παρασκήνιο, επαναπροσδιορίζοντας την πραγματικότητα χωρίς θόρυβο.

Ο Epstein, αναγνωρίζοντας αυτή την αορατότητα, επιχείρησε να δημιουργήσει ένα σύστημα παρακολούθησης της ίδιας της Google. Μέσα από ένα δίκτυο χρηστών που προσομοιώνουν πραγματική συμπεριφορά, κατέγραψε τις διαφοροποιήσεις στα αποτελέσματα αναζήτησης, αποτυπώνοντας εμπειρικά αυτό που μέχρι πρότινος φαινόταν αφηρημένο.

Το ερώτημα, ωστόσο, παραμένει ανοιχτό. Σε έναν κόσμο όπου η πληροφορία είναι άφθονη αλλά η προσοχή περιορισμένη, ποιος ελέγχει τελικά το φίλτρο; Και αν αυτό το φίλτρο είναι αόρατο, πώς μπορεί να αμφισβητηθεί;

Πιθανότατα η απάντηση να μην βρίσκεται σε κάποια τεχνολογική λύση ή ρυθμιστική παρέμβαση. Ίσως να βρίσκεται στην ίδια την επίγνωση. Στην κατανόηση ότι η πραγματικότητα που βιώνουμε ψηφιακά δεν είναι ουδέτερη. Ότι κάθε αποτέλεσμα, κάθε πρόταση, κάθε «τυχαία» σύσταση μπορεί να αποτελεί μέρος ενός ευρύτερου πλαισίου επιρροής.

Το ζήτημα δεν είναι αν ζούμε μέσα σε ένα σύστημα. Αυτό είναι δεδομένο. Το ζήτημα είναι αν μπορούμε να το αναγνωρίσουμε. Γιατί μόνο τότε υπάρχει η πιθανότητα να το υπερβούμε.

Και αν υπάρχει ένα τελευταίο ερώτημα που αξίζει να τεθεί, είναι το εξής. Αν η σκέψη μας διαμορφώνεται από μηχανισμούς που δεν βλέπουμε, πόσο από αυτό που θεωρούμε δικό μας είναι πραγματικά δικό μας;