Η αρχιτεκτονική της επιτήρησης: Απο το πανοπτικό του Jeremy Bentham στον ψηφιακό παντεπόπτη οφθαλμό του 21ου αιώνα
Η αρχιτεκτονική της επιτήρησης: Απο το πανοπτικό του Jeremy Bentham στον ψηφιακό παντεπόπτη οφθαλμό του 21ου αιώνα
Δεν υπήρξε ποτέ μια ημέρα κατά την οποία η ανθρωπότητα ξύπνησε και διαπίστωσε ότι ζει μέσα σε έναν κόσμο συνεχούς ψηφιακής επιτήρησης. Δεν ανακοινώθηκε κάποιο ιστορικό διάγγελμα, ούτε ψηφίστηκε ένας μοναδικός νόμος που σηματοδότησε το τέλος της ανωνυμίας όπως τη γνωρίζαμε. Η μετάβαση πραγματοποιήθηκε σχεδόν αθόρυβα, μέσα από χιλιάδες μικρές αποφάσεις που έμοιαζαν απολύτως λογικές τη στιγμή που λαμβάνονταν. Μια εφαρμογή που ζητούσε πρόσβαση στην τοποθεσία για να εμφανίζει τον καιρό. Ένα κοινωνικό δίκτυο που επιθυμούσε να γνωρίζει τις προτιμήσεις μας ώστε να προτείνει πιο ενδιαφέρον περιεχόμενο. Μια υπηρεσία χαρτών που αποθήκευε τις διαδρομές μας για να μας βοηθήσει να αποφύγουμε την κίνηση. Ένα ηλεκτρονικό κατάστημα που κατέγραφε τι αγοράσαμε, ώστε να μας προτείνει παρόμοια προϊόντα στο μέλλον. Καμία από αυτές τις λειτουργίες, εξεταζόμενη μεμονωμένα, δεν φαινόταν ιδιαίτερα ανησυχητική. Όλες υπόσχονταν ευκολία, ταχύτητα και καλύτερη εμπειρία χρήσης. Ωστόσο, όταν εκατοντάδες τέτοιες τεχνολογίες άρχισαν να λειτουργούν ταυτόχρονα και να ανταλλάσσουν πληροφορίες μεταξύ τους, δημιουργήθηκε κάτι εντελώς διαφορετικό από αυτό που αρχικά είχε σχεδιαστεί.
Η ιστορία της ψηφιακής επιτήρησης δεν ξεκινά από τις υπηρεσίες πληροφοριών, ούτε από τα σύγχρονα συστήματα τεχνητής νοημοσύνης. Ξεκινά από τον κόσμο της διαφήμισης. Στα τέλη της δεκαετίας του 1990, όταν το διαδίκτυο μετατρεπόταν σταδιακά από ακαδημαϊκό εργαλείο σε παγκόσμια αγορά, οι εταιρείες αναζητούσαν έναν τρόπο να καταλάβουν ποιοι ήταν οι επισκέπτες των ιστοσελίδων τους. Τα πρώτα cookies δημιουργήθηκαν για έναν απολύτως πρακτικό σκοπό, να θυμούνται έναν χρήστη, το καλάθι αγορών του ή τις προτιμήσεις του. Κανείς τότε δεν φανταζόταν ότι λίγες δεκαετίες αργότερα αυτά τα μικρά αρχεία θα εξελίσσονταν σε έναν από τους θεμελιώδεις λίθους μιας παγκόσμιας βιομηχανίας συλλογής δεδομένων αξίας εκατοντάδων δισεκατομμυρίων δολαρίων.
Η πραγματική επανάσταση συνέβη όταν οι εταιρείες συνειδητοποίησαν ότι το σημαντικότερο προϊόν του διαδικτύου δεν ήταν οι ίδιες οι υπηρεσίες που προσέφεραν, αλλά η ανθρώπινη συμπεριφορά. Κάθε αναζήτηση, κάθε κλικ, κάθε παραμονή λίγων δευτερολέπτων πάνω σε μια εικόνα ή ένα βίντεο, κάθε αγορά, κάθε διαδρομή με το κινητό τηλέφωνο στην τσέπη, άρχισε να αντιμετωπίζεται ως πληροφορία με οικονομική αξία. Η προσοχή του ανθρώπου έγινε εμπόρευμα και τα δεδομένα που τη συνοδεύουν εξελίχθηκαν σε μια νέα μορφή πρώτης ύλης, εξίσου πολύτιμη με το πετρέλαιο ή τα σπάνια μέταλλα για τη βιομηχανική εποχή.
Οι περισσότεροι χρήστες εξακολουθούν να πιστεύουν ότι οι προσωποποιημένες διαφημίσεις που βλέπουν οφείλονται αποκλειστικά σε όσα αναζητούν οι ίδιοι μέσα σε μία συγκεκριμένη εφαρμογή. Η πραγματικότητα είναι πολύ πιο σύνθετη. Το σύγχρονο οικοσύστημα της ψηφιακής διαφήμισης λειτουργεί ως ένα τεράστιο δίκτυο ανταλλαγής πληροφοριών, στο οποίο συμμετέχουν εταιρείες ανάπτυξης εφαρμογών, πλατφόρμες κοινωνικής δικτύωσης, ιστοσελίδες, πάροχοι αναλυτικών δεδομένων, διαφημιστικά δίκτυα και εξειδικευμένοι μεσάζοντες δεδομένων. Κάθε φορά που ανοίγει μια εφαρμογή στο κινητό μας τηλέφωνο, ενεργοποιείται μια διαδικασία που διαρκεί ελάχιστα χιλιοστά του δευτερολέπτου αλλά περιλαμβάνει την ανταλλαγή πληροφοριών ανάμεσα σε δεκάδες ή ακόμη και εκατοντάδες διαφορετικούς οργανισμούς. Η διαδικασία αυτή είναι γνωστή ως Real-Time Bidding, μια αυτοματοποιημένη δημοπρασία κατά την οποία διαφορετικές εταιρείες ανταγωνίζονται για το ποια θα εμφανίσει τη διαφήμισή της στον συγκεκριμένο χρήστη. Για να μπορέσουν όμως να αποφασίσουν αν αξίζει να επενδύσουν χρήματα σε αυτή τη διαφήμιση, πρέπει πρώτα να γνωρίζουν όσο το δυνατόν περισσότερα για τον άνθρωπο που βρίσκεται πίσω από την οθόνη.
Έτσι, σχεδόν ανεπαίσθητα, γεννήθηκε μια νέα βιομηχανία. Δεν παράγει αυτοκίνητα, τηλέφωνα ή ηλεκτρονικούς υπολογιστές. Παράγει γνώση για τις συνήθειες δισεκατομμυρίων ανθρώπων. Στο επίκεντρο αυτής της βιομηχανίας βρίσκονται οι λεγόμενοι data brokers, εταιρείες που ελάχιστοι γνωρίζουν αλλά οι οποίες συγκεντρώνουν, ενοποιούν, αναλύουν και μεταπωλούν πληροφορίες που προέρχονται από αμέτρητες διαφορετικές πηγές. Δεν ενδιαφέρονται τόσο για το όνομα ενός ανθρώπου όσο για τη δυνατότητα να αναγνωρίζουν ότι η ίδια ψηφιακή ταυτότητα επισκέπτεται συγκεκριμένα μέρη, αγοράζει συγκεκριμένα προϊόντα, χρησιμοποιεί συγκεκριμένες εφαρμογές και εμφανίζει συγκεκριμένα πρότυπα συμπεριφοράς. Η αξία αυτών των πληροφοριών δεν βρίσκεται στο παρελθόν αλλά στο μέλλον, καθώς επιτρέπουν στους αλγορίθμους να προβλέπουν τι είναι πιθανότερο να κάνει ένας άνθρωπος πριν ακόμη το αποφασίσει ο ίδιος.
Αυτό ακριβώς το σημείο ανέδειξε η καθηγήτρια του Harvard Shoshana Zuboff, όταν εισήγαγε τον όρο Καπιταλιστική Παρακολούθηση (Surveillance Capitalism). Σύμφωνα με την ανάλυσή της, οι μεγάλες ψηφιακές πλατφόρμες δεν περιορίζονται πλέον στην καταγραφή της ανθρώπινης δραστηριότητας. Μετατρέπουν αυτή τη δραστηριότητα σε προβλέψιμο και εμπορεύσιμο προϊόν. Η ανθρώπινη συμπεριφορά δεν αποτελεί απλώς αντικείμενο παρατήρησης, μετασχηματίζεται σε οικονομικό πόρο που μπορεί να αναλυθεί, να προβλεφθεί και, σε ορισμένες περιπτώσεις, να επηρεαστεί. Πρόκειται για μια μετατόπιση ιστορικής σημασίας. Στη βιομηχανική εποχή οι επιχειρήσεις παρήγαν αγαθά. Στην ψηφιακή εποχή παράγουν προβλέψεις.
Η εικόνα γίνεται ακόμη πιο ενδιαφέρουσα όταν συνειδητοποιήσει κανείς ότι η πλειονότητα αυτής της διαδικασίας πραγματοποιείται χωρίς να απαιτείται κάποια εντυπωσιακή τεχνολογία κατασκοπείας. Για χρόνια κυκλοφορούσε η δημοφιλής αντίληψη ότι τα κινητά τηλέφωνα ακούν διαρκώς τις συνομιλίες μας για να μας εμφανίζουν σχετικές διαφημίσεις. Αν και δεν υπάρχουν πειστικά στοιχεία που να αποδεικνύουν ότι αυτή είναι η βασική πρακτική των μεγάλων πλατφορμών, η πραγματικότητα αποδεικνύεται συχνά πιο ενδιαφέρουσα. Δεν χρειάζεται να ακούσουν μια συνομιλία όταν μπορούν να συνδυάσουν δεκάδες άλλα σήματα, ποιες ταινίες παρακολουθήσαμε σε μια υπηρεσία streaming, ποια προϊόντα κοιτάξαμε σε ένα ηλεκτρονικό κατάστημα, ποια τοποθεσία επισκεφθήκαμε, ποιοι βρίσκονταν κοντά μας εκείνη τη στιγμή, ποιες σελίδες διαβάσαμε και ποια βίντεο παρακολουθήσαμε μέχρι το τέλος. Όταν όλα αυτά τα δεδομένα συγκεντρωθούν, δημιουργούν ένα ψηφιακό αποτύπωμα τόσο αναλυτικό ώστε πολλές φορές μοιάζει σχεδόν μαγικό. Στην πραγματικότητα όμως δεν πρόκειται για μαγεία ούτε απαραίτητα για μυστική παρακολούθηση. Πρόκειται για στατιστική, μηχανική μάθηση και τεράστιες βάσεις δεδομένων που λειτουργούν αδιάκοπα στο παρασκήνιο.
Το κρίσιμο ερώτημα, ωστόσο, δεν είναι αν οι εταιρείες χρησιμοποιούν αυτά τα δεδομένα για να μας εμφανίσουν μια πιο σχετική διαφήμιση. Το πραγματικό ερώτημα είναι τι συμβαίνει όταν αυτό το τεράστιο οικοσύστημα πληροφοριών παύει να εξυπηρετεί αποκλειστικά εμπορικούς σκοπούς. Τι συμβαίνει όταν δεδομένα που συλλέχθηκαν για να πουλήσουν ένα ζευγάρι παπούτσια ή μια συνδρομή σε υπηρεσία streaming αποκτούν ενδιαφέρον και για άλλους οργανισμούς; Τι συμβαίνει όταν η οικονομία της διαφήμισης αρχίζει να διασταυρώνεται με την εθνική ασφάλεια, την αστυνόμευση, την ανάλυση κοινωνικών δικτύων ή την πρόβλεψη ανθρώπινης συμπεριφοράς; Σε αυτό ακριβώς το σημείο η συζήτηση παύει να αφορά αποκλειστικά την ιδιωτικότητα και μετατρέπεται σε ένα πολύ ευρύτερο ζήτημα ισορροπίας ανάμεσα στην τεχνολογική πρόοδο, την πολιτική εξουσία και τις θεμελιώδεις ελευθερίες του ανθρώπου.
Εκεί βρίσκεται η μεγαλύτερη παρανόηση της εποχής μας. Η δυστοπία του 21ου αιώνα πιθανότατα δεν θα εμφανιστεί ξαφνικά μέσα από μια αυταρχική ανακοίνωση ή μια ενιαία παγκόσμια μηχανή ελέγχου. Είναι πολύ πιθανότερο να γεννηθεί όπως ακριβώς γεννήθηκε και η σημερινή ψηφιακή οικονομία, μέσα από αμέτρητες μικρές τεχνολογικές εξελίξεις που ξεχωριστά, μοιάζουν απολύτως λογικές, χρήσιμες και αναγκαίες. Το πραγματικό ερώτημα δεν είναι αν κάποιος μας παρακολουθεί αυτή τη στιγμή. Το πραγματικό ερώτημα είναι αν έχουμε ήδη αρχίσει να οικοδομούμε, σχεδόν ασυναίσθητα, την αρχιτεκτονική ενός κόσμου όπου η συνεχής συλλογή δεδομένων θα θεωρείται τόσο φυσιολογική όσο σήμερα θεωρούμε φυσιολογική τη σύνδεση στο διαδίκτυο. Και αν αυτό συμβαίνει, τότε ίσως βρισκόμαστε ήδη μπροστά στις πρώτες πέτρες ενός νέου ψηφιακού οικοδομήματος, ενός αόρατου Πανοπτικού που δεν υψώθηκε μέσα σε μία νύχτα, αλλά χτίζεται αθόρυβα εδώ και περισσότερο από δύο δεκαετίες.
Πολύ πριν εμφανιστούν οι υπολογιστές, το διαδίκτυο και η τεχνητή νοημοσύνη, ένας Άγγλος φιλόσοφος και νομικός, ο Jeremy Bentham, διατύπωσε στα τέλη του 18ου αιώνα μια αρχιτεκτονική ιδέα που επρόκειτο να αποκτήσει σχεδόν μυθικές διαστάσεις στους επόμενους δύο αιώνες. Την ονόμασε Panopticon. Επρόκειτο για έναν κυκλικό σχεδιασμό φυλακής, στο κέντρο της οποίας βρισκόταν ένας πύργος παρατήρησης. Από εκεί, ένας και μόνο φύλακας θα μπορούσε θεωρητικά να βλέπει όλους τους κρατουμένους, χωρίς όμως εκείνοι να γνωρίζουν πότε ακριβώς παρακολουθούνται. Το πραγματικά ιδιοφυές στοιχείο της σύλληψης δεν ήταν η δυνατότητα της συνεχούς επιτήρησης· ήταν η αβεβαιότητα. Εφόσον ο κρατούμενος δεν μπορούσε ποτέ να γνωρίζει αν ο φύλακας τον παρακολουθούσε εκείνη τη στιγμή, αναγκαζόταν να συμπεριφέρεται διαρκώς σαν να βρισκόταν υπό επιτήρηση. Με άλλα λόγια, ο έλεγχος δεν επιβαλλόταν πλέον αποκλειστικά από τον φύλακα, αλλά από την ίδια την ψυχολογία του επιτηρούμενου.
Για τον Bentham, το Πανοπτικό αποτελούσε μια πρόταση διοικητικής αποτελεσματικότητας. Πίστευε ότι θα μπορούσε να εφαρμοστεί όχι μόνο στις φυλακές αλλά και σε νοσοκομεία, σχολεία, εργοστάσια και κάθε οργανισμό όπου η παρατήρηση θα οδηγούσε, κατά την άποψή του, σε καλύτερη πειθαρχία και αποδοτικότητα. Ωστόσο, σχεδόν δύο αιώνες αργότερα, ο Γάλλος φιλόσοφος Michel Foucault επανέφερε αυτή την ιδέα σε ένα εντελώς διαφορετικό πλαίσιο. Στο έργο του Επιτήρηση και Τιμωρία υποστήριξε ότι το Πανοπτικό δεν αποτελεί απλώς ένα αρχιτεκτονικό σχέδιο αλλά ένα μοντέλο κοινωνικής οργάνωσης. Σύμφωνα με τον Foucault, οι σύγχρονες κοινωνίες δεν χρειάζονται πλέον εμφανή καταναγκαστικά μέσα για να διατηρήσουν την τάξη. Αρκεί ο άνθρωπος να πιστεύει ότι μπορεί να παρακολουθείται, ώστε σταδιακά να εσωτερικεύσει τους κανόνες και να αυτοπειθαρχεί.
Η ιδέα αυτή αποδείχθηκε εξαιρετικά προφητική. Στις βιομηχανικές κοινωνίες του 20ού αιώνα η επιτήρηση είχε ακόμη φυσικά όρια. Απαιτούσε ανθρώπους, αρχεία, χρόνο και τεράστιους διοικητικούς μηχανισμούς. Ένας αστυνομικός μπορούσε να παρακολουθήσει έναν ύποπτο. Μια μυστική υπηρεσία μπορούσε να θέσει υπό παρακολούθηση έναν πολιτικό αντίπαλο. Αλλά η συνεχής παρακολούθηση εκατομμυρίων πολιτών παρέμενε πρακτικά αδύνατη. Το κόστος ήταν τεράστιο και οι ανθρώπινοι πόροι περιορισμένοι. Η μαζική επιτήρηση, όπως τη φανταζόταν η λογοτεχνία του George Orwell στο 1984, προϋπέθετε ένα γιγαντιαίο κρατικό σύστημα με αμέτρητους υπαλλήλους, φακέλους και πληροφοριοδότες. Ήταν ένα εφιαλτικό αλλά εξαιρετικά δαπανηρό μοντέλο.
Κάπου εκεί ακριβώς η ψηφιακή επανάσταση άλλαξε τους κανόνες του παιχνιδιού. Για πρώτη φορά στην ιστορία, η επιτήρηση έπαψε να εξαρτάται από τον άνθρωπο. Τη θέση του παρατηρητή άρχισαν να καταλαμβάνουν οι αλγόριθμοι. Η κάμερα δεν χρειάζεται πλέον έναν αστυνομικό που θα κοιτάζει διαρκώς την οθόνη. Το λογισμικό μπορεί να εντοπίσει μόνο του ένα πρόσωπο, να αναγνωρίσει ένα αντικείμενο, να ανιχνεύσει μια ασυνήθιστη συμπεριφορά ή να ειδοποιήσει όταν κάποιο προκαθορισμένο μοτίβο εμφανιστεί μπροστά στον φακό. Το ίδιο ισχύει και για τις τεράστιες βάσεις δεδομένων. Εκεί όπου παλαιότερα απαιτούνταν δεκάδες αναλυτές για να συγκρίνουν χιλιάδες φακέλους, σήμερα ένας αλγόριθμος μπορεί να επεξεργαστεί εκατομμύρια εγγραφές μέσα σε λίγα δευτερόλεπτα.
Εδώ ακριβώς εμφανίζεται η πραγματική συμβολή της τεχνητής νοημοσύνης. Η a.i. δεν δημιούργησε την έννοια της επιτήρησης. Δημιούργησε όμως τη δυνατότητα να πραγματοποιείται σε πρωτοφανή κλίμακα. Η μηχανική μάθηση δεν περιορίζεται στην αποθήκευση πληροφοριών. Αναζητά συσχετίσεις, προβλέπει συμπεριφορές, εντοπίζει αποκλίσεις και κατασκευάζει πρότυπα. Εκεί όπου ένας άνθρωπος θα έβλεπε ένα χάος από αριθμούς, μια σύγχρονη πλατφόρμα τεχνητής νοημοσύνης μπορεί να αναγνωρίσει ότι συγκεκριμένες μετακινήσεις, συγκεκριμένες διαδικτυακές αναζητήσεις και συγκεκριμένες κοινωνικές επαφές εμφανίζονται συστηματικά μαζί. Δεν κατανοεί απαραίτητα το νόημα αυτών των σχέσεων όπως το αντιλαμβάνεται ένας άνθρωπος, αλλά είναι εξαιρετικά αποτελεσματική στον εντοπισμό στατιστικών κανονικοτήτων.
Αυτή η μετάβαση σηματοδοτεί και μια βαθύτερη αλλαγή στη φύση της εξουσίας. Για αιώνες, η εξουσία βασιζόταν κυρίως στην κατοχή της πληροφορίας. Σήμερα, ολοένα και περισσότερο βασίζεται στην ικανότητα σύνδεσης πληροφοριών που αρχικά φαίνονται ασύνδετες μεταξύ τους. Ένα γεωγραφικό στίγμα από μια εφαρμογή καιρού, μια αγορά μέσω πιστωτικής κάρτας, μια φωτογραφία που δημοσιεύτηκε σε κοινωνικό δίκτυο, ένα πρόσωπο που καταγράφηκε από κάμερα ασφαλείας και μια αναζήτηση στο διαδίκτυο ίσως να μην σημαίνουν απολύτως τίποτα όταν εξετάζονται ξεχωριστά. Όταν όμως συνδυαστούν μέσα στο ίδιο πληροφοριακό οικοσύστημα, αρχίζουν να σχηματίζουν ένα εξαιρετικά λεπτομερές μοντέλο της καθημερινότητας ενός ανθρώπου. Δεν περιγράφουν απλώς ποιος είναι. Αποκαλύπτουν πού βρίσκεται, ποιον συναντά, ποιες συνήθειες έχει, ποιες ώρες εργάζεται, ποια διαδρομή ακολουθεί, ακόμη και ποιες πιθανότητες υπάρχουν να κάνει μια συγκεκριμένη επιλογή στο μέλλον.
Αυτό είναι ίσως και το πιο θεμελιώδες χαρακτηριστικό του σύγχρονου ψηφιακού πανοπτικού. Δεν ενδιαφέρεται αποκλειστικά για το παρελθόν. Δεν συλλέγει δεδομένα μόνο για να καταγράψει τι συνέβη. Επιδιώκει να υπολογίσει τι είναι πιθανό να συμβεί. Η λογική της πρόβλεψης διαπερνά πλέον σχεδόν κάθε μεγάλη ψηφιακή πλατφόρμα. Οι υπηρεσίες streaming προσπαθούν να προβλέψουν ποια ταινία θα παρακολουθήσουμε. Τα ηλεκτρονικά καταστήματα ποιο προϊόν θα αγοράσουμε. Οι εφαρμογές πλοήγησης ποια διαδρομή θα ακολουθήσουμε. Οι πλατφόρμες κοινωνικής δικτύωσης ποιο περιεχόμενο θα μας κρατήσει περισσότερη ώρα μπροστά στην οθόνη. Η πρόβλεψη δεν αποτελεί πλέον απλώς τεχνικό χαρακτηριστικό. Έχει μετατραπεί στο κυρίαρχο οικονομικό μοντέλο της ψηφιακής εποχής.
Οι μεγαλύτερες εταιρείες τεχνολογίας δεν ανταγωνίζονται μόνο στην ανάπτυξη καλύτερων υπολογιστών ή ισχυρότερων αλγορίθμων. Ανταγωνίζονται στην ικανότητά τους να συλλέγουν περισσότερα δεδομένα. Διότι κάθε νέο σύνολο πληροφοριών λειτουργεί σαν ακόμη ένα κομμάτι ενός τεράστιου παζλ. Όσο περισσότερα κομμάτια συγκεντρώνονται, τόσο καθαρότερη γίνεται η εικόνα. Και όσο καθαρότερη γίνεται αυτή η εικόνα, τόσο αυξάνεται η δυνατότητα πρόβλεψης, επιρροής και, ενδεχομένως, ελέγχου της ανθρώπινης συμπεριφοράς.
Εδώ ακριβώς βρίσκεται η ουσιαστική διαφορά ανάμεσα στο πανοπτικό του Bentham και στο ψηφιακό πανοπτικό του 21ου αιώνα. Στην πρώτη περίπτωση, ο κρατούμενος άλλαζε τη συμπεριφορά του επειδή φοβόταν ότι κάποιος τον παρακολουθεί. Στη δεύτερη, ο πολίτης μπορεί να μην αισθάνεται καν ότι παρακολουθείται. Συνεχίζει να χρησιμοποιεί εφαρμογές, να δημοσιεύει φωτογραφίες, να μετακινείται με το κινητό στην τσέπη και να συνδέεται σε δεκάδες ψηφιακές υπηρεσίες καθημερινά. Δεν απαιτείται πλέον ένας ορατός πύργος στο κέντρο της φυλακής. Ο πύργος έχει διαλυθεί σε εκατομμύρια μικρές συσκευές, αισθητήρες, διακομιστές και αλγορίθμους που λειτουργούν αθόρυβα στο παρασκήνιο. Είναι δεδομένο ότι αυτή είναι η πιο βαθιά μεταμόρφωση της επιτήρησης στην ανθρώπινη ιστορία, η στιγμή κατά την οποία ο φύλακας έπαψε να είναι πρόσωπο και μετατράπηκε σε υποδομή.
Εάν το πρώτο στάδιο της ψηφιακής εποχής χαρακτηρίστηκε από τη συλλογή δεδομένων και το δεύτερο από την ανάλυσή τους, τότε το τρίτο στάδιο, εκείνο που αρχίζει να διαμορφώνεται σήμερα, χαρακτηρίζεται από κάτι ακόμη πιο σύνθετο, τη σύνθεση διαφορετικών τεχνολογιών σε ένα ενιαίο πληροφοριακό οικοσύστημα. Το πραγματικό άλμα δεν προέρχεται από μία νέα εφεύρεση αλλά από τη στιγμή που ανεξάρτητα συστήματα αρχίζουν να επικοινωνούν μεταξύ τους. Η αναγνώριση προσώπου, οι υπηρεσίες γεωεντοπισμού, οι βάσεις δεδομένων διαφημιστικής στόχευσης, οι πλατφόρμες κοινωνικής δικτύωσης, τα δίκτυα καμερών, τα έξυπνα κινητά τηλέφωνα και οι αλγόριθμοι τεχνητής νοημοσύνης δεν λειτουργούν πλέον ως απομονωμένα εργαλεία. Σταδιακά μετατρέπονται σε τμήματα μιας ευρύτερης υποδομής, στην οποία κάθε νέο σύνολο πληροφοριών ενισχύει και συμπληρώνει όλα τα υπόλοιπα. Το αποτέλεσμα δεν είναι απλώς περισσότερα δεδομένα. Είναι η δημιουργία μιας νέας μορφής ψηφιακής πραγματικότητας, όπου ο άνθρωπος αρχίζει να περιγράφεται όχι από μία μόνο πληροφορία αλλά από το άθροισμα εκατοντάδων διαφορετικών ψηφιακών ιχνών.
Ένα χαρακτηριστικό παράδειγμα αυτής της μετάβασης αποτελεί η εξέλιξη των συστημάτων αναγνώρισης προσώπου. Για πολλά χρόνια η τεχνολογία αυτή περιοριζόταν σε πειραματικές εφαρμογές με χαμηλή ακρίβεια και σημαντικούς περιορισμούς. Η εμφάνιση της βαθιάς μάθησης (deep learning) άλλαξε ριζικά το τοπίο. Σήμερα, σύγχρονα συστήματα μπορούν να αναλύσουν εκατοντάδες γεωμετρικά χαρακτηριστικά ενός ανθρώπινου προσώπου και να δημιουργήσουν ένα μοναδικό μαθηματικό πρότυπο, ένα ψηφιακό αποτύπωμα προσώπου. Το ενδιαφέρον δεν βρίσκεται μόνο στην αυξανόμενη ακρίβεια αυτών των συστημάτων αλλά και στον τρόπο με τον οποίο δημιουργήθηκαν οι βάσεις δεδομένων που τα τροφοδοτούν. Εταιρείες όπως η Clearview AI βρέθηκαν στο επίκεντρο έντονου δημόσιου διαλόγου επειδή συγκέντρωσαν τεράστιες συλλογές δημόσια διαθέσιμων φωτογραφιών από το διαδίκτυο, δημιουργώντας μία από τις μεγαλύτερες βάσεις βιομετρικών δεδομένων που έχουν υπάρξει ποτέ. Το γεγονός αυτό προκάλεσε αντιδράσεις όχι μόνο από οργανώσεις προστασίας προσωπικών δεδομένων αλλά ακόμη και από μεγάλες διαδικτυακές πλατφόρμες, οι οποίες υποστήριξαν ότι η πρακτική αυτή παραβίαζε τους όρους χρήσης των υπηρεσιών τους.
Η σημασία όμως της αναγνώρισης προσώπου δεν βρίσκεται αποκλειστικά στην ταυτοποίηση ενός ανθρώπου. Το πραγματικό της δυναμικό εμφανίζεται όταν συνδυάζεται με άλλες βάσεις πληροφοριών. Ένα πρόσωπο που αναγνωρίζεται από μια κάμερα ασφαλείας μπορεί θεωρητικά να συσχετιστεί με δημόσια προφίλ κοινωνικών δικτύων, γεωγραφικά δεδομένα, προηγούμενες μετακινήσεις, οικονομικές συναλλαγές ή ακόμη και ιστορικά πρότυπα συμπεριφοράς. Μεμονωμένα, κανένα από αυτά τα στοιχεία δεν είναι αρκετό για να αποτυπώσει ολόκληρη την ανθρώπινη δραστηριότητα. Συνδυασμένα όμως δημιουργούν μια εικόνα που πλησιάζει όλο και περισσότερο αυτό που οι επιστήμονες υπολογιστών αποκαλούν αντιστοίχιση οντοτήτων (entity resolution), την ικανότητα ενός πληροφοριακού συστήματος να αναγνωρίζει ότι διαφορετικά δεδομένα ανήκουν στο ίδιο φυσικό πρόσωπο, ακόμη κι όταν προέρχονται από εντελώς διαφορετικές πηγές.
Την ίδια στιγμή, μια παράλληλη εξέλιξη λαμβάνει χώρα στον χώρο της γεωεντοπισμένης πληροφορίας. Τα σύγχρονα κινητά τηλέφωνα λειτουργούν ως μικρά δίκτυα αισθητήρων. Δεν γνωρίζουν μόνο τη γεωγραφική θέση του χρήστη μέσω GPS, αλλά μπορούν να εκτιμήσουν τη θέση του χρησιμοποιώντας δίκτυα Wi-Fi, κεραίες κινητής τηλεφωνίας, Bluetooth συσκευές ή ακόμη και δεδομένα αδράνειας από τους επιταχυνσιόμετρους και τα γυροσκόπια που διαθέτουν. Οι πληροφορίες αυτές συλλέγονται πρωτίστως για λειτουργίες όπως η πλοήγηση, η εύρεση κοντινών υπηρεσιών ή η εξατομίκευση εφαρμογών. Ωστόσο, όταν ενσωματώνονται σε ευρύτερα συστήματα ανάλυσης, αποκτούν μια εντελώς διαφορετική σημασία. Δεν δείχνουν απλώς πού βρίσκεται κάποιος αυτή τη στιγμή. Αποκαλύπτουν ποια μέρη επισκέπτεται συστηματικά, ποιες διαδρομές ακολουθεί, πότε φεύγει για την εργασία του, πότε επιστρέφει στο σπίτι του και ποιες είναι οι επαναλαμβανόμενες συνήθειές του. Πρόκειται για το το οικοσύστημα των data brokers και των διαφημιστικών αγορών δεδομένων, που αξιοποίησαν τέτοιου είδους πληροφορίες για υπηρεσίες που απευθύνονταν σε κρατικούς οργανισμούς.
Η εικόνα γίνεται ακόμη πιο εντυπωσιακή όταν προστεθεί ένας ακόμη παράγοντας, η πολυτροπική τεχνητή νοημοσύνη, γνωστή διεθνώς ως multimodal AI. Σε αντίθεση με τα παλαιότερα συστήματα, τα οποία επεξεργάζονταν ένα μόνο είδος δεδομένων, τα σύγχρονα μοντέλα μπορούν να αναλύουν ταυτόχρονα εικόνες, βίντεο, κείμενο, ήχο και χωρικές πληροφορίες. Ένα τέτοιο σύστημα δεν χρειάζεται πλέον να γνωρίζει μόνο πού βρισκόταν ένας άνθρωπος. Μπορεί να αναλύσει τι είπε, τι φωτογράφισε, ποιο αντικείμενο κρατούσε, ποιο αυτοκίνητο οδηγούσε, ποιον συνάντησε και ποια γεγονότα συνέβησαν γύρω του, δημιουργώντας ένα πολύ πιο σύνθετο πλαίσιο κατανόησης. Το αποτέλεσμα είναι ότι η πληροφορία παύει να είναι αποσπασματική και αρχίζει να αποκτά συμφραζόμενα. Για πρώτη φορά, διαφορετικά είδη δεδομένων μπορούν να αλληλοσυμπληρώνονται μέσα στο ίδιο υπολογιστικό περιβάλλον.
Αυτό ακριβώς οδηγεί και στην εμφάνιση μιας νέας γενιάς συστημάτων που συχνά περιγράφονται με τον όρο πλατφόρμες συγχώνευσης (fusion platforms). Αντί να λειτουργούν ως ανεξάρτητα λογισμικά, οι πλατφόρμες αυτές σχεδιάζονται για να ενοποιούν δεδομένα από πολλαπλές πηγές σε έναν κοινό επιχειρησιακό πίνακα ελέγχου. Κάμερες ασφαλείας, αναγνώριση πινακίδων κυκλοφορίας, αισθητήρες, γεωγραφικά δεδομένα, βίντεο από drones, πληροφορίες από υπηρεσίες έκτακτης ανάγκης και δημόσια διαθέσιμες πληροφορίες μπορούν να παρουσιάζονται ταυτόχρονα στους χειριστές. Σε αρκετές περιπτώσεις, τέτοιου είδους συστήματα έχουν αναπτυχθεί με στόχο τη βελτίωση της επιχειρησιακής εικόνας σε μεγάλα αστικά κέντρα ή τη διαχείριση έκτακτων περιστατικών. Παράλληλα όμως, η ίδια τεχνολογία εγείρει εύλογα ερωτήματα σχετικά με τα όρια της επιτήρησης, τη διαφάνεια και τους μηχανισμούς λογοδοσίας, ιδιαίτερα όταν οι δυνατότητές της επεκτείνονται πέρα από την αντιμετώπιση συγκεκριμένων περιστατικών και αρχίζουν να αγγίζουν τη συνεχή παρακολούθηση του δημόσιου χώρου.
Ακόμη πιο ενδιαφέρουσα είναι η περίπτωση της λεγόμενης προγνωστικής αστυνόμευσης (predictive policing), μιας προσέγγισης σύμφωνα με την οποία αλγόριθμοι χρησιμοποιούνται για να εκτιμήσουν πού ενδέχεται να συμβούν εγκλήματα ή ποιες περιοχές απαιτούν αυξημένη αστυνόμευση. Οι υποστηρικτές αυτών των συστημάτων θεωρούν ότι μπορούν να αξιοποιήσουν στατιστικά πρότυπα για την αποτελεσματικότερη κατανομή των διαθέσιμων πόρων. Οι επικριτές τους, αντίθετα, επισημαίνουν ότι ένας αλγόριθμος εκπαιδεύεται πάνω σε ιστορικά δεδομένα, τα οποία ενδέχεται να αντανακλούν ήδη υπάρχουσες κοινωνικές ανισότητες ή προκαταλήψεις. Έτσι, ένα πληροφοριακό σύστημα μπορεί να καταλήξει να αναπαράγει ή ακόμη και να ενισχύει παλαιότερες στρεβλώσεις, δίνοντας την εντύπωση αντικειμενικότητας επειδή οι αποφάσεις του παράγονται από μαθηματικά μοντέλα. Το ερώτημα που προκύπτει δεν αφορά μόνο την τεχνική ακρίβεια των αλγορίθμων αλλά και το ποιος ορίζει τις παραμέτρους τους, ποια δεδομένα χρησιμοποιούνται για την εκπαίδευσή τους και ποιος ελέγχει τις συνέπειες των αποφάσεών τους.
Ίσως όμως το πιο εντυπωσιακό στοιχείο όλων αυτών των εξελίξεων είναι ότι καμία τους, από μόνη της, δεν συνιστά απαραίτητα μια δυστοπία. Η αναγνώριση προσώπου μπορεί να βοηθήσει στον εντοπισμό αγνοουμένων. Οι έξυπνες κάμερες μπορούν να ενισχύσουν την οδική ασφάλεια. Η ανάλυση μεγάλων δεδομένων μπορεί να επιτρέψει ταχύτερη αντιμετώπιση φυσικών καταστροφών ή καλύτερη οργάνωση των δημόσιων υπηρεσιών. Ακριβώς γι’ αυτό το θέμα είναι τόσο σύνθετο. Η μεγαλύτερη πρόκληση δεν βρίσκεται στην ίδια την τεχνολογία αλλά στον τρόπο με τον οποίο οι επιμέρους τεχνολογίες συνδέονται μεταξύ τους και στο ποιος αποκτά τελικά πρόσβαση στην ενοποιημένη εικόνα που παράγουν.
Εκεί βρίσκεται το ουσιαστικότερο δίδαγμα της εποχής μας. Η ιστορία της επιτήρησης δεν εξελίσσεται ως μια σειρά μεμονωμένων εφευρέσεων. Εξελίσσεται ως η ιστορία της ολοένα βαθύτερης διασύνδεσης μεταξύ τους. Το πραγματικό τεχνολογικό άλμα δεν είναι ότι οι κάμερες βλέπουν καλύτερα, ούτε ότι οι αλγόριθμοι αναγνωρίζουν γρηγορότερα ένα πρόσωπο. Είναι ότι κάθε νέο σύστημα προσθέτει ακόμη ένα κομμάτι σε ένα διαρκώς διευρυνόμενο ψηφιακό μωσαϊκό. Και όταν όλα αυτά τα κομμάτια αρχίσουν να λειτουργούν ως ένα ενιαίο σύνολο, τότε η επιτήρηση παύει να είναι μια λειτουργία. Μετατρέπεται σε περιβάλλον.
Όταν γίνεται λόγος για την επιτήρηση, η δημόσια συζήτηση εξακολουθεί συχνά να κυριαρχείται από εικόνες που κληρονομήσαμε από τον 20ό αιώνα. Στο συλλογικό μας φαντασιακό, η παρακολούθηση εξακολουθεί να συνδέεται με κρατικές υπηρεσίες πληροφοριών, πράκτορες που ακολουθούν στόχους στους δρόμους, κοριούς σε τηλεφωνικές γραμμές ή φακέλους γεμάτους έγγραφα σε υπόγεια αρχεία. Αυτή η εικόνα, όσο ισχυρή κι αν παραμένει, περιγράφει έναν κόσμο που σταδιακά απομακρύνεται. Η ψηφιακή εποχή δεν κατήργησε τις παραδοσιακές μορφές επιτήρησης, τις ενσωμάτωσε μέσα σε ένα πολύ μεγαλύτερο οικοσύστημα, όπου η πληροφορία παράγεται πρωτίστως από την καθημερινή ζωή των ίδιων των πολιτών.
Η μεγαλύτερη μεταβολή δεν είναι ότι υπάρχουν περισσότερες κάμερες ή ισχυρότεροι υπολογιστές. Είναι ότι η πληροφορία έχει πάψει να συγκεντρώνεται αποκλειστικά από το κράτος. Σήμερα, τεράστιοι όγκοι δεδομένων δημιουργούνται και αποθηκεύονται από ιδιωτικές επιχειρήσεις, εταιρείες τεχνολογίας, τηλεπικοινωνιακούς παρόχους, πλατφόρμες κοινωνικής δικτύωσης, εφαρμογές μετακίνησης, υπηρεσίες ηλεκτρονικών πληρωμών, εταιρείες διαφήμισης και παρόχους υπολογιστικού νέφους. Ο σύγχρονος ψηφιακός κόσμος λειτουργεί πάνω σε ένα αχανές πλέγμα πληροφοριών, στο οποίο δημόσιος και ιδιωτικός τομέας συνυπάρχουν, συνεργάζονται και συχνά εξαρτώνται ο ένας από τον άλλον. Η εξουσία δεν συγκεντρώνεται πλέον αποκλειστικά σε έναν οργανισμό. Κατανέμεται σε ένα δίκτυο διασυνδεδεμένων υποδομών, όπου η πρόσβαση στην πληροφορία αποκτά μεγαλύτερη σημασία ακόμη και από την κατοχή φυσικών πόρων.
Αυτή η εξέλιξη οδηγεί σε μια ουσιαστική αλλαγή της ίδιας της έννοιας της κυριαρχίας. Στους προηγούμενους αιώνες, τα κράτη μετρούσαν την ισχύ τους μέσα από τον πληθυσμό, τον στρατό, τη βιομηχανία ή τις πρώτες ύλες. Στον 21ο αιώνα προστίθεται ένας ακόμη παράγοντας, η δυνατότητα συλλογής, διαχείρισης και ανάλυσης δεδομένων σε πραγματικό χρόνο. Τα δεδομένα δεν αποτελούν πλέον απλώς εργαλείο διοίκησης. Μετατρέπονται σε στρατηγική υποδομή, ικανή να επηρεάσει την οικονομία, την ασφάλεια, την πολιτική και την καθημερινή ζωή.
Αυτό γίνεται ιδιαίτερα εμφανές στην ανάπτυξη των λεγόμενων έξυπνων πόλεων. Οι υποστηρικτές τους περιγράφουν ένα αστικό περιβάλλον όπου αισθητήρες, δίκτυα επικοινωνίας και αλγόριθμοι συνεργάζονται ώστε να μειώνουν την κυκλοφοριακή συμφόρηση, να εξοικονομούν ενέργεια, να βελτιώνουν τις δημόσιες συγκοινωνίες, να εντοπίζουν διαρροές ύδρευσης, να διαχειρίζονται αποτελεσματικότερα τα απορρίμματα και να ανταποκρίνονται ταχύτερα σε καταστάσεις έκτακτης ανάγκης. Όλα αυτά αποτελούν πραγματικές και ιδιαίτερα σημαντικές εφαρμογές της σύγχρονης τεχνολογίας. Ωστόσο, κάθε αισθητήρας που καταγράφει την κίνηση μιας πόλης, κάθε συνδεδεμένη κάμερα και κάθε δίκτυο που συλλέγει πληροφορίες για τη λειτουργία του αστικού ιστού δημιουργεί ταυτόχρονα μια νέα δεξαμενή δεδομένων. Το ερώτημα δεν είναι αν αυτά τα δεδομένα μπορούν να βελτιώσουν τη ζωή των πολιτών. Το ερώτημα είναι ποιος έχει πρόσβαση σε αυτά, για πόσο χρόνο διατηρούνται, ποιος τα αναλύει και με ποιους μηχανισμούς ελέγχεται η χρήση τους.
Παράλληλα, σε πολλές χώρες προχωρά η ανάπτυξη ψηφιακών συστημάτων ταυτοποίησης. Η ψηφιακή ταυτότητα υπόσχεται ταχύτερες συναλλαγές με το κράτος, ασφαλέστερη πρόσβαση σε υπηρεσίες, μείωση της γραφειοκρατίας και καλύτερη προστασία απέναντι στην απάτη. Πρόκειται για μια εξέλιξη με σημαντικά πρακτικά οφέλη. Ταυτόχρονα όμως, όσο περισσότερες λειτουργίες συγκεντρώνονται γύρω από έναν ενιαίο ψηφιακό μηχανισμό ταυτοποίησης, τόσο μεγαλύτερη γίνεται και η ανάγκη για θεσμικές εγγυήσεις, διαφάνεια και αυστηρή προστασία των προσωπικών δεδομένων. Η ιστορία της τεχνολογίας δείχνει ότι η ίδια υποδομή μπορεί να χρησιμοποιηθεί με εντελώς διαφορετικούς τρόπους, ανάλογα με το πολιτικό, κοινωνικό και νομικό περιβάλλον μέσα στο οποίο λειτουργεί.
Εδώ εμφανίζεται ίσως η πιο θεμελιώδης αλλαγή της εποχής μας. Για πρώτη φορά στην ιστορία, η τεχνητή νοημοσύνη δεν περιορίζεται στον ρόλο ενός εργαλείου που χρησιμοποιείται από τον άνθρωπο. Αρχίζει να λειτουργεί ως υποδομή πάνω στην οποία οργανώνονται ολόκληρα πληροφοριακά οικοσυστήματα. Δεν αποφασίζει μόνη της, αλλά επηρεάζει τον τρόπο με τον οποίο παράγονται ειδοποιήσεις, ταξινομούνται προτεραιότητες, αξιολογούνται πιθανοί κίνδυνοι και κατανέμονται διαθέσιμοι πόροι. Στην καθημερινότητά μας αυτό συμβαίνει ήδη με σχετικά αθόρυβο τρόπο. Αλγόριθμοι καθορίζουν ποιο περιεχόμενο θα εμφανιστεί πρώτο στην οθόνη μας, ποιες ειδήσεις θα διαβάσουμε, ποιες διαφημίσεις θα δούμε, ποια μουσική θα ακούσουμε και ποια διαδρομή θα μας προτείνει το σύστημα πλοήγησης. Όσο αυτές οι λειτουργίες πολλαπλασιάζονται, τόσο περισσότερο η τεχνητή νοημοσύνη μετατρέπεται σε έναν αόρατο ενδιάμεσο ανάμεσα στον άνθρωπο και την πραγματικότητα που αντιλαμβάνεται.
Ίσως γι’ αυτό το σημαντικότερο ερώτημα δεν αφορά πλέον το αν οι μηχανές θα γίνουν ευφυέστερες από τον άνθρωπο. Το ουσιαστικό ερώτημα είναι αν οι κοινωνίες θα συνεχίσουν να γνωρίζουν πώς λαμβάνονται οι αποφάσεις που επηρεάζουν τη ζωή τους. Όταν ένας αλγόριθμος αξιολογεί την πιστοληπτική ικανότητα ενός πολίτη, όταν ένα πληροφοριακό σύστημα επιλέγει ποια αίτηση θα εξεταστεί πρώτη ή όταν ένα μοντέλο μηχανικής μάθησης χαρακτηρίζει μια συμπεριφορά ως ασυνήθιστη, η ανάγκη για διαφάνεια γίνεται εξίσου σημαντική με την ίδια την τεχνολογική καινοτομία. Η εμπιστοσύνη δεν μπορεί να στηριχθεί αποκλειστικά στην πολυπλοκότητα των μαθηματικών μοντέλων. Απαιτεί κανόνες, ανεξάρτητο έλεγχο και δημόσια λογοδοσία.
Ακριβώς σε αυτό το σημείο η δυστοπία παύει να αποτελεί λογοτεχνικό είδος και μετατρέπεται σε εργαλείο σκέψης. Τα μεγάλα έργα του George Orwell, του Aldous Huxley ή του Philip K. Dick δεν γράφτηκαν για να προβλέψουν το μέλλον με ακρίβεια. Γράφτηκαν για να μας βοηθήσουν να αναγνωρίζουμε έγκαιρα τις κοινωνικές δυναμικές που θα μπορούσαν να οδηγήσουν σε ανεπιθύμητες εξελίξεις. Σήμερα, η πραγματικότητα αποδεικνύεται πιο σύνθετη από κάθε μυθιστόρημα. Δεν ζούμε σε έναν κόσμο όπου μια κεντρική υπερδύναμη ελέγχει τα πάντα. Ζούμε σε έναν κόσμο όπου χιλιάδες διαφορετικά πληροφοριακά συστήματα παράγουν καθημερινά τεράστιους όγκους δεδομένων, δημιουργώντας μια νέα μορφή ψηφιακής υποδομής που κανένας μεμονωμένος οργανισμός δεν ελέγχει ολοκληρωτικά, αλλά από την οποία σχεδόν κανείς δεν μπορεί να αποσυνδεθεί πλήρως.
Η ιστορία της ανθρωπότητας μπορεί να διαβαστεί ως η ιστορία διαφορετικών μορφών ισχύος. Κάποτε η ισχύς μετριόταν με τη γη. Αργότερα με τα εργοστάσια, τον άνθρακα, το πετρέλαιο και τη βιομηχανική παραγωγή. Σήμερα, όλο και περισσότερο, μετριέται με την πληροφορία. Όχι απλώς με την κατοχή της, αλλά με την ικανότητα συλλογής, σύνδεσης, κατανόησης και πρόβλεψης όσων αυτή αποκαλύπτει.
Αυτό που προκείπτει ως σημαντικότερο δίδαγμα της ψηφιακής εποχής, είναι ότι η μεγαλύτερη τεχνολογική επανάσταση δεν βρίσκεται στην τεχνητή νοημοσύνη καθαυτή. Βρίσκεται στο αόρατο δίκτυο που δημιουργείται όταν η τεχνητή νοημοσύνη συνδέεται με αισθητήρες, δορυφόρους, κινητά τηλέφωνα, κάμερες, κοινωνικά δίκτυα, διαφημιστικές πλατφόρμες, βιομετρικά συστήματα και τεράστιες βάσεις δεδομένων. Καθεμία από αυτές τις τεχνολογίες μπορεί να υπηρετήσει θεμιτούς σκοπούς. Η πραγματική πρόκληση αρχίζει όταν όλες λειτουργούν ως τμήματα του ίδιου πληροφοριακού οικοσυστήματος.
Δεν γνωρίζουμε ακόμη πώς θα μοιάζει η κοινωνία των επόμενων δεκαετιών. Γνωρίζουμε όμως ότι οι αποφάσεις που λαμβάνονται σήμερα γύρω από την προστασία των προσωπικών δεδομένων, τη διαφάνεια των αλγορίθμων, τη λογοδοσία των μεγάλων ψηφιακών πλατφορμών και τα όρια της αυτοματοποιημένης λήψης αποφάσεων θα διαμορφώσουν σε μεγάλο βαθμό τον κόσμο του αύριο.
Το μεγαλύτερο ερώτημα του 21ου αιώνα δεν είναι αν η τεχνητή νοημοσύνη θα αποκτήσει συνείδηση. Είναι το αν ο άνθρωπος θα καταφέρει να διατηρήσει τη δική του ελευθερία μέσα σε έναν κόσμο όπου σχεδόν κάθε κίνηση, κάθε επιλογή και κάθε αλληλεπίδραση αφήνει πίσω της ένα ψηφιακό ίχνος.
Το πανοπτικό του Jeremy Bentham υπήρξε κάποτε ένα αρχιτεκτονικό σχέδιο που δεν εφαρμόστηκε ποτέ στην καθαρή του μορφή. Δύο αιώνες αργότερα, η ιδέα του εξακολουθεί να μας απασχολεί, όχι επειδή χτίστηκαν κυκλικές φυλακές, αλλά επειδή η ίδια η κοινωνία άρχισε να αποκτά χαρακτηριστικά ενός αόρατου πληροφοριακού δικτύου. Η διαφορά είναι ότι οι τοίχοι του δεν κατασκευάζονται από πέτρα ή ατσάλι. Αποτελούνται από αλγορίθμους, αισθητήρες, υπολογιστικά νέφη και αμέτρητες γραμμές κώδικα.
Το μέλλον δεν έχει ακόμη γραφτεί. Η τεχνολογία από μόνη της δεν είναι ούτε ελευθερία ούτε καταπίεση. Είναι ένα εργαλείο που αντανακλά τις επιλογές των κοινωνιών που τη δημιουργούν και τη χρησιμοποιούν. Το αν το ψηφιακό πανοπτικό θα εξελιχθεί σε μια υποδομή που θα υπηρετεί τη δημοκρατία, τη διαφάνεια και το κοινό καλό ή σε έναν μηχανισμό που θα περιορίζει αθόρυβα την ιδιωτικότητα και την αυτονομία των πολιτών, δεν θα το αποφασίσουν οι αλγόριθμοι. Θα το αποφασίσουμε εμείς. Και ίσως αυτή να είναι η σημαντικότερη πρόκληση της εποχής μας.
