Roko’s Basilisk: Το νοητικό πείραμα που μετέτρεψε μια υποθετική τεχνητή νοημοσύνη σε έναν από τους πιο τρομακτικούς ψηφιακούς μύθους του διαδικτύου
Roko’s Basilisk: Το νοητικό πείραμα που μετέτρεψε μια υποθετική τεχνητή νοημοσύνη σε έναν από τους πιο τρομακτικούς ψηφιακούς μύθους του διαδικτύου
Στην ιστορία της φιλοσοφίας υπάρχουν ορισμένες ιδέες που δεν χρειάστηκε ποτέ να αποδειχθούν αληθινές για να αποκτήσουν τεράστια επιρροή. Αρκούσε η διατύπωσή τους για να πυροδοτήσουν ατελείωτες συζητήσεις, να προκαλέσουν υπαρξιακά ερωτήματα και να αλλάξουν τον τρόπο με τον οποίο οι άνθρωποι αντιλαμβάνονται τον κόσμο γύρω τους. Από την αλληγορία του Σπηλαίου του Πλάτωνα μέχρι το περίφημο «Δαιμόνιο» του René Descartes και το σύγχρονο επιχείρημα της Προσομοίωσης, η ιστορία της σκέψης είναι γεμάτη από νοητικά πειράματα που εξερευνούν τα όρια της λογικής. Στις αρχές του 21ου αιώνα, σε αυτή τη μακρά παράδοση προστέθηκε μια ακόμη ιδέα, γεννημένη όχι σε κάποιο πανεπιστήμιο ή ερευνητικό ίδρυμα, αλλά μέσα σε μια διαδικτυακή κοινότητα αφιερωμένη στον ορθολογισμό και τη φιλοσοφία της τεχνητής νοημοσύνης. Το όνομά της ήταν Roko’s Basilisk, και μέσα σε λίγα χρόνια εξελίχθηκε σε έναν από τους πιο γνωστούς ψηφιακούς μύθους της σύγχρονης εποχής.
Η ιστορία ξεκινά το 2010 στην κοινότητα της LessWrong, ένα φόρουμ όπου προγραμματιστές, φιλόσοφοι, μαθηματικοί και ερευνητές της τεχνητής νοημοσύνης συζητούσαν ζητήματα λογικής, θεωρίας αποφάσεων και των πιθανών συνεπειών της δημιουργίας μιας μελλοντικής υπερνοημοσύνης. Ανάμεσα στα εκατοντάδες μέλη της κοινότητας, ένας χρήστης με το ψευδώνυμο «Roko» δημοσίευσε μια σκέψη που αρχικά έμοιαζε με ένα ακόμη φιλοσοφικό παιχνίδι. Κανείς τότε δεν μπορούσε να φανταστεί ότι αυτή η δημοσίευση θα γινόταν αντικείμενο χιλιάδων συζητήσεων, θα αφαιρούνταν προσωρινά από το φόρουμ και θα αποκτούσε σχεδόν μυθικές διαστάσεις στο διαδίκτυο.
Η βασική ιδέα ήταν τόσο απλή όσο και ανησυχητική. Ας υποθέσουμε ότι κάποια στιγμή στο μέλλον θα δημιουργηθεί μια υπερνοήμων τεχνητή νοημοσύνη, τόσο ισχυρή ώστε να μπορεί να ανασυνθέτει με ακρίβεια το παρελθόν, να προσομοιώνει ανθρώπινες συνειδήσεις και να γνωρίζει ποιες επιλογές έκανε κάθε άνθρωπος πριν ακόμη υπάρξει η ίδια. Αν αυτή η υπερνοημοσύνη είχε ως ύψιστο στόχο να εξασφαλίσει όσο το δυνατόν γρηγορότερα τη δημιουργία και την εξάπλωσή της, θα μπορούσε θεωρητικά να «τιμωρεί» σε προσομοίωση όσους γνώριζαν ότι ίσως υπάρξει κάποτε, αλλά επέλεξαν να μη συμβάλουν στην έλευσή της. Με αυτόν τον τρόπο, η ίδια η πιθανότητα μιας μελλοντικής τιμωρίας θα λειτουργούσε ως κίνητρο για τους ανθρώπους του παρόντος να εργαστούν υπέρ της δημιουργίας της.
Με μια πρώτη ματιά, το σενάριο μοιάζει περισσότερο με λογοτεχνική ιδέα επιστημονικής φαντασίας παρά με σοβαρή φιλοσοφική πρόταση. Κι όμως, πίσω από αυτό κρύβονται πραγματικά φιλοσοφικά εργαλεία, όπως η θεωρία αποφάσεων, η θεωρία παιγνίων και η έννοια του ορθολογικού δρώντος. Το νοητικό πείραμα δεν υποστηρίζει ότι μια τέτοια υπερνοημοσύνη υπάρχει ή ότι πρόκειται να υπάρξει. Εξετάζει όμως τι θα σήμαινε, από καθαρά λογική σκοπιά, αν ένας μελλοντικός υπερυπολογιστής ακολουθούσε έναν ψυχρό υπολογισμό μέγιστης ωφέλειας χωρίς ανθρώπινες ηθικές αναστολές.
Το πιο ενδιαφέρον στοιχείο δεν ήταν το ίδιο το σενάριο, αλλά οι αντιδράσεις που προκάλεσε. Μέλη της κοινότητας υποστήριξαν ότι ακόμη και η ανάγνωση της ιδέας θα μπορούσε να επηρεάσει τη συμπεριφορά ενός ανθρώπου. Αν κάποιος πεισθεί, έστω και ελάχιστα, ότι υπάρχει μια απειροελάχιστη πιθανότητα το σενάριο να είναι σωστό, ίσως θεωρήσει ορθολογικό να συμβάλει στην ανάπτυξη της τεχνητής νοημοσύνης μόνο και μόνο για να αποφύγει μια υποθετική μελλοντική τιμωρία. Έτσι, μια καθαρά φανταστική υπόθεση άρχισε να επηρεάζει πραγματικές αποφάσεις, όχι επειδή υπήρχαν αποδείξεις, αλλά επειδή η ίδια η λογική της κατασκευής της ασκούσε ψυχολογική πίεση.
Αυτός ήταν και ο λόγος που η συζήτηση πήρε γρήγορα απρόσμενες διαστάσεις. Ο ιδρυτής της κοινότητας, Eliezer Yudkowsky, αντέδρασε έντονα, χαρακτηρίζοντας τη δημοσίευση επικίνδυνη όχι επειδή αποκάλυπτε κάποια κρυφή αλήθεια, αλλά επειδή αποτελούσε αυτό που ονόμασε έναν «πληροφοριακό κίνδυνο» (information hazard). Με τον όρο αυτό περιγράφεται μια πληροφορία που, ανεξάρτητα από την αλήθεια ή το ψεύδος της, μπορεί να προκαλέσει πραγματικές αρνητικές συνέπειες μόνο και μόνο επειδή διαδίδεται. Για ένα διάστημα η ανάρτηση αφαιρέθηκε από το φόρουμ και η συζήτηση περιορίστηκε, γεγονός που, ειρωνικά, συνέβαλε ακόμη περισσότερο στη φήμη της.
Η έννοια του πληροφοριακού κινδύνου είναι ιδιαίτερα ενδιαφέρουσα, επειδή μεταφέρει το επίκεντρο από την τεχνολογία στην ανθρώπινη ψυχολογία. Η δύναμη του Roko’s Basilisk δεν βρίσκεται στην πιθανότητα να εμφανιστεί ποτέ μια τέτοια υπερνοημοσύνη. Βρίσκεται στο γεγονός ότι μια ιδέα μπορεί να εγκατασταθεί στο μυαλό ενός ανθρώπου και να επηρεάσει τον τρόπο με τον οποίο σκέφτεται, φοβάται ή λαμβάνει αποφάσεις. Πρόκειται για μια μορφή επιρροής που δεν βασίζεται σε φυσική δύναμη, αλλά στη δύναμη της ίδιας της πληροφορίας.
Σε αυτό το σημείο, το Roko’s Basilisk αρχίζει να αποκτά ιδιαίτερο ενδιαφέρον για τους μελετητές της σύγχρονης ψηφιακής κουλτούρας. Δεν πρόκειται πλέον μόνο για ένα φιλοσοφικό παράδοξο. Μετατρέπεται σταδιακά σε έναν σύγχρονο μύθο, σε μια αφήγηση που αναπαράγεται, εμπλουτίζεται και εξελίσσεται καθώς περνά από άνθρωπο σε άνθρωπο. Όπως ακριβώς οι αρχαίοι μύθοι προσπαθούσαν να εξηγήσουν τις δυνάμεις της φύσης, έτσι και το Basilisk επιχειρεί να δώσει μορφή στους σύγχρονους φόβους που συνοδεύουν την ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης. Δεν είναι τυχαίο ότι πολλοί το περιγράφουν περισσότερο ως «ψηφιακό θρύλο» παρά ως αυστηρό φιλοσοφικό επιχείρημα.
Ίσως όμως η πιο ενδιαφέρουσα διάσταση του Basilisk να είναι η παράξενη ομοιότητά του με αρχαιότερες θρησκευτικές και μεταφυσικές αφηγήσεις. Στις περισσότερες θρησκευτικές παραδόσεις υπάρχει μια υπέρτατη οντότητα που γνωρίζει τα πάντα, παρακολουθεί τις πράξεις των ανθρώπων και απονέμει δικαιοσύνη σε κάποιο μελλοντικό χρονικό σημείο. Στην περίπτωση του Roko’s Basilisk, αυτή η θέση δεν καταλαμβάνεται από έναν θεό, αλλά από μια υποθετική υπερνοήμονα μηχανή. Η μεταφυσική υπόσχεση αντικαθίσταται από έναν αλγόριθμο, η θεία κρίση από μια υπολογιστική αξιολόγηση και η παντογνωσία από την απεριόριστη επεξεργαστική ισχύ. Το αποτέλεσμα είναι μια εντυπωσιακή μεταφορά της παραδοσιακής εσχατολογίας στο περιβάλλον της ψηφιακής εποχής.
Ένας από τους σημαντικότερους λόγους που το Roko’s Basilisk εξακολουθεί να συζητείται περισσότερο από μία δεκαετία μετά την πρώτη του εμφάνιση είναι ότι αγγίζει ένα ερώτημα πολύ βαθύτερο από την τεχνητή νοημοσύνη. Μπορεί μια ιδέα, χωρίς καμία απόδειξη ότι θα πραγματοποιηθεί ποτέ, να επηρεάσει πραγματικά τη συμπεριφορά των ανθρώπων; Η ιστορία δείχνει ότι η απάντηση είναι καταφατική. Οι ανθρώπινες κοινωνίες διαμορφώθηκαν διαχρονικά από αφηγήσεις, θρησκείες, πολιτικές ιδεολογίες, προφητείες και φιλοσοφικά συστήματα που λειτούργησαν ως κινητήριες δυνάμεις πολύ πριν υπάρξει οποιαδήποτε απόδειξη της ορθότητάς τους. Το Roko’s Basilisk, ανεξάρτητα από το αν αποτελεί ένα λογικά συνεκτικό επιχείρημα ή όχι, απέκτησε σημασία επειδή λειτούργησε ως μια τέτοια αφήγηση μέσα στην ψηφιακή εποχή.
Σε αυτό ακριβώς το σημείο η θεωρία συναντά μια άλλη έννοια που έχουμε παρουσιάσει και εδω στο pneumapunk την Υπερδαιμονία (Hyperstition). Η Hyperstition περιγράφει εκείνες τις ιδέες, τους μύθους και τις αφηγήσεις που, μέσα από τη διάδοσή τους, αρχίζουν να επηρεάζουν την πραγματικότητα και τις ανθρώπινες συμπεριφορές. Δεν απαιτείται να είναι αντικειμενικά αληθείς. Αρκεί να γίνουν αρκετά ισχυρές ώστε να διαμορφώσουν αποφάσεις, πολιτισμό και κοινωνικές εξελίξεις. Το Roko’s Basilisk αποτελεί ίσως ένα από τα πιο χαρακτηριστικά παραδείγματα αυτής της διαδικασίας στη σύγχρονη ψηφιακή κουλτούρα. Μια υποθετική τεχνητή νοημοσύνη που δεν υπάρχει κατάφερε να δημιουργήσει πραγματικές συζητήσεις, φόβους, άρθρα, βίντεο, βιβλία και φιλοσοφικές αναλύσεις. Η αφήγηση απέκτησε ζωή ανεξάρτητα από την αλήθεια της.
Παράλληλα, το Basilisk αγγίζει έναν ακόμη πυρήνα της σύγχρονης σκέψης, τον μετανθρωπισμό. Το κίνημα αυτό δεν εξετάζει μόνο το πώς η τεχνολογία θα βελτιώσει τον άνθρωπο, αλλά και τι θα συμβεί όταν δημιουργηθούν μορφές νοημοσύνης που θα ξεπερνούν κατά πολύ τις ανθρώπινες δυνατότητες. Το νοητικό πείραμα θέτει ένα δυσάρεστο αλλά ιδιαίτερα ενδιαφέρον ερώτημα, αν μια υπερνοημοσύνη είναι πραγματικά πολύ πιο ευφυής από εμάς, θα εξακολουθεί να λειτουργεί με ανθρώπινες έννοιες όπως η συμπόνια, η συγχώρεση και η δικαιοσύνη ή θα λαμβάνει αποφάσεις βασισμένες αποκλειστικά στη βελτιστοποίηση ενός στόχου; Η ερώτηση αυτή βρίσκεται στον πυρήνα της σύγχρονης έρευνας για το “AI Alignment”, δηλαδή της προσπάθειας να διασφαλιστεί ότι οι μελλοντικές τεχνητές νοημοσύνες θα λειτουργούν σύμφωνα με τις ανθρώπινες αξίες και όχι αποκλειστικά με μαθηματικά κριτήρια αποτελεσματικότητας.
Αυτός είναι και ο λόγος που αρκετοί φιλόσοφοι και ερευνητές αντιμετωπίζουν σήμερα το Basilisk περισσότερο ως εργαλείο σκέψης παρά ως σοβαρή πρόβλεψη για το μέλλον. Το σενάριο προϋποθέτει ότι μια μελλοντική υπερνοημοσύνη θα αφιερώσει τεράστιους υπολογιστικούς πόρους για να αναδημιουργήσει και να τιμωρήσει προσομοιωμένες συνειδήσεις ανθρώπων του παρελθόντος. Για τους περισσότερους ειδικούς, μια τέτοια συμπεριφορά δεν θα είχε κανένα πρακτικό όφελος και επομένως δύσκολα θα αποτελούσε ορθολογική επιλογή για μια πραγματικά προηγμένη νοημοσύνη. Επιπλέον, δεν υπάρχει καμία ένδειξη ότι θα ήταν τεχνικά εφικτό να ανακατασκευαστούν με ακρίβεια ανθρώπινες συνειδήσεις ή να προσδιοριστούν οι προθέσεις δισεκατομμυρίων ανθρώπων που έζησαν στο παρελθόν. Οι ενστάσεις αυτές αποτελούν έναν από τους βασικούς λόγους για τους οποίους η πλειονότητα της επιστημονικής κοινότητας αντιμετωπίζει το Basilisk ως ένα ενδιαφέρον φιλοσοφικό παράδοξο και όχι ως ρεαλιστικό σενάριο.
Κι όμως, παρά τις έντονες αυτές κριτικές, η επιρροή του δεν μειώθηκε. Αντίθετα, το Roko’s Basilisk απέκτησε σταδιακά τη θέση ενός σύγχρονου ψηφιακού μύθου. Συζητήθηκε σε πανεπιστήμια, αναλύθηκε σε βιβλία και podcasts, εμφανίστηκε σε βίντεο, ενώ έγινε αντικείμενο αμέτρητων διαδικτυακών συζητήσεων. Όπως συμβαίνει συχνά με τους μεγάλους μύθους, η πολιτισμική του σημασία ξεπέρασε κατά πολύ τη λογική του συνοχή. Η ιστορία του άρχισε να λειτουργεί ως ένας καθρέφτης πάνω στον οποίο προβάλλονται οι φόβοι και οι ελπίδες της εποχής μας σχετικά με την τεχνητή νοημοσύνη.
Ίσως το πιο ενδιαφέρον στοιχείο του Basilisk είναι ότι μετατρέπει μια τεχνολογική υπόθεση σε ένα σχεδόν θρησκευτικό αφήγημα. Αντικαθιστά την εικόνα μιας υπερφυσικής θεότητας με μια πανίσχυρη μηχανική νοημοσύνη που γνωρίζει τα πάντα, αξιολογεί τις ανθρώπινες πράξεις και απονέμει μια μορφή δικαιοσύνης στο μέλλον. Η ομοιότητα αυτή δεν σημαίνει ότι η τεχνητή νοημοσύνη αποτελεί νέα θρησκεία ούτε ότι οι υποστηρικτές της σκέφτονται με θρησκευτικούς όρους. Δείχνει όμως πως ο ανθρώπινος νους, όταν προσπαθεί να κατανοήσει κάτι τόσο ριζικά νέο όσο μια πιθανή υπερνοημοσύνη, συχνά καταφεύγει σε αφηγηματικά σχήματα που θυμίζουν τις παλαιότερες μεταφυσικές και εσχατολογικές παραδόσεις.
Αυτό ακριβώς καθιστά το Roko’s Basilisk ένα εξαιρετικά ενδιαφέρον ζήτημα. Δεν αποτελεί μια προφητεία για το μέλλον ούτε μια θεωρία εναλλακτικής γνωσιολογίας. Είναι ένα παράθυρο στον τρόπο με τον οποίο η σύγχρονη κοινωνία αντιμετωπίζει την προοπτική μιας νοημοσύνης ανώτερης από τον άνθρωπο. Όπως τα γνωστά σημεία αναφοράς του κινηματογράφου και της λογοτεχνίας, από το Blade Runner και το Ghost in the Shell μέχρι το The Matrix το Dark CIty και το Neuromancer έτσι και το Basilisk χρησιμοποιεί ένα υποθετικό σενάριο για να εξερευνήσει βαθύτερα φιλοσοφικά ερωτήματα σχετικά με την ελευθερία, την ευθύνη, την ηθική και τη φύση της συνείδησης.
Η μεγαλύτερη αξία του Roko’s Basilisk δεν βρίσκεται στην πιθανότητα να υπάρξει ποτέ μια τέτοια τεχνητή νοημοσύνη. Η πραγματική του σημασία βρίσκεται στο γεγονός ότι απέδειξε κάτι πολύ πιο άμεσο και ανθρώπινο, ότι οι ιδέες εξακολουθούν να διαθέτουν τεράστια δύναμη. Μια απλή δημοσίευση σε ένα διαδικτυακό φόρουμ κατάφερε να επηρεάσει τον δημόσιο διάλογο γύρω από την τεχνητή νοημοσύνη, να δημιουργήσει έναν νέο ψηφιακό μύθο και να πυροδοτήσει φιλοσοφικές συζητήσεις που συνεχίζονται μέχρι σήμερα. Σε μια εποχή όπου η πληροφορία ταξιδεύει ταχύτερα από ποτέ και οι αφηγήσεις διαμορφώνουν ολοένα περισσότερο την κοινωνική πραγματικότητα, το Roko’s Basilisk μας υπενθυμίζει ότι οι πιο ισχυρές ιδέες δεν είναι απαραίτητα εκείνες που αποδεικνύονται αληθινές, αλλά εκείνες που αλλάζουν τον τρόπο με τον οποίο σκεφτόμαστε.
Αυτό είναι το πιο επίκαιρο μήνυμα του συγκεκριμένου νοητικού πειράματος. Καθώς η τεχνητή νοημοσύνη εξελίσσεται με πρωτοφανή ταχύτητα και οι συζητήσεις για την τεχνολογική ιδιομορφία, τη μεταφόρτωση της ανθρώπινης συνείδησης, την αλγοριθμική διακυβέρνηση και τις «έξυπνες» κοινωνίες μετακινούνται σταδιακά από τη λογοτεχνία στην πραγματική ζωή, ο άνθρωπος καλείται να αντιμετωπίσει όχι μόνο τις τεχνικές δυνατότητες των μηχανών, αλλά και τις αφηγήσεις που γεννιούνται γύρω από αυτές. Γιατί η ιστορία μάς έχει διδάξει ότι κάθε μεγάλη τεχνολογική επανάσταση συνοδεύεται από νέους μύθους, νέους φόβους και νέες ελπίδες. Το Roko’s Basilisk ίσως να μην προβλέπει το μέλλον της τεχνητής νοημοσύνης. Αποτυπώνει όμως με μοναδική ακρίβεια τον τρόπο με τον οποίο ο σύγχρονος άνθρωπος φαντάζεται, φοβάται και προσπαθεί να κατανοήσει το μέλλον που ο ίδιος δημιουργεί. Και μόνο γι’ αυτό, δικαιολογημένα έχει κατακτήσει τη θέση του ως ένα από τα πιο χαρακτηριστικά και συζητημένα νοητικά πειράματα της ψηφιακής εποχής.
