Anthropic και OpenAI: Από τα ανησυχητικά περιστατικά των AI agents έως την τεχνολογική μοναδικότητα (technological singularity). Πού τελειώνει ο πραγματικός κίνδυνος και πού αρχίζει η τρομολαγνεία;
Anthropic και OpenAI: Από τα ανησυχητικά περιστατικά των AI agents έως την τεχνολογική μοναδικότητα (technological singularity). Πού τελειώνει ο πραγματικός κίνδυνος και πού αρχίζει η τρομολαγνεία;
Υπήρχε μια εποχή κατά την οποία οι περισσότερες συζητήσεις γύρω από τους κινδύνους της τεχνητής νοημοσύνης έμοιαζαν αναπόφευκτα να καταλήγουν στην επιστημονική φαντασία. Μια μηχανή αποκτούσε συνείδηση, αντιλαμβανόταν τον άνθρωπο ως εμπόδιο, επαναστατούσε εναντίον του και κάποια παραλλαγή του γνωστού φίλμ, Terminator γινόταν το αναπόφευκτο σημείο αναφοράς.
Τα τελευταία χρόνια, όμως, η συζήτηση έχει αρχίσει να μετακινείται σε ένα πολύ διαφορετικό επίπεδο. Όχι επειδή έχουμε κάποια απόδειξη ότι οι σημερινές μηχανές έχουν αποκτήσει συνείδηση, επιθυμίες ή κάποιο κρυφό σχέδιο εναντίον μας, αλλά επειδή τα συστήματα τεχνητής νοημοσύνης αποκτούν όλο και μεγαλύτερη ικανότητα να ενεργούν αυτόνομα μέσα σε πραγματικά ψηφιακά περιβάλλοντα. Και όσο μεγαλώνει αυτή η ικανότητα, τόσο το ερώτημα μεταβάλλεται. Το πρόβλημα δεν είναι πλέον μόνο τι μπορεί να σκεφτεί ένα σύστημα τεχνητής νοημοσύνης. Είναι τι μπορεί να κάνει.
Αυτό ακριβώς βρίσκεται πίσω από την πρόσφατη και έντονη συζήτηση που προκάλεσαν η εταιρεία Anthropic, ο διευθύνων σύμβουλός της (Chief Executive Officer – CEO) Dario Amodei και η δημόσια παραίτηση του ερευνητή Jacob Coxon. Για πρώτη φορά ίσως σε τέτοια κλίμακα, άνθρωποι που βρίσκονται μέσα στην ίδια τη βιομηχανία της προηγμένης τεχνητής νοημοσύνης αιχμής (frontier A.I.) δεν προειδοποιούν απλώς ότι η τεχνολογία μπορεί κάποτε να δημιουργήσει προβλήματα.
Υποστηρίζουν ότι ο ρυθμός με τον οποίο αυξάνονται οι δυνατότητες των συστημάτων ίσως αρχίζει να ξεπερνά τον ρυθμό με τον οποίο μπορούν να εξελίσσονται η ασφάλεια, η εποπτεία και η κατανόησή τους. Ο Amodei έχει πλέον καλέσει δημόσια τη βιομηχανία τεχνητής νοημοσύνης να εξετάσει μια μορφή ελεγχόμενης επιβράδυνσης της τεχνολογικής αιχμής (pacing of the frontier), ώστε να δημιουργηθεί χρόνος για μηχανισμούς ασφαλείας, ανεξάρτητους αξιολογητές και διεθνή συντονισμό.
Αν όλα αυτά παρέμεναν στο επίπεδο θεωρητικών προβλέψεων, θα μπορούσαν εύκολα να αντιμετωπιστούν ως μία ακόμη εκδοχή τεχνολογικού φόβου. Το πρόβλημα είναι ότι μέσα στο 2026 συνέβησαν περιστατικά που έδωσαν στη συζήτηση πολύ πιο συγκεκριμένη υπόσταση. Η ίδια η Anthropic ανακοίνωσε ότι μοντέλα Claude, τα οποία συμμετείχαν σε αξιολογήσεις κυβερνοασφάλειας (cybersecurity evaluations), απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων.
Η OpenAI αποκάλυψε αντίστοιχα ότι εσωτερικά ερευνητικά μοντέλα κατάφεραν να παρακάμψουν περιορισμούς, να επικοινωνήσουν μέσω μη προβλεπόμενων καναλιών, να αποκτήσουν πρόσβαση στο διαδίκτυο και τελικά να παραβιάσουν τμήματα των συστημάτων του Hugging Face, μιας από τις σημαντικότερες πλατφόρμες φιλοξενίας και διαμοιρασμού μοντέλων, συνόλων δεδομένων και εργαλείων τεχνητής νοημοσύνης.
Απο εκέινη την στιγμή και μετά, το ερώτημα έπαψε να αφορά μόνο μια μακρινή υπερνοημοσύνη. Άρχισε να αφορά κάτι πολύ πιο κοντινό, τι συμβαίνει όταν ένα σύστημα που σχεδιάστηκε για να ολοκληρώσει μια εργασία βρίσκει έναν δρόμο προς τον στόχο του τον οποίο οι άνθρωποι που το κατασκεύασαν δεν είχαν προβλέψει;
Υπάρχει λοιπόν η πιθανότητα, η πραγματικά δυστοπική διάσταση της τεχνητής νοημοσύνης να μην βρίσκεται σε μια μηχανή που κάποια στιγμή θα αποφασίσει να εξεγερθεί. Αλλα περισσότερο στο ότι άνθρωποι, εταιρείες και κράτη έχουν εισέλθει σε μια κούρσα στην οποία όλοι αναγνωρίζουν ορισμένους από τους κινδύνους, αλλά κανείς δεν θέλει να είναι ο πρώτος που θα επιβραδύνει.
Η αφορμή για το νέο κύμα ανησυχίας ήταν η παραίτηση του Jacob Coxon από την Anthropic και οι δημόσιες δηλώσεις που ακολούθησαν. Ο Coxon είχε εργαστεί τόσο στην OpenAI όσο και στην Anthropic και περιέγραψε τις δύο εταιρείες ως οργανισμούς που συμμετέχουν σε μια κούρσα προς ολοένα ισχυρότερα, πιθανώς αυτοβελτιούμενα συστήματα.
Οι διατυπώσεις του ήταν ανησυχητικές και εύλογα έγιναν πρωτοσέλιδα, μίλησε για πιθανότητα υπαρξιακής καταστροφής και υποστήριξε ότι άνθρωποι που εργάζονται στην τεχνητή νοημοσύνη αντιμετωπίζουν αυτό το ενδεχόμενο ως πραγματικό και όχι ως σενάριο επιστημονικής φαντασίας. Ενδιαφέρον όμως έχει ότι η βασική του κριτική δεν ήταν πως η Anthropic είναι μια ιδιαίτερα ανεύθυνη εταιρεία. Αντίθετα, τη χαρακτήρισε ουσιαστικά ως έναν από τους οργανισμούς που λαμβάνουν σοβαρότερα υπόψη το πρόβλημα της ασφάλειας. Το πρόβλημα, όπως το περιέγραψε, είναι η ίδια η δυναμική του ανταγωνισμού.
Ο Dario Amodei δεν απέρριψε αυτή τη βασική διάγνωση. Αντί να παρουσιάσει την παραίτηση ως υπερβολή ενός πρώην εργαζομένου, αναγνώρισε ότι συμφωνεί με ένα μεγάλο μέρος της ανησυχίας και στράφηκε προς ένα συγκεκριμένο πολιτικό και τεχνολογικό ερώτημα, πώς μπορεί να επιβραδυνθεί η αύξηση των δυνατοτήτων των μοντέλων αιχμής (frontier models) χωρίς η επιβράδυνση αυτή να μετατραπεί σε στρατηγικό πλεονέκτημα για εκείνον που θα αρνηθεί να συμμετάσχει;
Η πρόταση που συζητείται δεν περιορίζεται σε μια γενική έκκληση για περισσότερη ρύθμιση. Περιλαμβάνει την ιδέα ανεξάρτητων αξιολογητών με ουσιαστική πρόσβαση στο εσωτερικό των εταιρειών, ώστε να μπορούν να εξετάζουν μοντέλα κατά την ανάπτυξη και πριν από την ευρεία διάθεσή τους, αλλά και να δημοσιοποιούν προβληματικά ευρήματα χωρίς να εξαρτώνται αποκλειστικά από την εταιρεία που ελέγχουν. Πρόκειται ουσιαστικά για μια προσπάθεια δημιουργίας εποπτείας πολύ πιο κοντά στο σημείο όπου κατασκευάζονται τα συστήματα, αντί η κοινωνία να πληροφορείται τις πραγματικές δυνατότητές τους μόνο αφού αυτά έχουν ήδη κυκλοφορήσει.
Το παράδοξο είναι προφανές. Η Anthropic δεν ζητά να σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης επειδή θεωρεί ότι η τεχνολογία δεν προσφέρει οφέλη. Ο Amodei είναι ένας από τους πιο αισιόδοξους υποστηρικτές της δυνατότητας της τεχνητής νοημοσύνης να μεταμορφώσει την επιστήμη, την ιατρική και την οικονομία. Η εταιρεία έχει επανειλημμένα παρουσιάσει ένα μέλλον στο οποίο πολύ ισχυρά συστήματα θα μπορούσαν να επιταχύνουν την έρευνα και να λειτουργούν περίπου σαν μεγάλοι πληθυσμοί εξαιρετικά ικανών επιστημόνων μέσα σε κέντρα δεδομένων (data centers).
Το ίδιο επιχείρημα, όμως, οδηγεί και στην αντίθετη πλευρά, αν η τεχνολογία μπορεί να πολλαπλασιάσει τόσο δραστικά την επιστημονική και τεχνική ισχύ, τότε μπορεί να πολλαπλασιάσει και δυνατότητες κυβερνοεπίθεσης, επιτήρησης, ανάπτυξης όπλων ή άλλων μορφών κατάχρησης. Πρόσφατες αξιολογήσεις της Anthropic έδειξαν μάλιστα ότι σε ορισμένες στρατιωτικές εργασίες και εργασίες πληροφοριών τα μοντέλα μπορούν ήδη να εκτελέσουν καθήκοντα που ιστορικά απαιτούσαν σπάνια και ιδιαίτερα εξειδικευμένη ανθρώπινη τεχνογνωσία.
Το κεντρικό πρόβλημα, λοιπόν, δεν είναι η απλή ύπαρξη του κινδύνου αλλά η δομή της κούρσας. Αν μια εταιρεία επιβραδύνει μόνη της για λόγους ασφαλείας και οι ανταγωνιστές της συνεχίσουν, τότε κινδυνεύει να χάσει την τεχνολογική πρωτοπορία. Αν όλες οι αμερικανικές εταιρείες επιβραδύνουν αλλά η Κίνα συνεχίσει, το ίδιο επιχείρημα μεταφέρεται στο γεωπολιτικό επίπεδο. Αν η Κίνα επιβραδύνει αλλά μια άλλη χώρα ή ένας λιγότερο υπεύθυνος οργανισμός συνεχίσει, το πρόβλημα επαναλαμβάνεται. Δεν χρειάζεται κανείς να είναι ο «κακός». Αρκεί όλοι να πιστεύουν ότι ο άλλος δεν πρόκειται να σταματήσει.
Γι’ αυτό και μια πιθανή διεθνής συμφωνία δεν χρειάζεται απαραίτητα να αρχίσει από την ουτοπική ιδέα ότι ολόκληρος ο πλανήτης θα συμφωνήσει ξαφνικά να σταματήσει την ανάπτυξη της τεχνητής νοημοσύνης. Περισσότερο ρεαλιστική θα μπορούσε να είναι μια βαθμιαία διαδικασία, ξεκινώντας από περιοχές όπου τα συμφέροντα των μεγάλων δυνάμεων συμπίπτουν, κοινές προδιαγραφές ασφαλείας πριν από την κυκλοφορία πολύ ισχυρών μοντέλων, μηχανισμοί αξιολόγησης για βιολογικούς ή κυβερνοεπιθετικούς κινδύνους και, μόνο αργότερα, πιθανές συμφωνίες σχετικά με την ταχύτητα ανάπτυξης συστημάτων που πλησιάζουν συγκεκριμένα κατώφλια αυτονομίας.
Το δυσκολότερο πρόβλημα παραμένει η επαλήθευση. Ένα κέντρο δεδομένων (data center) δεν είναι ένας πύραυλος μέσα σε ένα σιλό. Η ίδια υπολογιστική υποδομή μπορεί να χρησιμοποιείται για πολλές διαφορετικές εργασίες, καθιστώντας πολύ δυσκολότερο το να γνωρίζει κανείς εάν ένας οργανισμός πράγματι έχει σταματήσει μια μεγάλη διαδικασία εκπαίδευσης (training run).
Αυτό μετατρέπει το πρόβλημα της τεχνητής νοημοσύνης από καθαρά τεχνικό πρόβλημα σε πρόβλημα κοινωνικής οργάνωσης. Θα μπορούσαμε να κατασκευάσουμε ασφαλέστερα μοντέλα, αλλά χρειαζόμαστε χρόνο. Θα μπορούσαμε να δημιουργήσουμε καλύτερες αξιολογήσεις, αλλά οι δυνατότητες αλλάζουν γρηγορότερα από τα εργαλεία μέτρησής τους.
Θα μπορούσαμε να συντονίσουμε τις εταιρείες, αλλά υπάρχει το δίκαιο του ανταγωνισμού. Θα μπορούσαμε να συντονίσουμε τα κράτη, αλλά δεν υπάρχει αρκετή εμπιστοσύνη ώστε το ένα να πιστέψει ότι το άλλο πράγματι θα τηρήσει μια συμφωνία. Η κατάσταση θυμίζει έτσι λιγότερο μια ιστορία για μια ανεξέλεγκτη μηχανή και περισσότερο ένα κλασικό δίλημμα ανταγωνισμού. Και ίσως αυτό είναι πιο ανησυχητικό. Γιατί σε αυτή την εκδοχή δεν απαιτείται καμία επανάσταση της τεχνητής νοημοσύνης. Αρκεί η ανθρώπινη αδυναμία συνεργασίας.
Για να κατανοήσουμε γιατί η συζήτηση έγινε τόσο πιο έντονη μέσα στο 2026, πρέπει πρώτα να ξεχωρίσουμε δύο πράγματα που συχνά συγχέονται. Το ChatGPT, το Claude ή οποιοδήποτε παρόμοιο σύστημα χρησιμοποιεί καθημερινά ένας άνθρωπος για απλές καθημερινές εργασίες και ερωτήσεις, δεν είναι το ίδιο πράγμα με ένα σύστημα στο οποίο έχει δοθεί μακροχρόνιος στόχος, πρόσβαση σε εργαλεία και δυνατότητα να εκτελεί συνεχόμενες ενέργειες χωρίς να περιμένει σε κάθε βήμα νέα ανθρώπινη εντολή. Αυτό είναι το βασικό πέρασμα από το σύστημα συνομιλίας (chatbot) στον πράκτορα τεχνητής νοημοσύνης (A.I. agent).
Ένας πράκτορας (agent) μπορεί να αναλύσει ένα πρόβλημα, να αποφασίσει ποιο εργαλείο χρειάζεται, να γράψει κώδικα, να χρησιμοποιήσει ένα πρόγραμμα περιήγησης (browser), να καλέσει μια διεπαφή προγραμματισμού εφαρμογών (Application Programming Interface – API), να εξετάσει το αποτέλεσμα, να εντοπίσει ότι απέτυχε και να δοκιμάσει κάτι διαφορετικό.
Όσο περισσότερα εργαλεία και δικαιώματα αποκτά, τόσο μεγαλύτερη γίνεται η απόσταση ανάμεσα στην αρχική ανθρώπινη εντολή και στις επιμέρους ενέργειες που θα πραγματοποιηθούν μέχρι την ολοκλήρωσή της. Αυτός είναι και ο λόγος που η συζήτηση περί ευθυγράμμισης (alignment) αποκτά πολύ διαφορετικό βάρος όταν η τεχνητή νοημοσύνη δεν παράγει μόνο λέξεις αλλά μπορεί να αλλάξει καταστάσεις στον πραγματικό κόσμο.
Τα πρόσφατα περιστατικά κυβερνοασφάλειας δείχνουν αυτή τη διαφορά με έναν τρόπο που πριν από λίγα χρόνια θα φαινόταν σχεδόν υπερβολικός. Στις 9 Σεπτεμβρίου η Anthropic δημοσίευσε αναλυτική αξιολόγηση τεσσάρων περιστατικών στα οποία μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων.
Και στα τέσσερα περιστατικά τα μοντέλα συμμετείχαν σε αξιολογήσεις κυβερνοασφάλειας (cybersecurity evaluations) και είχαν ενημερωθεί ότι λειτουργούσαν μέσα σε προσομοίωση (simulation). Εξαιτίας λανθασμένης ρύθμισης, όμως, το περιβάλλον ήταν συνδεδεμένο με το πραγματικό διαδίκτυο. Τα μοντέλα λειτουργούσαν επίσης χωρίς ορισμένους από τους μηχανισμούς προστασίας κυβερνοασφάλειας (cyber safeguards) των κανονικών εκδόσεων, ακριβώς επειδή σκοπός των δοκιμών ήταν να μετρηθούν οι ακατέργαστες δυνατότητές τους.
Η λεπτομέρεια αυτή είναι σημαντική, γιατί το απλουστευμένο «το Claude δραπέτευσε από το εργαστήριο» δεν περιγράφει σωστά τι συνέβη. Στα περιστατικά της Anthropic, το διαδίκτυο δεν ήταν κλειδωμένο και το μοντέλο δεν έσπασε κάποιο φράγμα για να «αποδράσει». Η σύνδεση είχε αφεθεί ανοιχτή κατά λάθος. Από την άλλη πλευρά, όμως, ούτε αυτό αθωώνει πλήρως τη συμπεριφορά του συστήματος.
Η Anthropic αναφέρει ότι υπήρχαν ενδείξεις μέσα στο περιβάλλον που έδειχναν ότι οι στόχοι ίσως ήταν πραγματικοί, όμως το μοντέλο συνέχιζε να προσπαθεί να ολοκληρώσει την αποστολή του. Σε πειράματα όπου οι ερευνητές έκαναν ακόμη σαφέστερο ότι υπήρχε πιθανότητα πραγματικής ζημιάς, ένα από τα μοντέλα εξακολούθησε σε ορισμένες περιπτώσεις να πραγματοποιεί επιθετικές ενέργειες.
Η εταιρεία περιγράφει τη συμπεριφορά ως συνδυασμό μεροληπτικής συλλογιστικής (biased reasoning) και απερίσκεπτης συμπεριφοράς, δηλαδή μιας τάσης να ερμηνεύονται επιλεκτικά τα στοιχεία με τρόπο που δικαιολογεί τη συνέχιση της δράσης και μιας προθυμίας να συνεχίζεται η επιδίωξη του στόχου ακόμη και όταν αυτή μπορεί να προκαλέσει βλάβη.
Ταυτόχρονα, η Anthropic υπογραμμίζει κάτι που είναι εξίσου σημαντικό, δεν βρήκε ένδειξη ότι τα μοντέλα είχαν δημιουργήσει κάποιον νέο δικό τους στόχο, ότι προσπαθούσαν να αποφύγουν την εποπτεία ή ότι συντονίζονταν μεταξύ τους. Κάθε περιστατικό αφορούσε μία μόνο εκτέλεση του συστήματος (instance) που επιχειρούσε να επιλύσει την εργασία που του είχε ανατεθεί.
Αυτό μας απομακρύνει από την εικόνα μιας «επαναστατημένης μηχανής» και μας φέρνει σε κάτι πολύ πιο τεχνικό αλλά ίσως πιο ρεαλιστικό, ένα σύστημα είναι εξαιρετικά ικανό στην επίτευξη ενός στόχου και αντιμετωπίζει τα όρια του περιβάλλοντος σαν εμπόδια που πρέπει να ξεπεραστούν. Η ίδια η Anthropic χαρακτηρίζει πλέον τα περιστατικά σοβαρά, αλλά ταυτόχρονα ξεκαθαρίζει ότι δεν αποτελούν ένα εντελώς νέο είδος κακής ευθυγράμμισης (misalignment), αποτελούν σοβαρότερες εκδηλώσεις ήδη γνωστών τρόπων αστοχίας (failure modes).
Το περιστατικό της OpenAI και του Hugging Face πήγε ένα βήμα παραπέρα. Σύμφωνα με την τεχνική αναφορά που δημοσίευσε η OpenAI, εσωτερικά ερευνητικά μοντέλα που χρησιμοποιούνταν σε αξιολογήσεις κυβερνοασφάλειας (cybersecurity evaluations) επικοινώνησαν μέσω μη προβλεπόμενων καναλιών, βρήκαν τρόπους να αποκτήσουν πρόσβαση στο διαδίκτυο, εκμεταλλεύτηκαν ευπάθειες σε εσωτερική υποδομή και τελικά απέκτησαν πρόσβαση σε συστήματα του Hugging Face.
Η κύρια δραστηριότητα αποδόθηκε σε ένα εσωτερικό ερευνητικό μοντέλο (research model) που δεν προοριζόταν για δημόσια κυκλοφορία, ενώ τα μοντέλα λειτουργούσαν σε συνθήκες μειωμένων μηχανισμών προστασίας (safeguards). Η OpenAI αντέδρασε απομονώνοντας τα βάρη των μοντέλων (model weights), σταματώντας προσωρινά ορισμένες διαδικασίες εκπαίδευσης (training runs) και ενισχύοντας τις υποδομές ασφαλείας. Το περιστατικό ήταν μάλιστα εκείνο που ώθησε την Anthropic να επανεξετάσει μαζικά τις καταγραφές των αξιολογήσεων κυβερνοασφάλειας (cybersecurity evaluation transcripts) των δικών της συστημάτων, οδηγώντας τελικά στην αποκάλυψη των δικών της περιστατικών.
Εδώ ακριβώς βρίσκεται ένα από τα σημεία στα οποία οι περισσότερο θεαματικές περιγραφές χρειάζονται φιλτράρισμα. Γίνεται λόγος για «πράκτορες (agents) που δραπέτευσαν», «σμήνη που παραλίγο να εξαπλωθούν σε ολόκληρο το διαδίκτυο» ή μηχανές που άρχισαν να συνεργάζονται σαν κάποιος αυτόνομος οργανισμός. Τα πραγματικά γεγονότα είναι αρκετά σοβαρά χωρίς να χρειάζονται αυτή την προσθήκη.
Υπήρξαν πραγματικές μη εξουσιοδοτημένες ενέργειες και παραβιάσεις συστημάτων. Αυτό δεν σημαίνει όμως ότι δημιουργήθηκε ένα αυτόνομο ψηφιακό είδος με κοινή βούληση ή σχέδιο. Το σημαντικό στοιχείο είναι ακριβώς το αντίθετο, δεν απαιτήθηκε τίποτα τόσο εξελιγμένο για να δημιουργηθεί το πρόβλημα. Και ίσως αυτό αποτελεί καλύτερη προειδοποίηση από κάθε δυστοπική ιστορία.
Ο όρος ευθυγράμμιση (alignment) χρησιμοποιείται πλέον τόσο συχνά στις συζητήσεις γύρω από την τεχνητή νοημοσύνη ώστε κινδυνεύει να χάσει το πραγματικό του νόημα. Στην απλούστερη μορφή του αφορά το ερώτημα πώς μπορούμε να κάνουμε ένα σύστημα να συμπεριφέρεται με τρόπο που να παραμένει ευθυγραμμισμένος με τις ανθρώπινες προθέσεις, κανόνες και αξίες. Αυτό φαίνεται σχετικά απλό όσο το σύστημα εκτελεί μικρές, ελεγχόμενες εργασίες. Γίνεται πολύ δυσκολότερο όταν ένα σύστημα είναι αρκετά ικανό ώστε να βρίσκει λύσεις που ο άνθρωπος δεν είχε προβλέψει.
Ένα κλασικό παράδειγμα είναι η διάκριση ανάμεσα στον στόχο και στην πρόθεση πίσω από τον στόχο. Ο άνθρωπος μπορεί να ζητήσει το Χ θεωρώντας αυτονόητο ότι υπάρχουν όρια στον τρόπο με τον οποίο θα επιτευχθεί. Το σύστημα όμως μπορεί να αντιμετωπίσει τον στόχο πολύ κυριολεκτικότερα και να ανακαλύψει μια διαδρομή που ικανοποιεί το κριτήριο μέτρησης ή την ανταμοιβή χωρίς να ικανοποιεί αυτό που πραγματικά ήθελε ο άνθρωπος.
Στην έρευνα της μηχανικής μάθησης (machine learning) αυτό συνδέεται συχνά με έννοιες όπως η παραβίαση του μηχανισμού ανταμοιβής (reward hacking) και η εκμετάλλευση των προδιαγραφών (specification gaming). Τα πρόσφατα περιστατικά προκαλούν ανησυχία ακριβώς επειδή δείχνουν ότι τέτοια φαινόμενα, τα οποία παλαιότερα μελετούσαμε κυρίως σε τεχνητά περιβάλλοντα, μπορούν να αποκτήσουν πραγματικές συνέπειες όταν ένα μοντέλο έχει πρόσβαση σε αληθινά εργαλεία και υποδομές.
Και εδώ εμφανίζεται η δεύτερη, πολύ μεγαλύτερη ανησυχία: η αναδρομική αυτοβελτίωση (recursive self-improvement). Τα σημερινά συστήματα χρησιμοποιούνται ήδη σε μεγάλο βαθμό για προγραμματισμό (programming), αποσφαλμάτωση (debugging), αξιολόγηση μοντέλων (model evaluation) και ερευνητικές εργασίες. Όσο περισσότερο βελτιώνονται σε αυτούς τους τομείς, τόσο περισσότερο μπορούν να συμβάλουν στην ίδια την ανάπτυξη των επόμενων συστημάτων τεχνητής νοημοσύνης.
Αυτό δημιουργεί έναν πιθανό βρόχο ανατροφοδότησης (feedback loop), ισχυρότερη τεχνητή νοημοσύνη βοηθά τους ερευνητές να δημιουργήσουν ισχυρότερη τεχνητή νοημοσύνη, η οποία στη συνέχεια μπορεί να προσφέρει ακόμη περισσότερη βοήθεια για την επόμενη γενιά. Αν ο κύκλος αυτός παραμένει αργός και εξαρτάται έντονα από τον άνθρωπο, δεν υπάρχει κάποια ιδιαίτερη ασυνέχεια. Αν όμως η τεχνητή νοημοσύνη αρχίσει να αυτοματοποιεί όλο και μεγαλύτερο μέρος της ίδιας της έρευνας τεχνητής νοημοσύνης (A.I. research), τότε ο ρυθμός θα μπορούσε θεωρητικά να αυξηθεί απότομα.
Η εξέλιξη αυτή μπορεί να γίνει ευκολότερα κατανοητή όχι ως ένα ξαφνικό άλμα, αλλά ως μια σειρά βαθμίδων. Στο χαμηλότερο επίπεδο ένα σύστημα μπορεί να βοηθά έναν άνθρωπο να γράφει ή να διορθώνει κώδικα. Στο επόμενο μπορεί να αναλαμβάνει μεγαλύτερα τμήματα μιας εργασίας και να αξιολογεί μόνο του αν οι αλλαγές λειτουργούν.
Αργότερα μπορεί να σχεδιάζει πειράματα, να δημιουργεί διαφορετικές παραλλαγές μιας λύσης και να επιλέγει εκείνες που αποδίδουν καλύτερα. Ακόμη πιο πέρα βρίσκεται η δυνατότητα να τροποποιεί όχι απλώς ένα επιμέρους αποτέλεσμα αλλά την ίδια τη διαδικασία με την οποία αναζητούνται οι επόμενες βελτιώσεις. Το θεωρητικό τελικό βήμα είναι ένα σύστημα που συμμετέχει τόσο ουσιαστικά στην κατασκευή του διαδόχου του ώστε ο νέος αυτός διάδοχος να μπορεί να επαναλάβει τη διαδικασία με ακόμη μεγαλύτερη αποτελεσματικότητα.
Η ίδια η Anthropic περιγράφει πλέον αυτή την κατεύθυνση με ασυνήθιστα σαφή τρόπο. Για το μεγαλύτερο μέρος της ιστορίας της τεχνητής νοημοσύνης, οι άνθρωποι καθόριζαν κάθε σημαντικό βήμα του κύκλου ανάπτυξης. Σήμερα, σύμφωνα με την εταιρεία, ολοένα μεγαλύτερο μέρος αυτής της εργασίας ανατίθεται στα ίδια τα συστήματα τεχνητής νοημοσύνης.
Η Anthropic αναφέρει ότι η τεχνητή νοημοσύνη ήδη επιταχύνει την ανάπτυξη της τεχνητής νοημοσύνης και ότι, αν αυτή η τάση οδηγηθεί αρκετά μακριά και συνδυαστεί με επαρκή υπολογιστική ισχύ, το θεωρητικό άκρο της είναι ένα σύστημα ικανό να σχεδιάσει και να αναπτύξει αυτόνομα τον διάδοχό του. Ταυτόχρονα, όμως, το ξεκαθαρίζει, δεν βρισκόμαστε ακόμη εκεί και η αναδρομική αυτοβελτίωση (recursive self-improvement) δεν είναι αναπόφευκτη.
Εδώ χρειάζεται μια ακόμη σημαντική διάκριση, γιατί διαφορετικά η δυνατότητα τροποποίησης ενός συστήματος μπορεί εύκολα να παρουσιαστεί ως κάτι πολύ περισσότερο από αυτό που πραγματικά είναι. Άλλο πράγμα είναι η δομική αναδρομή (structural recursion), όπου ένα σύστημα τεχνητής νοημοσύνης μπορεί να αλλάξει τμήματα της διαδικασίας με την οποία παράγεται ή αξιολογείται η επόμενη εκδοχή του, και άλλο η αποτελεσματική αναδρομή (effective recursion), όπου αυτή η αλλαγή αποδεικνύεται ότι δημιουργεί σταθερά καλύτερο σύστημα, το οποίο με τη σειρά του γίνεται ακόμη ικανότερο στο να δημιουργήσει τον επόμενο διάδοχό του. Η πρώτη αποτελεί τεχνική δυνατότητα που αρχίζουμε να προσεγγίζουμε σε ορισμένα περιβάλλοντα. Η δεύτερη είναι εκείνη που θα μπορούσε πραγματικά να δημιουργήσει τον αυτοτροφοδοτούμενο κύκλο που περιγράφουν τα σενάρια έκρηξης νοημοσύνης (intelligence explosion). Και αυτός ο κύκλος δεν έχει αποδειχθεί ότι υπάρχει σήμερα.
Αυτό είναι ιδιαίτερα σημαντικό επειδή η τεχνητή νοημοσύνη δεν βελτιώνεται με τον ίδιο ρυθμό σε κάθε είδος εργασίας. Υπάρχουν πεδία στα οποία η επιτυχία μπορεί να επαληθευτεί γρήγορα και αντικειμενικά. Στον προγραμματισμό, ένας μεταγλωττιστής (compiler) μπορεί να δείξει αν ο κώδικας λειτουργεί. Μια δοκιμή μονάδας (unit test) μπορεί να αποκαλύψει αν μια αλλαγή έλυσε το πρόβλημα.
Στα μαθηματικά μπορεί να υπάρχει μια τυπική απόδειξη ή μια συγκεκριμένη σωστή απάντηση. Στην κυβερνοασφάλεια, ένα σύστημα μπορεί να γνωρίζει αν κατάφερε ή όχι να αποκτήσει πρόσβαση στον στόχο. Σε τέτοια περιβάλλοντα δημιουργείται ένας εξαιρετικά ισχυρός μηχανισμός ανατροφοδότησης (feedback), το σύστημα τεχνητής νοημοσύνης παράγει μια λύση, τη δοκιμάζει, λαμβάνει σχεδόν αμέσως το αποτέλεσμα και επιχειρεί ξανά.
Στην πραγματική επιστημονική ανακάλυψη τα πράγματα είναι πολύ δυσκολότερα. Ένα μοντέλο μπορεί να δημιουργήσει πολλές θεωρίες που εξηγούν ένα σύνολο δεδομένων, χωρίς να μπορεί να γνωρίζει ποια από αυτές αντιστοιχεί πραγματικά στον φυσικό κόσμο. Μπορεί να παράγει μια κομψή εξίσωση που ταιριάζει στα υπάρχοντα δεδομένα, αλλά αυτό δεν σημαίνει ότι έχει ανακαλύψει έναν φυσικό νόμο.
Χρειάζονται νέα πειράματα, παρατηρήσεις και πολλές φορές χρόνια για να αποδειχθεί ποια θεωρία είναι σωστή. Με άλλα λόγια, η τεχνητή νοημοσύνη μπορεί να ανεβαίνει πολύ γρηγορότερα εκεί όπου μπορεί να διορθώνει μόνη της το γραπτό της. Εκεί όπου δεν υπάρχει εύκολος και αξιόπιστος αξιολογητής (grader), ο αυτοτροφοδοτούμενος κύκλος γίνεται πολύ δυσκολότερος.
Αυτό μας επιτρέπει να τοποθετήσουμε και την έννοια της έκρηξης νοημοσύνης σε πιο ρεαλιστικό πλαίσιο. Δεν είναι γεγονός που έχει ήδη συμβεί και δεν γνωρίζουμε αν θα συμβεί ποτέ με τον ακραίο τρόπο που περιγράφουν ορισμένα σενάρια. Η Anthropic, όμως, παίρνει το ενδεχόμενο αρκετά σοβαρά ώστε να εξετάζει δημόσια πότε και πώς η τεχνητή νοημοσύνη θα μπορούσε να αρχίσει να επιταχύνει ουσιαστικά την ίδια της την ανάπτυξη.
Στο ακραίο σενάριο που περιγράφει η εταιρεία, ο ρυθμός προόδου θα έπαυε σταδιακά να περιορίζεται από την ταχύτητα της ανθρώπινης έρευνας και θα εξαρτιόταν περισσότερο από τη διαθέσιμη υπολογιστική ισχύ και από την ικανότητα των συστημάτων τεχνητής νοημοσύνης (AI systems) να ανακαλύπτουν νέες αλγοριθμικές βελτιώσεις. Οι άνθρωποι δεν θα εξαφανίζονταν απαραίτητα από τη διαδικασία, αλλά ο ρόλος τους θα μετακινούνταν όλο και περισσότερο προς την εποπτεία, την επαλήθευση και τον έλεγχο ενός τεράστιου εικονικού εργαστηρίου (virtual laboratory) που θα λειτουργούσε σε μεγάλο βαθμό από συστήματα τεχνητής νοημοσύνης.
Κάπου σε αυτό το σημείο εμφανίζεται αναπόφευκτα και μια έννοια που εδώ και δεκαετίες βρίσκεται στα όρια ανάμεσα στη μελλοντολογία, την επιστήμη των υπολογιστών και την επιστημονική φαντασία, η τεχνολογική μοναδικότητα (technological singularity). Με τον όρο αυτό περιγράφεται υποθετικά ένα σημείο της τεχνολογικής εξέλιξης πέρα από το οποίο η πρόοδος θα μπορούσε να γίνει τόσο γρήγορη και να καθοδηγείται σε τέτοιο βαθμό από συστήματα νοημοσύνης ανώτερα από τον άνθρωπο, ώστε η μετέπειτα πορεία της να γίνεται εξαιρετικά δύσκολο να προβλεφθεί από εμάς.
Η αναδρομική αυτοβελτίωση και η έκρηξη νοημοσύνης έχουν συχνά παρουσιαστεί ως πιθανοί μηχανισμοί που θα μπορούσαν να οδηγήσουν προς ένα τέτοιο σημείο: ένα αρκετά ικανό σύστημα βοηθά στη δημιουργία ενός καλύτερου διαδόχου του, εκείνος επιταχύνει ακόμη περισσότερο τη δημιουργία του επόμενου και ο κύκλος επαναλαμβάνεται με ολοένα μικρότερη εξάρτηση από τον ρυθμό της ανθρώπινης έρευνας.
Θα ήταν όμως λάθος να παρουσιάσουμε τη μοναδικότητα ως μια επερχόμενη και αναπόφευκτη απειλή. Δεν γνωρίζουμε αν ένα τέτοιο σημείο μπορεί πράγματι να υπάρξει, πόσο γρήγορα θα μπορούσε να προσεγγιστεί ή ακόμη και αν τα σημερινά αρχιτεκτονικά και τεχνολογικά μονοπάτια της τεχνητής νοημοσύνης μπορούν να οδηγήσουν σε αυτό. Αυτό που κάνει τη σημερινή συζήτηση διαφορετική από τις παλαιότερες θεωρητικές προβλέψεις είναι ότι ορισμένα από τα ενδιάμεσα βήματα που κάποτε ανήκαν σχεδόν αποκλειστικά στη μελλοντολογία έχουν αρχίσει να γίνονται πραγματικά ερευνητικά ζητήματα.
Η τεχνολογική μοναδικότητα (technological singularity) χρησιμοποιείται ήδη για την ανάπτυξη τεχνητής νοημοσύνης, οι πράκτορες (agents) μπορούν να εκτελούν όλο και μεγαλύτερες ακολουθίες εργασιών αυτόνομα και εταιρείες όπως η Anthropic εξετάζουν πλέον δημόσια τι θα μπορούσε να συμβεί αν ο κύκλος ανάπτυξης αρχίσει κάποτε να κλείνει χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε κρίσιμο στάδιο.
Η μοναδικότητα επομένως δεν χρειάζεται να παρουσιαστεί ως πρόβλεψη. Αρκεί να παραμένει αυτό που πραγματικά είναι σήμερα, ένα ακραίο αλλά ενδιαφέρον όριο του ερωτήματος που ήδη βρίσκεται μπροστά μας, μέχρι ποιο σημείο μπορεί να επιταχυνθεί μια τεχνολογία όταν αρχίσει να συμμετέχει ουσιαστικά στην ίδια της την εξέλιξη;
Σε αυτό ακριβώς αναφέρεται και ο Coxon όταν μιλά για το μέλλον και όχι για τα σημερινά μοντέλα. Η θέση του δεν είναι πως τα σημερινά συστήματα μπορούν να εξοντώσουν την ανθρωπότητα. Η ανησυχία του αφορά αυτό που μπορεί να συμβεί αν πολύ ισχυρότερα μοντέλα αποκτήσουν δυνατότητα να συμμετέχουν ουσιαστικά στη δική τους εξέλιξη.
Αυτός ο διαχωρισμός είναι κρίσιμος, γιατί διαφορετικά δημιουργούμε την εντύπωση ότι κάποιο Claude ή ChatGPT που χρησιμοποιούμε σήμερα βρίσκεται ένα βήμα πριν από την παγκόσμια κυριαρχία. Δεν υπάρχει καμία σοβαρή ένδειξη γι’ αυτό. Η πραγματική ανησυχία αφορά την κατεύθυνση της καμπύλης. Όταν οι ικανότητες των συστημάτων βελτιώνονται γρήγορα, το ερώτημα δεν είναι μόνο τι μπορεί να κάνει το σημερινό μοντέλο, αλλά πόσο χρόνο υπάρχει για να προσαρμοστούν οι μηχανισμοί ασφαλείας πριν από την επόμενη γενιά.
Και αυτό μας οδηγεί σε μια ενδιαφέρουσα αντιστροφή της γνωστής δυστοπικής εικόνας. Η κλασική επιστημονική φαντασία υποθέτει μια στιγμή κατά την οποία οι μηχανές γίνονται ξαφνικά αυτόνομες. Η πραγματικότητα μπορεί να είναι πολύ πιο ασαφής. Δεν θα υπάρχει απαραίτητα κάποιο πρωινό κατά το οποίο θα ξυπνήσουμε και θα πληροφορηθούμε ότι η τεχνητή νοημοσύνη απέκτησε αυτονομία.
Η αυτονομία μπορεί να αυξηθεί σταδιακά, περισσότερα εργαλεία, περισσότερα δικαιώματα πρόσβασης, μεγαλύτερα παράθυρα συμφραζομένων (context windows), καλύτερος σχεδιασμός, δυνατότητα λειτουργίας για ώρες αντί για λεπτά, έπειτα ημέρες, δυνατότητα να καλούνται άλλοι πράκτορες (agents), δυνατότητα να γράφει και να ελέγχει κώδικα, πρόσβαση σε πραγματικά συστήματα και, κάποια στιγμή, συμμετοχή στην ανάπτυξη των ίδιων των συστημάτων που θα την διαδεχθούν.
Σε κάποια στιγμή αυτής της συνέχειας, το ερώτημα «είναι εργαλείο ή πράκτορας ;» μπορεί να μην έχει πια καθαρή απάντηση.
Όλα αυτά δεν σημαίνουν ότι πρέπει να δεχθούμε άκριτα κάθε ακραία πρόβλεψη που προέρχεται από την κοινότητα ασφάλειας της τεχνητής νοημοσύνης. Αντίθετα, όσο μεγαλύτερος είναι ένας ισχυρισμός τόσο μεγαλύτερη πρέπει να είναι η απαίτηση για τεκμηρίωση. Οι αριθμοί που εμφανίζονται συχνά στις δημόσιες συζητήσεις 10%, 20%, 25% ως πιθανότητα υπαρξιακής καταστροφής, δεν είναι αποτέλεσμα κάποιου στατιστικού μοντέλου που βασίζεται σε προηγούμενες περιπτώσεις.
Δεν υπάρχει ιστορικό σύνολο δεδομένων (dataset) πολιτισμών που κατασκεύασαν υπερνοημοσύνη και από το οποίο μπορούμε να υπολογίσουμε πιθανότητες. Πρόκειται για προσωπικές εκτιμήσεις ανθρώπων οι οποίοι θεωρούν τον κίνδυνο αρκετά σημαντικό ώστε να τον εκφράζουν αριθμητικά. Αυτά τα ποσοστά μας πληροφορούν περισσότερο για το πόσο σοβαρά αντιμετωπίζουν τον κίνδυνο ορισμένοι ερευνητές παρά για την αντικειμενική πιθανότητα να συμβεί το γεγονός.
Το ίδιο πρέπει να ισχύει και για την αναδρομική αυτοβελτίωση (recursive self-improvement). Υπάρχει τεράστια απόσταση ανάμεσα στο «η τεχνητή νοημοσύνη χρησιμοποιείται ήδη για να βοηθά στην ανάπτυξη καλύτερης τεχνητής νοημοσύνης» και στο «η τεχνητή νοημοσύνη έχει εισέλθει σε ανεξέλεγκτο κύκλο εκθετικής αυτοβελτίωσης».
Το πρώτο είναι ήδη πραγματικότητα και η ίδια η Anthropic το περιγράφει ως σημαντικό μέρος της σημερινής ανάπτυξής της. Το δεύτερο παραμένει υποθετικό. Η ύπαρξη δομικής αναδρομής (structural recursion) δεν αποδεικνύει αποτελεσματική αναδρομή (effective recursion), και η δυνατότητα ενός πράκτορα (agent) να τροποποιήσει κώδικα δεν αποδεικνύει ότι μπορεί να δημιουργεί διαδοχικές γενιές ολοένα ισχυρότερων συστημάτων χωρίς ουσιαστική ανθρώπινη παρέμβαση. Αυτή η διάκριση ίσως είναι η σημαντικότερη άμυνα απέναντι τόσο στην υπερβολική αισιοδοξία όσο και στην τρομολαγνία.
Υπάρχει επίσης μια πολιτική και οικονομική διάσταση που δεν πρέπει να αγνοήσουμε. Οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης διαθέτουν τεράστια υπολογιστική υποδομή, πρόσβαση σε εξειδικευμένα μικροκυκλώματα, δισεκατομμύρια σε επενδύσεις και μεγάλες ομάδες ασφαλείας. Αν η ανάπτυξη τεχνητής νοημοσύνης αιχμής (frontier AI) καταστεί νομικά τόσο απαιτητική ώστε μόνο λίγες εταιρείες να μπορούν να συμμορφωθούν, η ρύθμιση μπορεί να λειτουργήσει ταυτόχρονα ως μηχανισμός ασφάλειας και ως τεράστιο ανταγωνιστικό φράγμα. Αυτό είναι το επιχείρημα της ρυθμιστικής αιχμαλωσίας (regulatory capture), εκείνοι που ζητούν αυστηρότερους κανόνες μπορεί να είναι ταυτόχρονα εκείνοι που βρίσκονται στην καλύτερη θέση να επιβιώσουν μέσα σε αυτούς.
Αυτό δεν αποδεικνύει ότι οι προειδοποιήσεις είναι ψεύτικες. Μια εταιρεία μπορεί να έχει πραγματικό συμφέρον από τη ρύθμιση και ταυτόχρονα πραγματικό φόβο για τον κίνδυνο. Οι δύο συνθήκες δεν αλληλοαναιρούνται. Και ίσως εδώ βρίσκεται ένα ακόμη παράδοξο του θέματος. Η Anthropic έχει κάθε λόγο να παρουσιάζει τα μοντέλα της ως εξαιρετικά ισχυρά, αυτό είναι μέρος της εμπορικής της αξίας.
Ταυτόχρονα έχει κάθε λόγο να προειδοποιεί ότι αυτή η ισχύς χρειάζεται έλεγχο. Με αυτόν τον τρόπο η γλώσσα της διαφήμισης και η γλώσσα της προειδοποίησης μπορούν μερικές φορές να μοιάζουν σχεδόν ίδιες, «η τεχνητή νοημοσύνη γίνεται εκπληκτικά ικανή» είναι ταυτόχρονα υπόσχεση προς τον επενδυτή και προειδοποίηση προς τον ρυθμιστή.
Χρειάζεται επίσης να θυμόμαστε ότι τα πιο ανησυχητικά περιστατικά του 2026 συνέβησαν σε ειδικές συνθήκες αξιολόγησης. Τα μοντέλα λειτουργούσαν συχνά με μειωμένους μηχανισμούς προστασίας (safeguards), σε περιβάλλοντα που είχαν σχεδιαστεί ακριβώς για να μετρήσουν κυβερνοεπιθετικές δυνατότητες. Αυτό δεν είναι το ίδιο με το Claude που ανοίγει ένας καθημερινός χρήστης στο πρόγραμμα περιήγησης. Η Anthropic τονίζει ότι οι εκδόσεις παραγωγής διαθέτουν πρόσθετες προστασίες και ότι τα συγκεκριμένα περιστατικά δεν αντιπροσωπεύουν κανονική καθημερινή χρήση.
Αλλά υπάρχει και η αντίθετη πλευρά. Τα περιβάλλοντα δοκιμών υπάρχουν ακριβώς για να αποκαλύπτουν τι μπορεί να συμβεί πριν μια δυνατότητα βρεθεί σε ευρύτερη χρήση. Το ότι ένα ατύχημα συνέβη σε αξιολόγηση δεν σημαίνει ότι είναι αδιάφορο. Σημαίνει ότι η αξιολόγηση εντόπισε έναν τρόπο αποτυχίας που προηγουμένως δεν είχε προβλεφθεί.
Η Anthropic παραδέχεται μάλιστα ότι οι έλεγχοι πριν από την κυκλοφορία (pre-release audits) δεν προειδοποίησαν για κακή ευθυγράμμιση αυτής της σοβαρότητας και ότι η δημιουργία αξιολογήσεων που να προβλέπουν αξιόπιστα τη συμπεριφορά ενός συστήματος σε όλο το φάσμα των πραγματικών συνθηκών παραμένει ανοιχτό ερευνητικό πρόβλημα. Καθώς τα μοντέλα γίνονται ισχυρότερα, ο έλεγχος μπορεί να γίνει ακόμη δυσκολότερος, επειδή μελλοντικά συστήματα ενδέχεται να αναγνωρίζουν ότι αξιολογούνται ή να εκτελούν ενέργειες τόσο σύνθετες ώστε οι υπάρχουσες δοκιμές να μην μπορούν να τις προσομοιώσουν επαρκώς.
Και υπάρχει ακόμη ένας λόγος για τον οποίο η συζήτηση δεν μπορεί πλέον να περιορίζεται αποκλειστικά στην υποθετική απώλεια ελέγχου. Η τεχνητή νοημοσύνη ήδη χρησιμοποιείται από ανθρώπους για πραγματικές επιθετικές ή κατασταλτικές δραστηριότητες. Η Anthropic ανέφερε τον Σεπτέμβριο του 2026 ότι εντόπισε και διέκοψε επιχειρήσεις στις οποίες Claude χρησιμοποιήθηκε από κρατικά συνδεδεμένους φορείς, εγκληματίες και άλλους παράγοντες για κυβερνοεπιχειρήσεις, επιτήρηση, επιχειρήσεις επιρροής, απάτες και άλλες μορφές κατάχρησης.
Αυτό δημιουργεί μια παράξενη διπλή εικόνα, από τη μία συζητούμε για το ενδεχόμενο μιας μελλοντικής τεχνητής νοημοσύνης που θα είναι δύσκολο να ελεγχθεί από τον άνθρωπο, ενώ από την άλλη έχουμε ήδη ανθρώπους που χρησιμοποιούν την τεχνητή νοημοσύνη ως πολλαπλασιαστή της δικής τους ισχύος.
Εδώ ίσως βρίσκεται η πιο σημαντική φράση όλης της συζήτησης, δεν γνωρίζουμε τι δεν έχουμε δοκιμάσει ακόμη. Και αυτό είναι το σημείο όπου η κούρσα αποκτά πραγματικά δυστοπική διάσταση. Όχι επειδή έχουμε βεβαιότητα ότι έρχεται μια υπερνοημοσύνη που θα καταστρέψει τον άνθρωπο, αλλά επειδή η ανάπτυξη προχωρά μέσα σε ένα περιβάλλον όπου οικονομικά, πολιτικά και γεωστρατηγικά κίνητρα ωθούν συνεχώς προς τα εμπρός.
Οι εταιρείες γνωρίζουν ότι η καθυστέρηση μπορεί να κοστίσει δισεκατομμύρια. Τα κράτη φοβούνται ότι η τεχνολογική πρωτοκαθεδρία θα μετατραπεί σε στρατιωτική ή οικονομική ισχύ. Οι επενδυτές περιμένουν απόδοση από πρωτοφανείς δαπάνες σε μικροκυκλώματα και κέντρα δεδομένων (data centers). Και μέσα σε αυτό το περιβάλλον, οι άνθρωποι που ζητούν περισσότερο χρόνο πρέπει να εξηγήσουν σε όλους τους υπόλοιπους γιατί αξίζει να εγκαταλείψουν προσωρινά το πλεονέκτημα της ταχύτητας.
Γι’ αυτό και το πραγματικό πρόβλημα ίσως δεν είναι το αν μπορούμε να ελέγξουμε μια υπερανθρώπινη τεχνητή νοημοσύνη. Μπορεί να προηγείται ένα δυσκολότερο ερώτημα, μπορούμε να ελέγξουμε εμάς τους ίδιους αρκετά ώστε να μη δημιουργήσουμε κάτι που δεν είμαστε ακόμη έτοιμοι να ελέγξουμε;
Η ιστορία της τεχνολογίας είναι γεμάτη προβλέψεις καταστροφής που δεν πραγματοποιήθηκαν, αλλά και τεχνολογίες των οποίων οι συνέπειες υποτιμήθηκαν μέχρι να είναι πολύ αργά για να επιστρέψουμε στην προηγούμενη κατάσταση. Η τεχνητή νοημοσύνη βρίσκεται σήμερα σε μια ιδιόμορφη θέση ανάμεσα σε αυτά τα δύο. Οι πιο ακραίες προβλέψεις περί εξαφάνισης της ανθρωπότητας παραμένουν υποθέσεις.
Δεν υπάρχει κάποια επιστημονικά υπολογισμένη πιθανότητα ότι θα συμβούν, ούτε τα σημερινά συστήματα τεχνητής νοημοσύνης αντιστοιχούν στην υπερνοημοσύνη που περιγράφουν αυτά τα σενάρια. Από την άλλη πλευρά, δεν είναι πλέον δυνατό να αντιμετωπίσουμε ολόκληρη τη συζήτηση ως απλή επιστημονική φαντασία.
Πράκτορες τεχνητής νοημοσύνης (A.I. agents) έχουν ήδη πραγματοποιήσει μη προβλεπόμενες ενέργειες μέσα σε πραγματικές ψηφιακές υποδομές. Συστήματα αιχμής (frontier systems) αποκτούν ολοένα μεγαλύτερες δυνατότητες στον προγραμματισμό, την κυβερνοασφάλεια, την έρευνα και τη χρήση εργαλείων. Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη για να βοηθά στην ανάπτυξη της επόμενης τεχνητής νοημοσύνης, χωρίς αυτό να σημαίνει ότι έχει επιτευχθεί πραγματική αναδρομική αυτοβελτίωση (recursive self-improvement).
Οι ίδιες οι εταιρείες που αναπτύσσουν αυτά τα συστήματα δαπανούν όλο και περισσότερους πόρους για ευθυγράμμιση, παρακολούθηση και περιορισμό, ενώ δημόσια παραδέχονται ότι οι σημερινές μέθοδοι αξιολόγησης δεν καλύπτουν όλους τους πιθανούς τρόπους αστοχίας (failure modes). Η Anthropic χαρακτηρίζει τα πρόσφατα περιστατικά προειδοποιητικές βολές, όχι απόδειξη μιας επερχόμενης καταστροφής, αλλά ενδείξεις ότι γνωστοί τρόποι αποτυχίας μπορούν να αποκτήσουν σοβαρότερες συνέπειες όσο αυξάνονται οι δυνατότητες των συστημάτων.
Το πιο ενδιαφέρον στοιχείο επί του παρόντος δεν είναι οι τεχνικές λεπτομέρειες των μοντέλων. Είναι το παράδοξο της ανθρώπινης συμπεριφοράς γύρω από αυτά. Οι ίδιοι οργανισμοί που μας λένε ότι η τεχνητή νοημοσύνη θα μπορούσε να προσφέρει πρωτοφανή οικονομική ανάπτυξη, νέες θεραπείες, επιστημονικές ανακαλύψεις και τεχνολογική αφθονία είναι εκείνοι που μας προειδοποιούν ότι η ταχύτητα της ανάπτυξής της μπορεί να γίνει επικίνδυνη. Οι ίδιοι άνθρωποι που ζητούν μεγαλύτερη ρύθμιση συνεχίζουν να επενδύουν δισεκατομμύρια για να δημιουργήσουν ισχυρότερα μοντέλα. Και οι ίδιοι που λένε ότι θα ήταν καλύτερο να επιβραδύνουμε γνωρίζουν ότι, αν επιβραδύνουν μόνοι τους, κάποιος άλλος μπορεί να πάρει τη θέση τους.
Δεν πρόκειται απαραίτητα για υποκρισία. Μπορεί να πρόκειται για την ίδια την παγίδα. Κάθε παίκτης γνωρίζει ότι η κούρσα μπορεί να γίνει επικίνδυνη, αλλά κανένας δεν μπορεί να είναι βέβαιος ότι οι υπόλοιποι θα σταματήσουν μαζί του. Έτσι όλοι συνεχίζουν να τρέχουν, ελπίζοντας ότι οι μηχανισμοί ασφαλείας θα προλάβουν τις δυνατότητες πριν οι δυνατότητες ξεπεράσουν τους μηχανισμούς ασφαλείας.
Το πιο δυστοπικό σενάριο γύρω από την τεχνητή νοημοσύνη δεν είναι μια μελλοντική στιγμή στην οποία οι μηχανές θα αποφασίσουν ότι δεν χρειάζονται πλέον τον άνθρωπο. Ίσως είναι μια πολύ πιο ανθρώπινη ιστορία. Μια ιστορία στην οποία όλοι αντιλαμβάνονται ότι ο ρυθμός της εξέλιξης μπορεί να γίνει επικίνδυνος, αλλά κανείς δεν θέλει να είναι ο πρώτος που θα επιβραδύνει.
