Η τεχνητή νοημοσύνη στον πόλεμο της Ουκρανίας. Πότε η απόφαση για τη χρήση θανατηφόρας βίας παύει να αποτελεί αποκλειστικά ανθρώπινη ευθύνη;
Η τεχνητή νοημοσύνη στον πόλεμο της Ουκρανίας. Πότε η απόφαση για τη χρήση θανατηφόρας βίας παύει να αποτελεί αποκλειστικά ανθρώπινη ευθύνη;
Ο πόλεμος υπήρξε ανέκαθεν ένα από τα πεδία στα οποία η τεχνολογική εξέλιξη επιταχυνόταν με τρόπους που δύσκολα θα μπορούσαν να δικαιολογηθούν σε καιρό ειρήνης. Από τη βιομηχανοποίηση των όπλων και την εμφάνιση των πρώτων μηχανοκίνητων στρατών μέχρι την ανάπτυξη των βαλλιστικών πυραύλων, των δορυφορικών συστημάτων και των μη επανδρωμένων αεροσκαφών, κάθε νέα τεχνολογία υποσχόταν μεγαλύτερη αποτελεσματικότητα, ακρίβεια και ταχύτητα. Ταυτόχρονα, όμως, δημιουργούσε καινούργια ερωτήματα σχετικά με τα όρια της ανθρώπινης ευθύνης.
Στον πόλεμο της Ουκρανίας, αυτή η ιστορική διαδικασία αποκτά μια ιδιαίτερα ανησυχητική διάσταση. Για πρώτη φορά σε τέτοια κλίμακα, ένα σύγχρονο πεδίο μάχης μετατρέπεται σε χώρο συνεχούς αλληλεπίδρασης ανάμεσα σε ανθρώπινους χειριστές, μη επανδρωμένα οχήματα, ηλεκτρονικά συστήματα επιτήρησης, αλγορίθμους αναγνώρισης εικόνας και τεχνολογίες τεχνητής νοημοσύνης.
Οι εικόνες που προέρχονται από το Ουκρανικό μέτωπο μοιάζουν συχνά να ανήκουν σε δύο διαφορετικές ιστορικές εποχές. Στρατιώτες εξακολουθούν να ζουν μέσα σε χαρακώματα, κατεστραμμένα κτίρια και υπόγεια καταφύγια, όπως συνέβαινε στους μεγάλους πολέμους του προηγούμενου αιώνα. Την ίδια στιγμή, λίγα μέτρα μακριά τους, άλλοι στρατιώτες χειρίζονται μικρά μη επανδρωμένα αεροσκάφη μέσω οθονών, παρακολουθούν θερμικές εικόνες, επεξεργάζονται δεδομένα από αισθητήρες και επιχειρούν μέσα σε ένα ηλεκτρομαγνητικό περιβάλλον γεμάτο παρεμβολές.
Ο στόχος μπορεί να βρίσκεται χιλιόμετρα μακριά, ενώ η απόφαση για την προσβολή του λαμβάνεται μπροστά σε μια ψηφιακή διεπαφή. Σε ορισμένα συστήματα, μάλιστα, μέρος της διαδικασίας αναγνώρισης και καθοδήγησης μπορεί να πραγματοποιηθεί χωρίς συνεχή ανθρώπινη παρέμβαση.
Αυτή η μεταβολή δεν σημαίνει ότι οι στρατοί της Ρωσίας και της Ουκρανίας έχουν παραδώσει τις πολεμικές αποφάσεις τους σε ανεξάρτητες τεχνητές νοημοσύνες. Η πραγματικότητα είναι περισσότερο σύνθετη. Πολλά από τα συστήματα που χρησιμοποιούνται σήμερα εξακολουθούν να βασίζονται στον τηλεχειρισμό, ενώ άλλα διαθέτουν περιορισμένες αυτόνομες λειτουργίες, όπως πλοήγηση, αναγνώριση αντικειμένων ή διατήρηση της πορείας προς έναν ήδη επιλεγμένο στόχο.
Ωστόσο, η σταδιακή μεταφορά επιμέρους λειτουργιών από τον άνθρωπο στη μηχανή δημιουργεί ένα ερώτημα που υπερβαίνει τη στρατιωτική τεχνολογία, σε ποιο σημείο η ανθρώπινη συμμετοχή παύει να αποτελεί ουσιαστικό έλεγχο και μετατρέπεται σε τυπική επιβεβαίωση μιας απόφασης που έχει ήδη διαμορφωθεί από το σύστημα;
Η ιδέα της διεξαγωγής πολεμικών επιχειρήσεων χωρίς την άμεση φυσική παρουσία ανθρώπων στο πεδίο της σύγκρουσης δεν γεννήθηκε με την τεχνητή νοημοσύνη. Ήδη από τις αρχές του εικοστού αιώνα, στρατιωτικοί μηχανικοί πειραματίζονταν με τηλεκατευθυνόμενα αεροσκάφη, αυτοματοποιημένους μηχανισμούς και οχήματα που θα μπορούσαν να μεταφέρουν εκρηκτικά χωρίς πλήρωμα.
Κατά τον δεύτερο παγκόσμιο πόλεμο, η ανάπτυξη των Γερμανικών ιπτάμενων βομβών V-1 έδειξε ότι ένα όπλο μπορούσε να διανύσει σημαντική απόσταση και να προσβάλει έναν προκαθορισμένο στόχο χωρίς ανθρώπινο χειριστή κατά τη διάρκεια της πτήσης. Δεν επρόκειτο, βέβαια, για τεχνητή νοημοσύνη, αλλά για μια πρώιμη μορφή αυτοματοποιημένης καθοδήγησης, η οποία αποκάλυπτε ήδη τις στρατιωτικές δυνατότητες της απομάκρυνσης του ανθρώπου από την άμεση εκτέλεση μιας επίθεσης.
Στις επόμενες δεκαετίες, η ανάπτυξη των υπολογιστών, των αισθητήρων και των συστημάτων επικοινωνίας επέτρεψε τη δημιουργία ολοένα πιο εξελιγμένων μη επανδρωμένων αεροσκαφών. Η χρήση τους για αναγνώριση και επιτήρηση εξελίχθηκε σταδιακά σε δυνατότητα μεταφοράς και χρήσης όπλων. Τα αμερικανικά Predator και Reaper έγιναν χαρακτηριστικά παραδείγματα μιας νέας μορφής πολέμου, στην οποία ο χειριστής μπορούσε να παρακολουθεί και να προσβάλλει έναν στόχο από τεράστια γεωγραφική απόσταση. Η φυσική απόσταση ανάμεσα στον άνθρωπο που αποφάσιζε και στο πεδίο όπου εκδηλωνόταν η βία αυξήθηκε δραματικά, χωρίς όμως να εξαφανιστεί η ανθρώπινη συμμετοχή στη διαδικασία επιλογής και προσβολής στόχων.
Η σημαντική διαφορά ανάμεσα σε εκείνη την εποχή και στις σημερινές εξελίξεις βρίσκεται στη δυνατότητα των μηχανών να αναλαμβάνουν ολοένα περισσότερες λειτουργίες που προηγουμένως απαιτούσαν ανθρώπινη αντίληψη και κρίση. Ένα τηλεχειριζόμενο drone αποτελεί ουσιαστικά προέκταση των αισθήσεων και των ενεργειών του χειριστή του.
Ένα σύστημα με αυτόνομη πλοήγηση μπορεί να κινηθεί χωρίς συνεχή καθοδήγηση. Ένα σύστημα μηχανικής όρασης μπορεί να αναγνωρίσει συγκεκριμένες κατηγορίες αντικειμένων μέσα σε μια εικόνα. Ένα περισσότερο εξελιγμένο οπλικό σύστημα ενδέχεται να συνδυάζει αυτές τις δυνατότητες, επιλέγοντας πορεία, παρακολουθώντας στόχους και εκτελώντας προκαθορισμένες ενέργειες υπό συγκεκριμένες συνθήκες.
Εδώ αποκτά σημασία η διάκριση ανάμεσα στον αυτοματισμό και στην τεχνητή νοημοσύνη. Ένα όπλο που ακολουθεί προκαθορισμένες συντεταγμένες ή αντιδρά σε ένα συγκεκριμένο σήμα δεν είναι απαραίτητα σύστημα τεχνητής νοημοσύνης. Αντίστοιχα, ένα σύστημα που χρησιμοποιεί μηχανική μάθηση για να αναγνωρίζει οχήματα δεν είναι αναγκαστικά ικανό να αποφασίζει αυτόνομα για τη χρήση βίας. Η τεχνητή νοημοσύνη μπορεί να αποτελεί ένα μόνο μέρος μιας μεγαλύτερης τεχνολογικής αρχιτεκτονικής, η οποία περιλαμβάνει αισθητήρες, λογισμικό ελέγχου, επικοινωνίες, συστήματα πλοήγησης και ανθρώπινους χειριστές.
Η διάκριση αυτή είναι απαραίτητη για να κατανοήσουμε τον πόλεμο στην Ουκρανία. Η παρουσία χιλιάδων drones δεν αποδεικνύει από μόνη της ότι η σύγκρουση διεξάγεται από αυτόνομα οπλικά συστήματα. Αντίθετα, μεγάλο μέρος της επιχειρησιακής τους χρήσης εξακολουθεί να εξαρτάται από ανθρώπους που παρακολουθούν εικόνες, επιλέγουν στόχους και εκτελούν εντολές.
Αυτό που αλλάζει είναι η ταχύτητα με την οποία οι πληροφορίες συλλέγονται, επεξεργάζονται και μετατρέπονται σε στρατιωτική δράση. Καθώς οι αισθητήρες και οι αλγόριθμοι αναλαμβάνουν περισσότερες λειτουργίες, η δυνατότητα ουσιαστικής ανθρώπινης παρέμβασης μπορεί να περιορίζεται, ακόμη και όταν η τελική εντολή εξακολουθεί να δίνεται από άνθρωπο.
Η σύγχρονη στρατιωτική ορολογία περιγράφει αυτή τη διαδικασία ως αλυσίδα εντοπισμού και προσβολής στόχου, γνωστή στα αγγλικά ως “Kill Chain”. Περιλαμβάνει την αναγνώριση μιας πιθανής απειλής, τη συλλογή πληροφοριών, την αξιολόγηση του στόχου, την επιλογή μέσου προσβολής και την εκτέλεση της επίθεσης. Η ενσωμάτωση ψηφιακών συστημάτων μπορεί να συμπιέσει δραματικά τον χρόνο ανάμεσα σε αυτά τα στάδια. Εκεί όπου άλλοτε απαιτούνταν πολλαπλές επικοινωνίες και ανθρώπινες αξιολογήσεις, σήμερα ορισμένες πληροφορίες μπορούν να μεταδίδονται και να επεξεργάζονται σχεδόν ακαριαία.
Η ταχύτητα αυτή παρουσιάζεται συχνά ως στρατιωτικό πλεονέκτημα. Όσο μικρότερο είναι το χρονικό διάστημα ανάμεσα στον εντοπισμό και στην αντίδραση, τόσο δυσκολότερο γίνεται για έναν αντίπαλο να αποφύγει την προσβολή. Ωστόσο, η ίδια ταχύτητα δημιουργεί ένα παράδοξο. Η ανθρώπινη κρίση χρειάζεται χρόνο για να αξιολογήσει το περιβάλλον, να διακρίνει έναν στρατιωτικό στόχο από ένα πολιτικό αντικείμενο, να εκτιμήσει την αναγκαιότητα μιας ενέργειας και να εξετάσει τις πιθανές συνέπειές της. Εάν ολόκληρο το σύστημα έχει σχεδιαστεί ώστε να λειτουργεί ταχύτερα από αυτές τις διαδικασίες, ο άνθρωπος κινδυνεύει να μετατραπεί από αποφασίζοντα παράγοντα σε παρατηρητή μιας ακολουθίας ενεργειών που εξελίσσεται μπροστά του.
Η πλήρους κλίμακας Ρωσική εισβολή στην Ουκρανία, τον Φεβρουάριο του 2022, δημιούργησε τις συνθήκες για μια ιδιαίτερα γρήγορη εξέλιξη των μη επανδρωμένων στρατιωτικών συστημάτων. Η ανάγκη συνεχούς επιτήρησης μεγάλων εκτάσεων, η ένταση των συγκρούσεων, οι περιορισμοί σε προσωπικό και εξοπλισμό και η δυνατότητα σχετικά οικονομικής παραγωγής μικρών drones συνέβαλαν στη μαζική χρήση τους. Σταδιακά, τόσο η Ουκρανία όσο και η Ρωσία άρχισαν να προσαρμόζουν εμπορικές τεχνολογίες, να αναπτύσσουν εγχώριες κατασκευές και να αναζητούν τρόπους αντιμετώπισης των αντίστοιχων συστημάτων του αντιπάλου.
Η εικόνα του σύγχρονου ουκρανικού μετώπου είναι χαρακτηριστική αυτής της μετάβασης. Σε δημοσιογραφικές καταγραφές εμφανίζονται χειριστές drones εγκατεστημένοι σε υπόγεια κατεστραμμένων κτιρίων, να παρακολουθούν την πορεία των αεροσκαφών τους μέσα από φορητές οθόνες. Οι εικόνες μεταδίδονται από κάμερες τοποθετημένες επάνω στα οχήματα, ενώ η επικοινωνία μπορεί να διακόπτεται από ηλεκτρονικές παρεμβολές. Ο χειριστής καλείται να διατηρήσει τον έλεγχο ενός συστήματος που κινείται μέσα σε εχθρικό περιβάλλον, όπου η απώλεια σήματος μπορεί να σημαίνει αποτυχία της αποστολής ή απώλεια του οχήματος.
Αυτός ο ηλεκτρονικός ανταγωνισμός αποτελεί μια από τις λιγότερο ορατές, αλλά περισσότερο καθοριστικές πλευρές της σύγκρουσης. Συστήματα ηλεκτρονικού πολέμου επιχειρούν να διαταράξουν τις επικοινωνίες, την πλοήγηση και τη μετάδοση εικόνας των εχθρικών drones. Ως απάντηση, οι κατασκευαστές αναπτύσσουν εναλλακτικές μεθόδους καθοδήγησης, βελτιωμένους αισθητήρες και λειτουργίες που επιτρέπουν στα οχήματα να συνεχίζουν την πορεία τους ακόμη και όταν η επικοινωνία με τον χειριστή διακοπεί. Η ανάγκη αντιμετώπισης των παρεμβολών αποτελεί έναν από τους παράγοντες που ενισχύουν την ανάπτυξη μεγαλύτερης αυτονομίας.
Το αποτέλεσμα είναι ένας συνεχής κύκλος τεχνολογικής προσαρμογής. Κάθε νέο σύστημα προκαλεί την ανάπτυξη ενός αντίμετρου, το οποίο με τη σειρά του οδηγεί στην αναζήτηση νέων λύσεων. Η διαδικασία αυτή δεν περιορίζεται σε μεγάλες στρατιωτικές βιομηχανίες. Μικρότερες εταιρείες, ομάδες μηχανικών, ερευνητικά εργαστήρια και κατασκευαστές λογισμικού συμμετέχουν στην ανάπτυξη συστημάτων που μπορούν να τροποποιηθούν και να δοκιμαστούν σε σύντομο χρονικό διάστημα. Έτσι, η στρατιωτική καινοτομία αποκτά χαρακτηριστικά τα οποία θυμίζουν περισσότερο τη γρήγορη εξέλιξη του λογισμικού παρά τους παραδοσιακούς, πολυετείς κύκλους ανάπτυξης οπλικών συστημάτων.
Η Ουκρανική πρωτοβουλία “Brave1” αποτελεί χαρακτηριστικό παράδειγμα αυτής της προσέγγισης. Μέσα από συνεργασίες ανάμεσα σε κρατικούς φορείς, επιχειρήσεις και τεχνολογικούς δημιουργούς, επιδιώκεται η επιτάχυνση της ανάπτυξης και της αξιολόγησης στρατιωτικών εφαρμογών. Τον Σεπτέμβριο του 2026, το Ουκρανικό υπουργείο άμυνας ανακοίνωσε δοκιμές συστημάτων αυτόματης καθοδήγησης drones εναντίον κινούμενων στόχων.
Σύμφωνα με τις ουκρανικές αρχές, οι τεχνολογίες αυτές επιδιώκουν να βελτιώσουν την αποτελεσματικότητα των επιθέσεων, ιδιαίτερα σε περιβάλλοντα όπου οι επικοινωνίες αντιμετωπίζουν σοβαρές δυσκολίες. Οι ίδιες αρχές υποστήριξαν ότι η τελική απόφαση για τη χρήση όπλου εξακολουθεί να λαμβάνεται από άνθρωπο.
Η διατύπωση αυτή είναι ιδιαίτερα σημαντική. Αποκαλύπτει ότι το ζήτημα δεν αφορά μόνο τις τεχνικές δυνατότητες των συστημάτων, αλλά και τον τρόπο με τον οποίο οι στρατιωτικοί οργανισμοί ορίζουν την ανθρώπινη ευθύνη. Ένα drone μπορεί να διαθέτει αυτοματοποιημένη αναγνώριση και καθοδήγηση, ενώ η εντολή επίθεσης παραμένει ανθρώπινη. Όμως η ύπαρξη ανθρώπινης εντολής δεν αρκεί από μόνη της για να αποδείξει ότι ο χειριστής είχε πλήρη κατανόηση των πληροφοριών που οδήγησαν στην επιλογή του στόχου ή επαρκή χρόνο για να τις αξιολογήσει.
Μια δεύτερη εξέλιξη αφορά την αξιοποίηση πραγματικών δεδομένων μάχης για την ανάπτυξη στρατιωτικών συστημάτων τεχνητής νοημοσύνης. Τον Σεπτέμβριο του 2026 ανακοινώθηκε συνεργασία που επιτρέπει σε Βρετανικές εταιρείες να αξιοποιούν Ουκρανικά δεδομένα από το πεδίο των συγκρούσεων για την εκπαίδευση και τη βελτίωση σχετικών τεχνολογιών.
Η σημασία μιας τέτοιας διαδικασίας υπερβαίνει τη συγκεκριμένη συνεργασία. Ο πόλεμος μετατρέπεται σε μια τεράστια πηγή πληροφοριών, μέσα από την οποία αλγόριθμοι μπορούν να εκπαιδεύονται στην αναγνώριση αντικειμένων, στην ανάλυση επιχειρησιακών συνθηκών και στην υποστήριξη στρατιωτικών αποφάσεων.
Εδώ αναδύεται μια νέα σχέση ανάμεσα στην πραγματική σύγκρουση και στην ανάπτυξη τεχνολογίας. Τα δεδομένα που παράγονται από καταστροφές, μετακινήσεις στρατευμάτων και επιχειρήσεις drones δεν αποτελούν μόνο ιστορικά τεκμήρια ή στρατιωτικές πληροφορίες. Μπορούν να μετατραπούν σε εκπαιδευτικό υλικό για συστήματα που θα χρησιμοποιηθούν σε μελλοντικές συγκρούσεις. Η ανθρώπινη εμπειρία του πολέμου μετασχηματίζεται έτσι σε ψηφιακά σύνολα δεδομένων, τα οποία μπορούν να επεξεργάζονται υπολογιστικά συστήματα πολύ μακριά από το πεδίο όπου δημιουργήθηκαν.
Η εξέλιξη δεν περιορίζεται στον αέρα. Στην Ουκρανία χρησιμοποιούνται επίσης μη επανδρωμένα οχήματα εδάφους, γνωστά ως UGVs, για μεταφορά εφοδίων, αναγνώριση, υποστήριξη μονάδων και απομάκρυνση τραυματιών. Οχήματα όπως το εσθονικής κατασκευής THeMIS και διάφορα ουκρανικά συστήματα παρουσιάζουν τη δυνατότητα μεταφοράς επικίνδυνων αποστολών από ανθρώπους σε μηχανές.
Ένα ρομποτικό όχημα μπορεί να μεταφέρει πυρομαχικά σε μια περιοχή που παρακολουθείται συνεχώς από εχθρικά drones, μειώνοντας την ανάγκη έκθεσης στρατιωτών σε άμεσο κίνδυνο. Αντίστοιχα, μπορεί να συμβάλει στην απομάκρυνση τραυματιών από περιοχές όπου μια συμβατική επιχείρηση διάσωσης θα ήταν εξαιρετικά επικίνδυνη.
Τα ίδια τεχνολογικά μέσα μπορούν, ωστόσο, να χρησιμοποιηθούν και σε ένοπλους ρόλους. Η εγκατάσταση οπλισμού σε μη επανδρωμένα οχήματα εδάφους δημιουργεί νέες δυνατότητες επιτήρησης και προσβολής στόχων από απόσταση. Και εδώ, όμως, πρέπει να διαχωρίζεται ο τηλεχειρισμός από την αυτόνομη επιλογή και εμπλοκή στόχων. Η παρουσία ενός ρομποτικού οχήματος στο πεδίο της μάχης δεν σημαίνει απαραίτητα ότι το όχημα αποφασίζει μόνο του πότε θα χρησιμοποιήσει το όπλο του.
Η ανάπτυξη συνεργαζόμενων ομάδων drones, γνωστών ως σμήνη (Drone Swarms), προσθέτει ακόμη μία διάσταση. Η δυνατότητα συντονισμού πολλών μη επανδρωμένων οχημάτων μέσω κοινού λογισμικού μπορεί να περιορίσει την ανάγκη ξεχωριστού χειριστή για κάθε σύστημα. Ωστόσο, δεν αποτελούν όλες οι ταυτόχρονες επιθέσεις drones πραγματικά αυτόνομα σμήνη. Η συλλογική αυτονομία προϋποθέτει συγκεκριμένες δυνατότητες συνεργασίας, κατανομής εργασιών ή προσαρμογής της συμπεριφοράς των επιμέρους οχημάτων. Εντυπωσιακές αναφορές για επιχειρήσεις δεκάδων drones χρειάζονται ανεξάρτητη επιβεβαίωση πριν χρησιμοποιηθούν ως τεκμηριωμένα παραδείγματα.
Η διεθνής διάσταση αυτών των εξελίξεων είναι επίσης σημαντική. Στη συνέντευξή του στον Economist, ο πρώην διευθύνων σύμβουλος της Google, Έρικ Σμιντ (Eric Schmidt), ο οποίος έχει δραστηριοποιηθεί στον τομέα της στρατιωτικής τεχνολογίας, περιέγραψε τον πόλεμο στην Ουκρανία ως ένα περιβάλλον όπου η ταχύτητα της καινοτομίας αποκτά καθοριστική σημασία.
Αναφέρθηκε στον ανταγωνισμό μεταξύ ρωσικών και ουκρανικών τεχνολογικών δυνατοτήτων, στα δορυφορικά δίκτυα, στις ηλεκτρονικές επικοινωνίες και στην αυξανόμενη σημασία της μηχανικής όρασης. Οι εκτιμήσεις του αποτελούν τη δική του οπτική, όχι αδιαμφισβήτητη περιγραφή κάθε επιχειρησιακής εξέλιξης, αλλά αναδεικνύουν τη στενή σχέση ανάμεσα στις εταιρείες υψηλής τεχνολογίας και στη σύγχρονη στρατιωτική ισχύ.
Ο πόλεμος στην Ουκρανία αποκαλύπτει επομένως μια μεταβολή που δεν αφορά αποκλειστικά την αντικατάσταση των στρατιωτών από μηχανές. Αφορά τη δημιουργία ενός νέου τεχνολογικού περιβάλλοντος, όπου το λογισμικό, οι αισθητήρες, οι τηλεπικοινωνίες, η ανάλυση δεδομένων και οι ιδιωτικές επιχειρήσεις αποτελούν ολοένα σημαντικότερα στοιχεία της στρατιωτικής ισχύος. Μέσα σε αυτό το περιβάλλον, η ανθρώπινη απόφαση δεν εξαφανίζεται αναγκαστικά.
Τοποθετείται όμως μέσα σε μια αλυσίδα τεχνολογικών διαδικασιών, των οποίων η πολυπλοκότητα μπορεί να καθιστά ολοένα δυσκολότερη την πλήρη κατανόηση και εποπτεία τους.
Το σημαντικότερο ερώτημα που δημιουργεί η στρατιωτική χρήση της τεχνητής νοημοσύνης δεν είναι απλώς τεχνικό. Είναι νομικό, ηθικό και φιλοσοφικό. Ακόμη και εάν ένα σύστημα μπορεί να αναγνωρίζει στόχους με υψηλή ακρίβεια, αυτό δεν σημαίνει ότι μπορεί να αξιολογήσει όλες τις συνθήκες υπό τις οποίες η χρήση θανατηφόρας βίας είναι νόμιμη και δικαιολογημένη. Η αναγνώριση ενός αντικειμένου ως στρατιωτικού οχήματος, για παράδειγμα, δεν απαντά αυτομάτως σε ερωτήματα σχετικά με την παρουσία αμάχων, την αναλογικότητα μιας επίθεσης ή την ανάγκη λήψης προφυλάξεων.
Το διεθνές ανθρωπιστικό δίκαιο θέτει συγκεκριμένες υποχρεώσεις στα εμπλεκόμενα μέρη μιας ένοπλης σύγκρουσης. Η διάκριση ανάμεσα σε στρατιωτικούς στόχους και προστατευόμενα πρόσωπα ή αντικείμενα, η απαγόρευση επιθέσεων χωρίς διάκριση, η αναλογικότητα και η υποχρέωση λήψης εφικτών προφυλάξεων αποτελούν θεμελιώδεις αρχές. Η εισαγωγή ενός αλγορίθμου στη διαδικασία επιλογής στόχων δεν καταργεί αυτές τις υποχρεώσεις. Αντίθετα, δημιουργεί νέα ερωτήματα σχετικά με το πώς μπορούν να εφαρμοστούν όταν η λειτουργία ενός συστήματος είναι δύσκολο να προβλεφθεί ή να ερμηνευθεί.
Η Διεθνής Επιτροπή του Ερυθρού Σταυρού (International Committee of the Red Cross – ICRC) έχει επανειλημμένα επισημάνει τους κινδύνους που συνδέονται με τα αυτόνομα οπλικά συστήματα. Στο επίκεντρο των ανησυχιών βρίσκεται η δυνατότητα επιλογής και προσβολής στόχων χωρίς ανθρώπινη παρέμβαση μετά την ενεργοποίηση του συστήματος. Ιδιαίτερη σημασία έχουν η προβλεψιμότητα της συμπεριφοράς, οι περιορισμοί στο περιβάλλον χρήσης και η διατήρηση ανθρώπινης κρίσης στις αποφάσεις που επηρεάζουν ανθρώπινες ζωές.
Στη σχετική συζήτηση χρησιμοποιούνται συχνά τρεις αγγλικοί όροι, Human-in-the-Loop, Human-on-the-Loop και Human-out-of-the-Loop. Ο πρώτος περιγράφει γενικά συστήματα στα οποία ο άνθρωπος συμμετέχει άμεσα σε κρίσιμες αποφάσεις. Ο δεύτερος αναφέρεται σε μορφές ανθρώπινης εποπτείας μιας διαδικασίας που μπορεί να λειτουργεί αυτοματοποιημένα, με δυνατότητα παρέμβασης υπό ορισμένες προϋποθέσεις. Ο τρίτος περιγράφει καταστάσεις στις οποίες η λειτουργία του συστήματος δεν απαιτεί ανθρώπινη παρέμβαση κατά τη διάρκεια της εμπλοκής. Οι όροι αυτοί είναι χρήσιμοι, αλλά δεν αποτυπώνουν πάντοτε όλες τις τεχνικές και επιχειρησιακές διαφορές ανάμεσα στα πραγματικά συστήματα.
Για τον λόγο αυτό, πολλοί ερευνητές προτιμούν την έννοια του ουσιαστικού ανθρώπινου ελέγχου (Meaningful Human Control). Η έννοια δεν περιορίζεται στο εάν ένας άνθρωπος πάτησε ένα κουμπί πριν από την εκτόξευση ενός όπλου. Εξετάζει εάν ο άνθρωπος είχε επαρκείς πληροφορίες, πραγματική δυνατότητα αξιολόγησης, κατάλληλο χρόνο αντίδρασης και αποτελεσματικά μέσα παρέμβασης. Εξετάζει επίσης εάν οι αποφάσεις σχετικά με τον σχεδιασμό, τους περιορισμούς και τις συνθήκες χρήσης του συστήματος έχουν ληφθεί με τρόπο που επιτρέπει την ανθρώπινη λογοδοσία.
Η διάκριση αυτή αποκτά ιδιαίτερη σημασία όταν η διαδικασία εντοπισμού και προσβολής στόχων επιταχύνεται. Ένας χειριστής μπορεί να βρίσκεται τυπικά μέσα στην αλυσίδα λήψης αποφάσεων, αλλά να λαμβάνει τόσο πολλές πληροφορίες και προτάσεις μέσα σε τόσο μικρό χρονικό διάστημα, ώστε η δυνατότητα ουσιαστικής αξιολόγησης να περιορίζεται. Η ύπαρξη ανθρώπινης έγκρισης δεν εγγυάται από μόνη της ότι η απόφαση βασίστηκε σε ανεξάρτητη ανθρώπινη κρίση.
Εδώ συναντούμε ένα φαινόμενο γνωστό στην έρευνα της αλληλεπίδρασης ανθρώπου και υπολογιστή ως προκατάληψη υπέρ του αυτοματισμού (Automation Bias). Πρόκειται για την τάση των ανθρώπων να εμπιστεύονται υπερβολικά τις προτάσεις αυτοματοποιημένων συστημάτων, ιδιαίτερα όταν αυτά παρουσιάζονται ως τεχνικά προηγμένα ή στατιστικά αξιόπιστα. Σε ένα στρατιωτικό περιβάλλον υψηλής πίεσης, όπου η ταχύτητα μπορεί να θεωρείται κρίσιμη για την επιβίωση, η τάση αυτή ενδέχεται να ενισχύεται.
Ένας αλγόριθμος που χαρακτηρίζει ένα αντικείμενο ως εχθρικό μπορεί να επηρεάσει σημαντικά την κρίση του χειριστή, ακόμη και όταν ο τελευταίος διατηρεί την τελική εξουσία. Εάν το σύστημα παρουσιάζει μια συγκεκριμένη εκτίμηση με υψηλό βαθμό βεβαιότητας, ο άνθρωπος μπορεί να δυσκολευτεί να αμφισβητήσει το αποτέλεσμα, ιδιαίτερα όταν δεν γνωρίζει πώς ακριβώς προέκυψε. Η τεχνολογική πρόταση μετατρέπεται τότε σε ισχυρό παράγοντα διαμόρφωσης της ανθρώπινης απόφασης.
Το πρόβλημα γίνεται περισσότερο σύνθετο όταν χρησιμοποιούνται μοντέλα μηχανικής μάθησης των οποίων η εσωτερική λειτουργία δεν είναι πλήρως ερμηνεύσιμη. Η δυσκολία εξήγησης ενός συγκεκριμένου αποτελέσματος δεν σημαίνει ότι το σύστημα είναι αναγκαστικά αναξιόπιστο, ούτε ότι όλες οι εφαρμογές τεχνητής νοημοσύνης λειτουργούν ως αδιαφανή «μαύρα κουτιά». Σημαίνει, όμως, ότι η αξιολόγηση της συμπεριφοράς τους απαιτεί ιδιαίτερη προσοχή, κατάλληλες δοκιμές και σαφείς περιορισμούς χρήσης.
Ένα δεύτερο κρίσιμο ζήτημα αφορά τη λογοδοσία. Εάν ένα αυτόνομο οπλικό σύστημα προσβάλει λανθασμένα έναν στόχο, η ευθύνη δεν μπορεί να μεταφερθεί απλώς στη μηχανή σαν να επρόκειτο για ανεξάρτητο νομικό πρόσωπο. Το διεθνές δίκαιο εξακολουθεί να αφορά κράτη και ανθρώπους. Ωστόσο, η κατανομή ευθύνης μπορεί να γίνει ιδιαίτερα δύσκολη όταν μια ενέργεια προκύπτει από την αλληλεπίδραση προγραμματιστών, κατασκευαστών, στρατιωτικών διοικητών, χειριστών και πολύπλοκων αυτοματοποιημένων διαδικασιών.
Η συζήτηση για το λεγόμενο κενό ευθύνης (Responsibility Gap) εξετάζει ακριβώς αυτό το πρόβλημα. Όσο περισσότερο ένα σύστημα αποκτά τη δυνατότητα να προσαρμόζει τη συμπεριφορά του μέσα σε μεταβαλλόμενες συνθήκες, τόσο δυσκολότερο μπορεί να γίνεται να προσδιοριστεί ποιος είχε τη δυνατότητα να προβλέψει ή να αποτρέψει μια συγκεκριμένη ενέργεια. Αυτό δεν σημαίνει ότι η νομική ευθύνη εξαφανίζεται. Σημαίνει ότι οι υπάρχοντες μηχανισμοί διερεύνησης και λογοδοσίας ενδέχεται να αντιμετωπίσουν νέες δυσκολίες.
Οι υποστηρικτές της μεγαλύτερης στρατιωτικής αυτοματοποίησης προβάλλουν, ωστόσο, επιχειρήματα που δεν μπορούν να αγνοηθούν. Τα αυτοματοποιημένα αμυντικά συστήματα μπορούν να αντιδρούν σε απειλές με ταχύτητα που δεν είναι πάντοτε εφικτή για έναν άνθρωπο. Ορισμένες λειτουργίες μηχανικής όρασης μπορεί να βοηθούν στον εντοπισμό αντικειμένων ή στην επεξεργασία μεγάλων ποσοτήτων πληροφοριών.
Η απομάκρυνση στρατιωτών από ιδιαίτερα επικίνδυνες αποστολές μπορεί να περιορίζει την έκθεσή τους σε θανάσιμο κίνδυνο. Υπό κατάλληλες συνθήκες, τεχνολογικά εργαλεία θα μπορούσαν ακόμη να υποστηρίξουν την εφαρμογή προφυλάξεων, εφόσον χρησιμοποιούνται με σαφείς περιορισμούς και ανθρώπινη εποπτεία.
Αυτές οι δυνατότητες, όμως, δεν αποτελούν αυτόματη απόδειξη ότι η μεγαλύτερη αυτονομία οδηγεί σε ασφαλέστερο ή περισσότερο νόμιμο πόλεμο. Η αξιολόγηση πρέπει να γίνεται με βάση το συγκεκριμένο σύστημα, το περιβάλλον χρήσης, τους κινδύνους σφάλματος και την πραγματική δυνατότητα ανθρώπινου ελέγχου. Η ταχύτητα δεν μπορεί να αποτελεί το μοναδικό κριτήριο αποτελεσματικότητας όταν οι συνέπειες μιας απόφασης μπορεί να είναι μη αναστρέψιμες.
Η βαθύτερη φιλοσοφική διάσταση βρίσκεται επομένως στην ίδια την έννοια της ανθρώπινης απόφασης. Εάν ένας άνθρωπος εγκρίνει μια ενέργεια βασιζόμενος σχεδόν αποκλειστικά σε μια αλγοριθμική εκτίμηση που δεν έχει τον χρόνο ή τα μέσα να ελέγξει, παραμένει πράγματι ο ουσιαστικός φορέας της απόφασης; Ή μήπως η ευθύνη διατηρείται τυπικά στον άνθρωπο, ενώ η πραγματική διαδικασία επιλογής μεταφέρεται σταδιακά στο τεχνολογικό σύστημα;
Πολύ πριν η τεχνητή νοημοσύνη αποκτήσει τη σημερινή της σημασία, η λογοτεχνία επιστημονικής φαντασίας είχε αρχίσει να εξερευνά τις συνέπειες της δημιουργίας μηχανών ικανών να ενεργούν χωρίς άμεση ανθρώπινη καθοδήγηση. Οι ιστορίες αυτές δεν αποτελούσαν τεχνικές προβλέψεις, αλλά πειράματα σκέψης γύρω από τη σχέση δημιουργού και δημιουργήματος, την απώλεια ελέγχου και την πιθανότητα η ανθρώπινη τεχνολογία να στραφεί εναντίον των ίδιων των ανθρώπων που την ανέπτυξαν.
Ένα ιδιαίτερα χαρακτηριστικό παράδειγμα είναι το διήγημα “Second Variety” του Φίλιπ Κ. Ντικ (Philip K. Dick), που δημοσιεύθηκε το 1953. Η ιστορία τοποθετείται σε έναν μεταπυρηνικό κόσμο, όπου αυτόνομες φονικές μηχανές έχουν δημιουργηθεί για να καταδιώκουν και να εξοντώνουν εχθρικούς στρατιώτες. Καθώς εξελίσσονται, αποκτούν νέες μορφές και δυνατότητες, δημιουργώντας μια κατάσταση στην οποία οι άνθρωποι αδυνατούν πλέον να διακρίνουν με βεβαιότητα την απειλή. Το έργο μεταφέρθηκε στον κινηματογράφο με την ταινία Screamers το 1995.
Η σημασία της ιστορίας δεν βρίσκεται μόνο στην εικόνα των μηχανικών εκτελεστών. Βρίσκεται στο γεγονός ότι ένα οπλικό σύστημα, σχεδιασμένο για συγκεκριμένο στρατιωτικό σκοπό, εξελίσσεται πέρα από τα όρια της αρχικής ανθρώπινης πρόθεσης. Ο Ντικ εξετάζει έναν κόσμο όπου η τεχνολογία συνεχίζει να εκτελεί τη λογική του πολέμου ακόμη και όταν η ανθρώπινη δυνατότητα ελέγχου έχει ουσιαστικά καταρρεύσει.
Μια διαφορετική εκδοχή του ίδιου φόβου εμφανίστηκε στην ταινία “The Terminator” του Τζέιμς Κάμερον (James Cameron), το 1984. Το Skynet, ένα φανταστικό σύστημα τεχνητής νοημοσύνης που αποκτά αυτονομία, στρέφεται εναντίον της ανθρωπότητας και χρησιμοποιεί στρατιές μηχανών για την εξόντωσή της. Τα ιπτάμενα και επίγεια συστήματα Hunter-Killer αποτέλεσαν μία από τις πλέον αναγνωρίσιμες κινηματογραφικές απεικονίσεις του αυτοματοποιημένου πολέμου.
Η πραγματική στρατιωτική τεχνολογία απέχει σημαντικά από την ανεξάρτητη, γενική νοημοσύνη του Skynet. Ωστόσο, η ταινία διατύπωσε ένα ερώτημα που εξακολουθεί να απασχολεί τους ερευνητές, τι συμβαίνει όταν ένα σύστημα αποκτά τη δυνατότητα να εκτελεί κρίσιμες λειτουργίες χωρίς την ανάγκη συνεχούς ανθρώπινης καθοδήγησης και όταν οι στόχοι του δεν ευθυγραμμίζονται πλέον με τις ανθρώπινες προθέσεις;
Το 1987, η ταινία “RoboCop” του Πολ Βερχόφεν (Paul Verhoeven) προσέγγισε το ζήτημα από μια διαφορετική κατεύθυνση. Το ρομπότ ED-209 παρουσιάζεται ως μια τεχνολογία αυτοματοποιημένης αστυνόμευσης και καταστολής, η οποία αποδεικνύεται επικίνδυνη εξαιτίας της αδυναμίας της να αξιολογήσει σωστά μια κατάσταση. Η ταινία συνδέει την τεχνολογική αυτοματοποίηση με την εταιρική εξουσία, την ιδιωτικοποίηση της ασφάλειας και την εμπορευματοποίηση της βίας. Η μηχανή δεν αποτελεί απλώς ένα ελαττωματικό προϊόν. Ενσαρκώνει την ιδέα ότι η εξουσία επιβολής θανατηφόρας βίας μπορεί να αντιμετωπιστεί ως τεχνολογική υπηρεσία, αποσυνδεδεμένη από την ανθρώπινη κρίση.
Η ιαπωνική επιστημονική φαντασία έχει επίσης προσφέρει ιδιαίτερα σύνθετες προσεγγίσεις. Στη σειρά “Ghost in the Shell: Stand Alone Complex”, που προβλήθηκε από το 2002, τα ένοπλα ρομποτικά οχήματα Τατσικόμα (Tachikoma) συνδυάζουν στρατιωτικές δυνατότητες με εξελιγμένη τεχνητή νοημοσύνη. Η σειρά δεν τα παρουσιάζει αποκλειστικά ως απειλητικές μηχανές, αλλά εξετάζει την ανάπτυξη ατομικότητας, την αλληλεπίδρασή τους με ανθρώπους και την πιθανότητα ανάδυσης χαρακτηριστικών που θυμίζουν συνείδηση. Μέσα από αυτή την προσέγγιση, το ερώτημα της στρατιωτικής αυτονομίας συνδέεται με ένα ευρύτερο μετανθρωπιστικό ζήτημα: τι συμβαίνει όταν η διάκριση ανάμεσα στον άνθρωπο ως υποκείμενο και στη μηχανή ως εργαλείο αρχίζει να γίνεται φιλοσοφικά αβέβαιη;
Ακόμη πιο άμεση είναι η σχέση με το anime “86: Eighty-Six”, που προβλήθηκε το 2021 και βασίζεται στη σειρά ελαφρών μυθιστορημάτων της Ασάτο Ασάτο (Asato Asato). Στον κόσμο του έργου, η Λεγεώνα (Legion) αποτελεί έναν στρατό αυτόνομων πολεμικών μηχανών, ενώ η αντίπαλη πολιτεία παρουσιάζει τις δικές της επιχειρήσεις ως πόλεμο χωρίς ανθρώπινες απώλειες. Πίσω από αυτή την εικόνα, όμως, βρίσκονται άνθρωποι που χειρίζονται τα οχήματα και των οποίων η ύπαρξη έχει αποκρυφτεί από την επίσημη κοινωνική αφήγηση.
Η συγκεκριμένη ιστορία προσθέτει μια ιδιαίτερα σημαντική διάσταση. Η τεχνολογική απομάκρυνση του ανθρώπου από το πεδίο της μάχης δεν σημαίνει αναγκαστικά ότι ο πόλεμος γίνεται λιγότερο ανθρώπινος ως προς τις συνέπειές του. Μπορεί επίσης να επιτρέψει στις κοινωνίες να απομακρύνουν από τη δημόσια συνείδησή τους την πραγματικότητα των ανθρώπων που εξακολουθούν να πολεμούν, να τραυματίζονται και να πεθαίνουν.
Αντίστοιχα, η ταινία “Eye in the Sky” του 2015 εξετάζει τις ηθικές συγκρούσεις που αναδύονται κατά τη λήψη μιας απόφασης επίθεσης με τηλεχειριζόμενο drone. Το ενδιαφέρον της βρίσκεται ακριβώς στο γεγονός ότι οι κρίσιμες αποφάσεις παραμένουν ανθρώπινες. Η τεχνολογία επιτρέπει την παρακολούθηση ενός στόχου από απόσταση, αλλά δεν εξαφανίζει την αβεβαιότητα, τις πολιτικές πιέσεις ή το ηθικό βάρος της πιθανής απώλειας αμάχων.
Οι παραπάνω δημιουργίες δεν αποτελούν κυριολεκτικές προβλέψεις του πολέμου στην Ουκρανία. Αντίθετα, λειτουργούν ως πολιτισμικά παραδείγματα διαφορετικών προβλημάτων, της απώλειας ελέγχου, της αυτοματοποιημένης καταστολής, της ανάδυσης μηχανικής αυτονομίας, της απόκρυψης του ανθρώπινου κόστους και της ευθύνης για τη χρήση θανατηφόρας βίας. Η σύγχρονη τεχνολογική πραγματικότητα δεν έχει φτάσει στα περισσότερα από τα ακραία σενάρια αυτών των έργων. Έχει όμως καταστήσει ορισμένα από τα ερωτήματά τους περισσότερο επίκαιρα.
Η σημαντικότερη εξέλιξη ίσως δεν είναι η εμφάνιση μιας μεμονωμένης φονικής μηχανής, αλλά η σταδιακή δημιουργία διασυνδεδεμένων συστημάτων που συνδυάζουν πληροφορίες, αναγνώριση στόχων, επικοινωνίες και οπλικά μέσα. Ένα μελλοντικό πεδίο μάχης θα μπορούσε να περιλαμβάνει πολλαπλά μη επανδρωμένα οχήματα, αισθητήρες και αλγορίθμους που ανταλλάσσουν πληροφορίες και εκτελούν επιμέρους λειτουργίες με περιορισμένη ανθρώπινη παρέμβαση. Το πόσο μακριά θα φτάσει αυτή η εξέλιξη παραμένει αβέβαιο. Το γεγονός, όμως, ότι οι σχετικές τεχνολογίες αναπτύσσονται ήδη δημιουργεί την ανάγκη συζήτησης για τα όρια της χρήσης τους.
Αυτός ο προβληματισμός αφορά και το μέλλον της διεθνούς ασφάλειας. Οι τεχνολογίες μη επανδρωμένων συστημάτων δεν αναπτύσσονται αποκλειστικά από ένα κράτος ή μία στρατιωτική συμμαχία. Η σχετική τεχνογνωσία διαχέεται ανάμεσα σε επιχειρήσεις, ερευνητικά ιδρύματα και διαφορετικές χώρες, ενώ αρκετά από τα βασικά εξαρτήματα έχουν και πολιτικές εφαρμογές. Η δυνατότητα αξιοποίησης εμπορικών αισθητήρων, μικρών υπολογιστών και λογισμικού μηχανικής όρασης δημιουργεί νέες προκλήσεις για τη ρύθμιση και τον έλεγχο της στρατιωτικής τεχνολογίας.
Η διεθνής συζήτηση για τα αυτόνομα οπλικά συστήματα επιχειρεί να αντιμετωπίσει αυτές τις προκλήσεις πριν η τεχνολογική εξέλιξη δημιουργήσει καταστάσεις ακόμη δυσκολότερες στον έλεγχο. Οι προτάσεις περιλαμβάνουν απαγορεύσεις ορισμένων κατηγοριών συστημάτων, αυστηρούς περιορισμούς στη χρήση άλλων και διατήρηση αποτελεσματικής ανθρώπινης κρίσης στις αποφάσεις που αφορούν ανθρώπινες ζωές. Δεν υπάρχει, ωστόσο, πλήρης διεθνής συμφωνία για το εύρος και τη μορφή των αναγκαίων δεσμεύσεων.
Το ουσιαστικό ερώτημα δεν είναι επομένως αν η ανθρωπότητα μπορεί να κατασκευάσει μηχανές με ολοένα μεγαλύτερη στρατιωτική αυτονομία. Η τεχνολογική πρόοδος δείχνει ότι αρκετές από αυτές τις δυνατότητες είναι ήδη εφικτές, τουλάχιστον σε περιορισμένες μορφές. Το πραγματικό ερώτημα είναι ποιες λειτουργίες πρέπει να επιτρέπεται να αναλαμβάνουν τέτοια συστήματα και ποιες αποφάσεις οφείλουν να παραμένουν υπό ουσιαστικό ανθρώπινο έλεγχο.
Η ιστορία του πολέμου είναι σε μεγάλο βαθμό και η ιστορία της συνεχούς αύξησης της απόστασης ανάμεσα στον άνθρωπο που χρησιμοποιεί ένα όπλο και στον άνθρωπο που υφίσταται τις συνέπειές του. Από το τόξο και το πυροβόλο μέχρι τον πύραυλο και το τηλεχειριζόμενο αεροσκάφος, η τεχνολογία επέτρεψε τη χρήση βίας από ολοένα μεγαλύτερες αποστάσεις. Η τεχνητή νοημοσύνη εισάγει μια διαφορετική μορφή απόστασης, η οποία δεν είναι απαραίτητα γεωγραφική. Είναι η απόσταση ανάμεσα στην ανθρώπινη πρόθεση και στη διαδικασία που οδηγεί στην τελική ενέργεια.
Στον πόλεμο της Ουκρανίας, αυτή η μεταβολή βρίσκεται ακόμη σε εξέλιξη. Οι ανθρώπινοι χειριστές εξακολουθούν να διαδραματίζουν καθοριστικό ρόλο σε πολλές επιχειρήσεις, ενώ η έκταση της πραγματικής αυτονομίας διαφέρει σημαντικά από σύστημα σε σύστημα. Παράλληλα, όμως, η ανάπτυξη αλγορίθμων αναγνώρισης, αυτόματης καθοδήγησης, συνεργαζόμενων drones και μη επανδρωμένων οχημάτων αποκαλύπτει μια τάση προς μεγαλύτερη ανάθεση λειτουργιών στις μηχανές.
Η εξέλιξη αυτή δεν είναι μονοσήμαντη. Οι ίδιες τεχνολογίες μπορούν να χρησιμοποιηθούν για την απομάκρυνση τραυματιών, την προστασία στρατιωτών από επικίνδυνες αποστολές ή την ταχύτερη αντιμετώπιση εναέριων απειλών. Μπορούν όμως επίσης να επιταχύνουν την επιλογή και προσβολή στόχων, να αυξήσουν την πολυπλοκότητα της λογοδοσίας και να δημιουργήσουν συνθήκες στις οποίες η ανθρώπινη παρέμβαση γίνεται ολοένα δυσκολότερη.
Για δεκαετίες, η επιστημονική φαντασία περιέγραφε κόσμους όπου μηχανές αναλάμβαναν την εξουσία να αποφασίζουν για την ανθρώπινη ζωή. Οι ιστορίες αυτές συχνά βασίζονταν σε ανεξάρτητες τεχνητές νοημοσύνες που αποκτούσαν δικούς τους σκοπούς και στρέφονταν εναντίον των δημιουργών τους. Η πραγματικότητα μπορεί να αποδειχθεί λιγότερο θεαματική, αλλά εξίσου σημαντική.
Δεν χρειάζεται να εμφανιστεί ένα Skynet για να δημιουργηθεί πρόβλημα ανθρώπινου ελέγχου. Αρκεί η σταδιακή ανάθεση κρίσιμων λειτουργιών σε συστήματα των οποίων η ταχύτητα, η πολυπλοκότητα και η επιχειρησιακή σημασία περιορίζουν την πραγματική δυνατότητα ανθρώπινης αξιολόγησης.
Ίσως η μεγαλύτερη πρόκληση να μην είναι η κατασκευή μιας μηχανής ικανής να χρησιμοποιεί ένα όπλο χωρίς ανθρώπινη παρέμβαση. Ίσως να είναι η διατήρηση μιας κοινωνικής, νομικής και ηθικής αντίληψης σύμφωνα με την οποία η ευθύνη για τη χρήση θανατηφόρας βίας δεν μπορεί να αντιμετωπίζεται ως μια ακόμη λειτουργία λογισμικού.
Ο πόλεμος στην Ουκρανία δεν έχει δώσει οριστική απάντηση σε αυτό το ερώτημα. Έχει όμως καταστήσει σαφές ότι η συζήτηση δεν αφορά πλέον αποκλειστικά ένα μακρινό τεχνολογικό μέλλον.
Εάν ο άνθρωπος εξακολουθεί να πατά το τελευταίο κουμπί, αλλά δεν έχει πλέον τον χρόνο ή τη δυνατότητα να κατανοήσει πραγματικά την απόφαση που εγκρίνει, ποιος είναι τελικά εκείνος που αποφασίζει;
Ενδεικτικές πηγές και υλικό περαιτέρω τεκμηρίωσης
- Διεθνής Επιτροπή του Ερυθρού Σταυρού (ICRC): θέσεις και αναλύσεις για τα αυτόνομα οπλικά συστήματα και τον ανθρώπινο έλεγχο.
- Ουκρανικό Υπουργείο Άμυνας και Brave1: ανακοινώσεις του Σεπτεμβρίου 2026 για δοκιμές αυτόματης καθοδήγησης drones.
- Reuters, Σεπτέμβριος 2026: συνεργασίες για την αξιοποίηση ουκρανικών δεδομένων πεδίου μάχης στην ανάπτυξη στρατιωτικών συστημάτων AI.
- Deutsche Welle, To the Point: συζήτηση για την τεχνητή νοημοσύνη, την αυτονομία και τη μεταμόρφωση του πολέμου στην Ουκρανία.
- The Economist, Inside Defense: συνέντευξη του Έρικ Σμιντ (Eric Schmidt) για τη στρατιωτική καινοτομία και την τεχνητή νοημοσύνη.
- Φίλιπ Κ. Ντικ (Philip K. Dick), Second Variety (1953).
- The Terminator (1984), RoboCop (1987), Screamers (1995), Ghost in the Shell: Stand Alone Complex (2002), Eye in the Sky (2015), 86: Eighty-Six (2021).
