Κυβερνητικοί εμπειρογνώμονες συναντήθηκαν στη Γενεύη για να εργαστούν προς την κατεύθυνση μιας πιθανής διαπραγματευτικής εντολής σχετικά με τα αυτόνομα οπλικά συστήματα (AWS). Πρόκειται για στρατιωτικά συστήματα που μπορούν να επιλέγουν και να εμπλέκουν στόχους χωρίς ανθρώπινη παρέμβαση.
Αυτή η σημαντική διεθνής συνάντηση πραγματοποιείται μετά την πρόσφατη έκκληση του ΟΗΕ και της Διεθνούς Επιτροπής του Ερυθρού Σταυρού (ICRC) για την άμεση θέσπιση ελέγχων σε αυτά τα όπλα, τα οποία συχνά αποκαλούνται «ρομπότ-δολοφόνοι» σε περιγραφές των μέσων ενημέρωσης.
Οι πρόσφατες εξελίξεις στην Ουκρανία έχουν ενισχύσει περαιτέρω τις ανησυχίες ότι η πορεία προς όπλα με πλήρη αυτονομία —και χωρίς ουσιαστικό ανθρώπινο έλεγχο— βρίσκεται ήδη σε εξέλιξη. Σύμφωνα με τους New York Times, στις 6 Ιουλίου ένα ρωσικό drone επιτέθηκε σε πρατήριο καυσίμων στη Ζαπορίζια, σκοτώνοντας τρεις αμάχους. Αυτό που έκανε την επίθεση ιδιαίτερη ήταν η χρήση τεχνητής νοημοσύνης από το drone για να αποφασίσει πού και πότε θα χτυπήσει.
Το αεροσκάφος-drone είχε προγραμματιστεί να πετάξει προς το πρατήριο καυσίμων. Καθώς όμως πλησίαζε, ένα σύστημα τεχνητής νοημοσύνης επέλεξε αυτόνομα τον ακριβή στόχο —πιθανότατα τις δεξαμενές προπανίου— με βάση την ικανότητά του να τις αναγνωρίζει.
Στις 25 Αυγούστου, η Μιρτζάνα Σπόλιαριτς, πρόεδρος της Διεθνούς Επιτροπής του Ερυθρού Σταυρού και ο Αντόνιο Γκουτέρες γενικός γραμματέας των Ηνωμένων Εθνών απηύθυναν κοινή έκκληση προς τη διεθνή κοινότητα να συμφωνήσει σε νομικά δεσμευτικούς κανόνες για τη ρύθμιση της ανάπτυξης και της χρήσης των αυτόνομων οπλικών συστημάτων.
Οι νέες τεχνολογίες καθιστούν φθηνότερη και ευκολότερη για τα κράτη την ανάπτυξη τέτοιων όπλων. Επομένως η έκκληση του ΟΗΕ και της ICRC για δεσμευτικούς κανόνες δεν θα μπορούσε να είναι πιο επείγουσα. Η διεθνής κοινότητα βρίσκεται σε ιδανική θέση για να ξεκινήσει σύντομα διαπραγματεύσεις, αξιοποιώντας πολλά χρόνια διπλωματικών συνομιλιών.
Εδώ και μία δεκαετία οι κυβερνήσεις συζητούν τον τρόπο με τον οποίο τα αυτόνομα οπλικά συστήματα αμφισβητούν το υφιστάμενο διεθνές δίκαιο και τι θα πρέπει να γίνει στο πλαίσιο της Σύμβασης για Ορισμένα Συμβατικά Όπλα, ενός πλαισίου ελέγχου των εξοπλισμών υπό τον ΟΗΕ. Από το 2017, η Ομάδα Κυβερνητικών Εμπειρογνωμόνων (GGE) για τα θανατηφόρα αυτόνομα οπλικά συστήματα (LAWS) —η οποία αποτελεί μέρος της Σύμβασης για Ορισμένα Συμβατικά Όπλα— συνεδριάζει συνήθως δύο φορές τον χρόνο.
Το πλαίσιο και η ηθική
Οι εμπειρογνώμονες συναντήθηκαν στη Γενεύη με στόχο να συμφωνήσουν σε ένα πλαίσιο διακυβέρνησης και σε διατύπωση για ένα εξελισσόμενο κείμενο το οποίο θα μπορούσε να αποτελέσει τη βάση για διαπραγματεύσεις. Το κείμενο αυτό παρέχει μια βάση αναφοράς για τη συνέχιση των συζητήσεων τον Νοέμβριο.
Παρότι η διαδικασία αυτή έχει σημαδευτεί από έντονες πολιτικές διαφωνίες οι περισσότεροι εμπειρογνώμονες συμφωνούν στην ανάγκη να διατηρηθεί κάποιο επίπεδο ουσιαστικού ανθρώπινου ελέγχου στη χρήση αυτόνομων συστημάτων.
Αυτό καταδεικνύει ότι τα κράτη που συμμετέχουν στη διαδικασία μοιράζονται την αντίληψη πως η ανθρώπινη κρίση είναι καθοριστικής σημασίας για τους κανόνες που διέπουν τον πόλεμο. Δείχνει επίσης ότι η ηθική διάσταση του πολέμου υπογραμμίζει τη σημασία της ανθρώπινης ευθύνης.
Η ανθρώπινη κρίση είναι επίσης ενσωματωμένη στο διεθνές ανθρωπιστικό δίκαιο. Οι διαδικασίες επιλογής στόχων απαιτούν κρίσεις που λαμβάνουν υπόψη το συγκεκριμένο πλαίσιο: τον ίδιο τον στόχο, την πιθανή βλάβη σε αμάχους από την επίθεση εναντίον του και άλλα μέτρα προφύλαξης. Αυτά τα καθήκοντα δεν μπορούν να ανατεθούν σε μηχανές.
Τα συστήματα που χρησιμοποιούν τεχνητή νοημοσύνη δείχνουν πώς η τεχνολογία ήδη διαμορφώνει τον τρόπο με τον οποίο οι άνθρωποι αντιλαμβάνονται τους στόχους και τους κινδύνους. Με τα αυτόνομα όπλα το σύστημα μεταβαίνει από το να επηρεάζει την ανθρώπινη κρίση στο να ασκεί το ίδιο τη λειτουργία επιλογής στόχων.
Κάθε σύστημα τεχνητής νοημοσύνης είναι τόσο καλό όσο τα δεδομένα στα οποία έχει εκπαιδευτεί ή με τα οποία λειτουργεί. Στις ένοπλες συγκρούσεις, αυτά τα δεδομένα είναι δύσκολο να συγκεντρωθούν και σχεδόν πάντα είναι ανεπαρκή για δυναμικές και μεταβαλλόμενες ανθρώπινες συνθήκες. Αυτό σημαίνει ότι πολλά συστήματα είναι πιθανό να είναι τεχνικά ανεπαρκή.
Το πρόβλημα γίνεται ιδιαίτερα εμφανές, για παράδειγμα, στους κανόνες σχετικά με την αξιολόγηση της αναλογικότητας. Η αναλογικότητα αποτελεί κρίση που εξαρτάται από το εκάστοτε πλαίσιο και αφορά τη σύγκριση της αναμενόμενης βλάβης σε αμάχους με το στρατιωτικό πλεονέκτημα.
Οι στρατιωτικές δυνάμεις μπορεί να προσπαθήσουν να ποσοτικοποιήσουν τις αποφάσεις επιλογής στόχων με τρόπο που δημιουργεί την εντύπωση ακρίβειας. Ωστόσο, η υποκείμενη νομική κρίση παραμένει ποιοτική. Επομένως, η τεχνική ακρίβεια δεν ταυτίζεται ούτε με τη νομιμότητα ούτε με την ηθική αξιολόγηση.
Μόνο οι άνθρωποι μπορούν να κατανοήσουν τη σημασία του σεβασμού των εγγενών δικαιωμάτων και της αξιοπρέπειας άλλων ανθρώπων. Οι αποφάσεις που οδηγούν στον τερματισμό μιας ανθρώπινης ζωής πρέπει, επομένως, να λαμβάνονται με ποιοτικά κριτήρια από ανθρώπους, ώστε να μπορούν να δικαιολογηθούν ηθικά και νομικά. Χωρίς αυτή την πρόβλεψη και χωρίς σαφείς κατευθυντήριες γραμμές γύρω από αυτήν, υποστηρίζουμε ότι οι κυβερνήσεις κινδυνεύουν να βρεθούν αντιμέτωπες με ένα νομικό κενό και μια βαθιά ηθική άβυσσο.
Τα αυτόνομα οπλικά συστήματα, ιδιαίτερα εκείνα που δίνουν προτεραιότητα στην ταχύτητα και την κλίμακα δράσης μέσω της τεχνητής νοημοσύνης, ενέχουν σημαντικό κίνδυνο να επιτρέψουν μια ανεξέλεγκτη και ταχεία κλιμάκωση. Η κλιμάκωση από μια κρίση σε πόλεμο ή από μια σύγκρουση σε υψηλότερο επίπεδο βίας θα μπορούσε να προκληθεί από λανθασμένες ενδείξεις επίθεσης ή από ένα απλό σφάλμα αισθητήρα ή υπολογιστή.
Τα απρόβλεπτα συστήματα θα μπορούσαν να δημιουργήσουν στους ηγέτες μια ψευδή εικόνα για τις δυνατότητές τους. Αυτό θα μπορούσε να οδηγήσει σε υπερβολική αυτοπεποίθηση ή να ενθαρρύνει προληπτικές επιθέσεις.
Αναπόφευκτη εξέλιξη;
Ένα επιχείρημα που διατυπώνεται από ακαδημαϊκούς ερευνητές στο πλαίσιο της συζήτησης για τα αυτόνομα οπλικά συστήματα είναι ότι αυτά καθίστανται αναγκαία επειδή είναι αναπόφευκτα. Ο κίνδυνος είναι ότι περισσότερες χώρες θα επιλέξουν την πλήρη αυτονομία καθώς τα εξαρτήματα γίνονται φθηνότερα και ευκολότερα διαθέσιμα επιτείνοντας έναν εξοπλιστικό ανταγωνισμό.
Ωστόσο η συμπεριφορά ενός αντιπάλου δεν απαλλάσσει ένα κράτος από τις δικές του υποχρεώσεις βάσει του διεθνούς ανθρωπιστικού δικαίου. Η τήρηση αυτών των κανόνων αποτελεί επίσης μέρος αυτού που καθιστά νόμιμη τη χρήση στρατιωτικής ισχύος, μεταξύ άλλων μέσω της προστασίας των αμάχων, της λήψης προληπτικών μέτρων και της λογοδοσίας.
Θα μπορούσαμε επομένως, να αντιστρέψουμε το επιχείρημα και να πούμε: οι νομικά δεσμευτικοί κανόνες καθίστανται αναπόφευκτοι, επειδή είναι απολύτως απαραίτητοι.
Οι κυβερνήσεις και οι οργανώσεις που δραστηριοποιούνται στον χώρο αυτό έχουν εργαστεί σκληρά την τελευταία δεκαετία για να διαμορφώσουν μια σαφή πρόταση για τη ρύθμιση των αυτόνομων οπλικών συστημάτων. Ορισμένες προσπάθειες αποσκοπούν στην απαγόρευση συστημάτων που στοχεύουν άμεσα ανθρώπους ή που είναι απρόβλεπτα και, ως εκ τούτου, δεν μπορούν να ελεγχθούν ουσιαστικά από έναν άνθρωπο. Όλα τα υπόλοιπα αυτόνομα οπλικά συστήματα θα πρέπει να υπόκεινται σε αυστηρή ρύθμιση.
Υπάρχουν ενδείξεις πολιτικής δυναμικής. Τον Νοέμβριο του 2025 156 κράτη ψήφισαν υπέρ ψηφίσματος της Γενικής Συνέλευσης του ΟΗΕ, το οποίο «εφιστά την προσοχή στις σοβαρές προκλήσεις και ανησυχίες» που εγείρουν τα αυτόνομα όπλα. Ένα νομικά δεσμευτικό διεθνές μέσο είναι εφικτό, ακόμη και αν ορισμένα κράτη αντιστέκονται σε αυτό.
Η στιγμή είναι τώρα. Σαφείς, δεσμευτικοί κανόνες θα βοηθούσαν να διασφαλιστεί ότι η ολοένα και πιο αυτόνομη μορφή πολέμου δεν θα καταστήσει τη χρήση βίας ευκολότερη και τον έλεγχό της δυσκολότερο.
