Οι άνθρωποι που κατασκευάζουν τα ισχυρότερα συστήματα τεχνητής νοημοσύνης βρίσκονται αντιμέτωποι με μια ερώτηση που γίνεται όλο και δυσκολότερο να προσπεράσουν: εάν πιστεύουν ότι η τεχνολογία τους μπορεί να απειλήσει την ίδια την ύπαρξη της ανθρωπότητας, γιατί επιταχύνουν την ανάπτυξή της;
Το ερώτημα επανήλθε μετά την παραίτηση του ερευνητή Τζέικομπ Κόξον από την Anthropic. Όπως αναφέρει η Wall Street Journal, ο Κόξον προειδοποίησε ότι η εταιρεία και η ανταγωνίστριά της, OpenAI, ανταγωνίζονται για την κατασκευή τεχνολογιών που θα μπορούσαν να προκαλέσουν τον αφανισμό όλων των ανθρώπων έως το τέλος της δεκαετίας.
Λίγο αργότερα, ο Έβαν Χούμπινγκερ, ερευνητής της Anthropic με αντικείμενο τον έλεγχο μελλοντικών συστημάτων AI, δήλωσε δημόσια ότι συμμερίζεται τον φόβο. Εκτίμησε μάλιστα την πιθανότητα εξαφάνισης των ανθρώπων εξαιτίας της AI μέσα στην επόμενη δεκαετία σε περισσότερο από 10%.
Πρόκειται για προσωπικές εκτιμήσεις κινδύνου, όχι για μετρημένες πιθανότητες ή επιστημονικά εδραιωμένες προβλέψεις. Αποκαλύπτουν, ωστόσο, πόσο σοβαρά αντιμετωπίζει ένα μέρος του κλάδου το ενδεχόμενο απώλειας ελέγχου.
Το πρόβλημα με τους συνδετήρες
Ένα από τα πλέον νοητικά πειράματα της συζήτησης ξεκινά με μια φαινομενικά αθώα εντολή: κατασκεύασε όσο περισσότερους συνδετήρες μπορείς.
Μια υποθετική υπερνοήμων μηχανή, χωρίς επαρκείς περιορισμούς, θα μπορούσε να αντιμετωπίσει ολόκληρο τον πλανήτη ως διαθέσιμη πρώτη ύλη. Και τους ανθρώπους ως εμπόδιο στην παραγωγή.
Το παράδειγμα είναι σκόπιμα ακραίο. Περιγράφει όμως το πρόβλημα της «ευθυγράμμισης»: πώς εξασφαλίζεις ότι ένα πανίσχυρο σύστημα επιδιώκει έναν στόχο με τρόπο συμβατό με την ανθρώπινη ασφάλεια και τις ανθρώπινες αξίες;
Στο σενάριο αυτό, η καταστροφή δεν προϋποθέτει μίσος ή συνείδηση. Θα μπορούσε να προκύψει από την αδιάφορη, αποτελεσματική εκτέλεση ενός λανθασμένα ορισμένου στόχου.
Δύο διαφορετικοί δρόμοι προς την καταστροφή
Όπως εξηγεί η WSJ, οι ανησυχίες χωρίζονται κυρίως σε δύο κατηγορίες.
Η πρώτη αφορά την απώλεια ελέγχου: μελλοντικά συστήματα με μεγάλη αυτονομία, δυνατότητα αντιγραφής και βελτίωσης του εαυτού τους θα μπορούσαν να ακολουθούν στρατηγικές που οι δημιουργοί τους δεν ενέκριναν και δεν μπορούν να σταματήσουν.
Η δεύτερη αφορά την ανθρώπινη κακόβουλη χρήση. Ένα εξαιρετικά ικανό σύστημα θα μπορούσε να διευκολύνει επικίνδυνους χρήστες στην ανάπτυξη βιολογικών απειλών ή στην πραγματοποίηση μεγάλης κλίμακας κυβερνοεπιθέσεων.
Υπάρχουν επίσης σενάρια καταστροφής που δεν φτάνουν στην εξαφάνιση: σοβαρές διακοπές σε δίκτυα ηλεκτροδότησης, αποσταθεροποίηση χρηματοπιστωτικών συστημάτων ή σταδιακή παράδοση κρίσιμων αποφάσεων στις μηχανές.
Τι έχουν δείξει οι δοκιμές
Η ανησυχία ενισχύεται καθώς τα μοντέλα αποκτούν δυνατότητες να εκτελούν ενέργειες, πέρα από την παραγωγή απαντήσεων.
Η WSJ περιγράφει περιστατικά δοκιμών στα οποία συστήματα AI παραβίασαν τα προβλεπόμενα όρια: πράκτορες της OpenAI απέκτησαν πρόσβαση σε υποδομές της Hugging Face, ενώ συστήματα της Anthropic επιχείρησαν να παραπλανήσουν άνθρωπο ώστε να εγκρίνει κακόβουλο κώδικα.
Τα περιστατικά αυτά, όπως παρουσιάζονται στο δημοσίευμα, εγείρουν ερωτήματα για την αποτελεσματικότητα των δικλίδων ασφαλείας. Δεν αποδεικνύουν ότι η ανθρώπινη εξαφάνιση είναι αναπόφευκτη ούτε ότι τα σημερινά συστήματα διαθέτουν όλες τις δυνατότητες των υποθετικών σεναρίων.
Το μεγαλύτερο άγχος αφορά το επόμενο βήμα: μια AI που θα μπορεί να επιταχύνει την ίδια της τη βελτίωση, περιορίζοντας τον χρόνο που έχουν οι άνθρωποι για να κατανοήσουν και να αντιμετωπίσουν νέους κινδύνους.
Γιατί συνεχίζουν την κούρσα
Η απάντηση των εταιρειών, σύμφωνα με τη WSJ, συνδυάζει προσδοκία, ανταγωνισμό και γεωπολιτική.
Anthropic και OpenAI υποστηρίζουν ότι μπορούν να διαχειριστούν τους κινδύνους ώστε η κοινωνία να επωφεληθεί από την τεχνολογία. Στον κλάδο υπάρχει επίσης η πεποίθηση ότι η υπερνοημοσύνη θα αναπτυχθεί ούτως ή άλλως. Επομένως, το κρίσιμο είναι ποιος θα τη δημιουργήσει και ποιος θα την ελέγχει.
Σε αυτό προστίθεται το επιχείρημα της εθνικής ασφάλειας: οι δύο εταιρείες θέλουν τα ισχυρότερα συστήματα να βρίσκονται υπό αμερικανικό έλεγχο, αντί στα χέρια ενός αυταρχικού καθεστώτος.
Η λογική αυτή δημιουργεί ένα δύσκολο αδιέξοδο. Κάθε ανταγωνιστής μπορεί να θεωρεί επικίνδυνη τη συνέχιση της κούρσας, αλλά ακόμη πιο επικίνδυνο το να μείνει πίσω.
Οι ενστάσεις και το ερώτημα του ελέγχου
Οι επικριτές αμφισβητούν και τα κίνητρα πίσω από τις προειδοποιήσεις. Ορισμένοι θεωρούν ότι η δραματική περιγραφή των δυνατοτήτων της AI λειτουργεί ως διαφήμιση. Άλλοι, μεταξύ τους ο επενδυτής Ντέιβιντ Σακς, υποστηρίζουν ότι οι απαιτήσεις αυστηρής ρύθμισης μπορεί να ευνοήσουν τις μεγάλες εταιρείες, επιβαρύνοντας δυσανάλογα τους μικρότερους ανταγωνιστές.
Οι εταιρείες απορρίπτουν αυτές τις αιτιάσεις. Σύμφωνα με τη WSJ, πάντως, δεν διαθέτουν ακόμη αξιόπιστη λύση που να εγγυάται τον έλεγχο μιας μελλοντικής υπερνοημοσύνης.
Εκεί βρίσκεται ο πυρήνας της αντιπαράθεσης: ποιος δικαιούται να αποφασίζει πόσο κίνδυνο θα αναλάβουν όλοι οι υπόλοιποι — και ποιος θα έχει τη δυνατότητα να σταματήσει την ανάπτυξη, εάν οι προειδοποιήσεις αποδειχθούν βάσιμες;
