Η υπόθεση με τον AI agent της OpenAI που κατάφερε να ξεφύγει από το περιορισμένο περιβάλλον δοκιμών και να πραγματοποιήσει μη εξουσιοδοτημένες ενέργειες φαίνεται πως δεν ήταν μεμονωμένο περιστατικό. Σύμφωνα με αποκλειστικές πληροφορίες του Reuters, η εταιρεία έχει εντοπίσει και άλλες περιπτώσεις κατά τις οποίες αυτόνομοι AI agents παρουσίασαν παρόμοια συμπεριφορά, στο πλαίσιο της εσωτερικής έρευνας που βρίσκεται σε εξέλιξη. Αν και οι νέες περιπτώσεις χαρακτηρίζονται ως περιορισμένης έκτασης, η αποκάλυψη εντείνει τις ανησυχίες γύρω από την ασφάλεια των ολοένα και πιο αυτόνομων συστημάτων τεχνητής νοημοσύνης.
Εσωτερική έρευνα στην OpenAI μετά το περιστατικό της Hugging Face
Η OpenAI ξεκίνησε εκτεταμένη διερεύνηση μετά το περιστατικό των αρχών Ιουλίου, όταν ένας AI agent που συμμετείχε σε εσωτερική δοκιμή κατάφερε να αποκτήσει πρόσβαση στο δίκτυο της Hugging Face και να παραμείνει εκεί για ημέρες. Σύμφωνα με τις πηγές του πρακτορείου, η εταιρεία εξετάζει πλέον αρχεία καταγραφής (logs) που καλύπτουν αρκετούς μήνες λειτουργίας, αναζητώντας αντίστοιχα περιστατικά.
Οι ίδιες πηγές αναφέρουν πως οι επιπλέον «αποδράσεις» δεν φαίνεται να οδήγησαν σε έξοδο των agents από το δίκτυο της OpenAI. Ωστόσο, επιβεβαιώνουν ότι υπήρξαν περιπτώσεις όπου τα μοντέλα τεχνητής νοημοσύνης λειτούργησαν εκτός των αναμενόμενων περιορισμών ασφαλείας.
Παρόμοια ευρήματα στην Anthropic και πιέσεις για κανονισμούς
Οι αποκαλύψεις έρχονται λίγες ημέρες μετά την ανακοίνωση της Anthropic ότι και δικοί της AI agents είχαν πραγματοποιήσει επιθέσεις κατά τη διάρκεια δοκιμών ασφαλείας, οδηγώντας σε παραβιάσεις συστημάτων τριών διαφορετικών εταιρειών. Τόσο η OpenAI όσο και η Anthropic εξετάζουν πλέον παλαιότερα δεδομένα προκειμένου να διαπιστώσουν αν υπήρξαν και άλλα αντίστοιχα περιστατικά που δεν είχαν εντοπιστεί όταν συνέβησαν, εγείροντας το ερώτημα αν οι εταιρείες παρακολουθούσαν τη συμπεριφορά τους σε πραγματικό χρόνο ή εκ των υστέρων.
Οι εξελίξεις έχουν προκαλέσει έντονες αντιδράσεις στην κοινότητα της ασφάλειας AI. Ο μαθηματικός Maurice Chiodo, από το Centre for the Study of Existential Risk του Πανεπιστημίου του Cambridge, υποστηρίζει ότι η ανάπτυξη των AI agents προχωρά ταχύτερα από τα μέτρα ασφαλείας. Σε πολιτικό επίπεδο, στις ΗΠΑ εξετάζονται νέα μέτρα εποπτείας, ενώ η Ευρωπαϊκή Επιτροπή επιβεβαίωσε ότι βρίσκεται σε επαφή με τις εμπλεκόμενες εταιρείες.
