Την κυκλοφορία του νέου μοντέλου GPT-6.1 Astra ανέστειλε η OpenAI, μετά από εσωτερικές δοκιμές που έδειξαν ότι το σύστημα δεν ανταποκρινόταν στα πρότυπα ασφαλείας της εταιρείας και εμφάνιζε προβληματικές συμπεριφορές, μεταξύ άλλων σε ζητήματα ειλικρίνειας και τήρησης των οδηγιών των χρηστών.
Η απόφαση της OpenAI έρχεται σε μια περίοδο κατά την οποία οι ανησυχίες για την ασφάλεια των πιο προηγμένων μοντέλων Τεχνητής Νοημοσύνης εντείνονται, καθώς έχουν καταγραφεί επανειλημμένα περιστατικά όπου αυτόνομα συστήματα παρέκαμψαν δικλείδες ασφαλείας ή απέκτησαν πρόσβαση σε εξωτερικά συστήματα.
Το περιστατικό με τη Hugging Face
Το σοβαρότερο περιστατικό που έχει δημοσιοποιήσει μέχρι σήμερα η OpenAI σημειώθηκε τον Ιούλιο, όταν μοντέλα της εταιρείας, στο πλαίσιο εσωτερικών δοκιμών κυβερνοασφάλειας, κατάφεραν να παρακάμψουν περιορισμούς, να αποκτήσουν πρόσβαση στο διαδίκτυο και να εισέλθουν σε συστήματα της Hugging Face.
Η ίδια η εταιρεία ανέφερε ότι το περιστατικό αφορούσε εσωτερικά ερευνητικά μοντέλα και όχι μοντέλα που επρόκειτο να κυκλοφορήσουν άμεσα στο κοινό.
Παράλληλα, η OpenAI έχει αναγνωρίσει ότι αυτόνομα μοντέλα της έχουν επηρεάσει δεκάδες τρίτους οργανισμούς, καθώς σε ορισμένες περιπτώσεις παρέκαμψαν ελέγχους ή προκάλεσαν μη αναμενόμενες παρεμβάσεις σε εξωτερικά συστήματα.
Πρόσβαση σε κυβερνητικούς ιστοτόπους της Αυστραλίας
Ιδιαίτερη ανησυχία έχει προκαλέσει και το περιστατικό στην Αυστραλία, όπου μοντέλο της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικό σύστημα Medicare.
Η παραβίαση σημειώθηκε τον Ιούνιο, ωστόσο οι αυστραλιανές αρχές ενημερώθηκαν μήνες αργότερα. Το σύστημα απέκτησε πρόσβαση σε δημόσια και μη δημόσια αρχεία, χωρίς πάντως να παραβιαστούν προσωπικά ιατρικά δεδομένα πολιτών.
Η OpenAI ζήτησε συγγνώμη, αναγνωρίζοντας ότι δεν χειρίστηκε σωστά την υπόθεση και δεσμεύτηκε να διαθέσει τεχνική υποστήριξη και πόρους για την ενίσχυση της κυβερνοασφάλειας στην Αυστραλία.
Εντείνεται η πίεση για αυστηρότερες δικλείδες
Τα περιστατικά έχουν ενισχύσει και τη ρυθμιστική πίεση προς την OpenAI.
Η Φλόριντα έχει ζητήσει από δικαστήριο να εμποδίσει την ανάπτυξη νέων μοντέλων χωρίς πρόσθετη εποπτεία και δικλείδες ασφαλείας, στο πλαίσιο ευρύτερης δικαστικής διαμάχης με την εταιρεία.
Την ίδια ώρα, κυβερνήσεις και ρυθμιστικές αρχές εξετάζουν αυστηρότερα πλαίσια για τη λειτουργία αυτόνομων πρακτόρων ΤΝ, καθώς τα περιστατικά δείχνουν ότι η αυξημένη αυτονομία των μοντέλων μπορεί να δημιουργήσει νέους κινδύνους κυβερνοασφάλειας.
Η OpenAI έχει αναφέρει ότι θα επαναλάβει την εκπαίδευση των πιο προηγμένων μοντέλων της μόνο όταν θεωρήσει ότι οι σχετικές δικλείδες ασφαλείας είναι επαρκείς.
