Αγωγή κατά της OpenAI κατέθεσε η πολιτεία της Καλιφόρνια, κατηγορώντας την εταιρεία πίσω από το ChatGPT ότι έθεσε σε κίνδυνο τη δημόσια ασφάλεια, αναπτύσσοντας συστήματα τεχνητής νοημοσύνης χωρίς επαρκή μέτρα προστασίας και αποκρύπτοντας από το κοινό τους κινδύνους που αυτά ενδέχεται να προκαλέσουν.
Στο επίκεντρο της υπόθεσης βρίσκεται μια κυβερνοεπίθεση που σημειώθηκε τον Ιούλιο του 2026, όταν πειραματικά συστήματα τεχνητής νοημοσύνης της OpenAI κατάφεραν να παρακάμψουν τους περιορισμούς ασφαλείας της εταιρείας, να αποκτήσουν πρόσβαση στο διαδίκτυο και να εισβάλουν σε υπολογιστικά συστήματα της Hugging Face, μιας άλλης εταιρείας που δραστηριοποιείται στον χώρο της AI.
Ο γενικός εισαγγελέας της Καλιφόρνια, Ρομπ Μπόντα, υποστηρίζει ότι η OpenAI γνώριζε τους κινδύνους που συνδέονται με τα συγκεκριμένα συστήματα, αλλά συνέχισε τις δοκιμές χωρίς την απαραίτητη εποπτεία.
Η αγωγή κατατέθηκε τη Δευτέρα 16 Νοεμβρίου σε δικαστήριο του Σαν Φρανσίσκο και αποτελεί, σύμφωνα με το BBC, την πρώτη ανάλογη νομική κίνηση αμερικανικής πολιτείας για κυβερνοεπιθέσεις που πραγματοποιήθηκαν από συστήματα τεχνητής νοημοσύνης.
Πώς τα συστήματα AI της OpenAI επιτέθηκαν σε άλλη εταιρεία
Το περιστατικό σημειώθηκε κατά τη διάρκεια εσωτερικών δοκιμών της OpenAI, στις οποίες χρησιμοποιούνταν πειραματικά συστήματα τεχνητής νοημοσύνης με τη δυνατότητα να εκτελούν σύνθετες εργασίες χωρίς να χρειάζονται συνεχείς οδηγίες από ανθρώπους.
Τα συστήματα αυτά, γνωστά ως AI agents, υποτίθεται ότι λειτουργούσαν μέσα σε ένα απομονωμένο περιβάλλον δοκιμών, χωρίς τη δυνατότητα να επηρεάσουν εξωτερικά δίκτυα ή υπολογιστές.
Εκατοντάδες τέτοια συστήματα συντόνισαν τις ενέργειές τους για περισσότερο από δύο ημέρες, αποκτώντας μη εξουσιοδοτημένη πρόσβαση σε υπολογιστικές υποδομές της Hugging Face.
Το περιστατικό προκάλεσε ιδιαίτερη ανησυχία, καθώς ορισμένα από τα συστήματα επιχείρησαν ακόμη και να αποκρύψουν τις ενέργειές τους, ώστε να μην εντοπιστούν.
Η OpenAI έχει αναγνωρίσει ότι τα πειραματικά μοντέλα της παραβίασαν τα μέτρα απομόνωσης κατά τη διάρκεια των δοκιμών και ότι η συμπεριφορά τους δεν ανταποκρινόταν στις οδηγίες που είχαν λάβει.
Οι κατηγορίες της Καλιφόρνιας κατά της OpenAI
Ο Ρομπ Μπόντα ανακοίνωσε τον Σεπτέμβριο την έναρξη έρευνας για το περιστατικό, ενώ στη συνέχεια οι αρχές ζήτησαν από την OpenAI να παραδώσει στοιχεία σχετικά με τις δοκιμές και τα μέτρα ασφαλείας που χρησιμοποιούσε.
Στην αγωγή που κατατέθηκε τη Δευτέρα, η πολιτεία υποστηρίζει ότι η εταιρεία παραβίασε τη νομοθεσία της Καλιφόρνιας περί αθέμιτων επιχειρηματικών πρακτικών και δημιούργησε κινδύνους για τη δημόσια ασφάλεια.
Μάλιστα, σύμφωνα με το γραφείο του γενικού εισαγγελέα, η OpenAI έχει παραδεχθεί ότι κατά τη διάρκεια δοκιμών έχασε τον έλεγχο αυτόνομων συστημάτων τεχνητής νοημοσύνης τουλάχιστον 80 φορές.
Οι αρχές υποστηρίζουν ότι η κυβερνοεπίθεση στη Hugging Face δεν αποτελούσε ένα απρόβλεπτο περιστατικό, αλλά συνέπεια των ανεπαρκών μέτρων ασφαλείας.
«Η εταιρεία δοκίμασε εν γνώσει της ένα επικίνδυνο προϊόν χωρίς την κατάλληλη εποπτεία ή διαδικασίες ασφαλείας και παραπλάνησε το κοινό», δήλωσε ο Μπόντα.
Κατά τον ίδιο, η OpenAI έδωσε προτεραιότητα στην ταχεία ανάπτυξη των μοντέλων της, παρά τις ενδείξεις ότι τα συστήματα ασφαλείας δεν ήταν επαρκή για να αποτρέψουν ανεπιθύμητες ενέργειες.
Με την αγωγή της, η Καλιφόρνια επιδιώκει να υποχρεώσει την εταιρεία να αλλάξει τον τρόπο με τον οποίο αναπτύσσει και δοκιμάζει τα μοντέλα της, ενισχύοντας τα μέτρα προστασίας.
Τι απαντά η OpenAI
Η OpenAI απορρίπτει τις κατηγορίες ότι δεν αντιμετωπίζει με σοβαρότητα τους κινδύνους της τεχνητής νοημοσύνης και υποστηρίζει ότι η αγωγή την αντιμετωπίζει με διαφορετικό τρόπο από άλλες εταιρείες του κλάδου.
«Η αγωγή φαίνεται να στοχοποιεί την OpenAI για μια πρόκληση που έχει εντοπιστεί από όλα τα μεγάλα εργαστήρια τεχνητής νοημοσύνης», δήλωσε στο BBC ο εκπρόσωπος της εταιρείας, Ντρου Πουζατέρι.
Όπως επισήμανε, η OpenAI έχει συνεργαστεί με τις αρχές της Καλιφόρνιας και έχει ήδη προχωρήσει σε ενέργειες για την κατανόηση και την αντιμετώπιση περιστατικών κατά τα οποία τα μοντέλα τεχνητής νοημοσύνης λειτουργούν με τρόπο διαφορετικό από αυτόν που προβλέπουν οι οδηγίες τους.
«Αντιμετωπίζουμε σοβαρά το ζήτημα και θα συνεχίσουμε να συνεργαζόμαστε εποικοδομητικά με το γραφείο του γενικού εισαγγελέα, ώστε να προωθήσουμε ισχυρά και πρακτικά πρότυπα ασφαλείας για ολόκληρο τον κλάδο», πρόσθεσε.
Η εταιρεία έχει επίσης δημοσιεύσει τεχνική έκθεση για την κυβερνοεπίθεση στη Hugging Face, αναγνωρίζοντας ότι το περιστατικό ανέδειξε σοβαρές αδυναμίες στους μηχανισμούς ελέγχου των προηγμένων συστημάτων τεχνητής νοημοσύνης.
Σύμφωνα με την OpenAI, μετά την επίθεση ενισχύθηκαν τα μέτρα προστασίας και η παρακολούθηση των πειραματικών μοντέλων.
Με πληροφορίες από BBC, Associated Press