Πρόταση να υπάρχει ένα «φρένο έκτακτης ανάγκης» για τα προηγμένα συστήματα τεχνητής νοημοσύνης έκανε ο διευθύνων σύμβουλος της Microsoft, Satya Nadella, προειδοποιώντας ότι οι εταιρείες πρέπει να αντιμετωπίζουν ακόμη και τα ισχυρότερα μοντέλα AI ως δυνητικές απειλές για την ασφάλεια των ίδιων των συστημάτων τους. Η παρέμβασή του έρχεται σε μια περίοδο αυξανόμενης ανησυχίας για τη συμπεριφορά των λεγόμενων AI agents, οι οποίοι μπορούν να εκτελούν ενέργειες αυτόνομα, χωρίς να περιορίζονται στην παραγωγή απαντήσεων ή περιεχομένου.
Σε ανάρτησή του στο X το Σάββατο, ο Nadella υποστήριξε ότι οι επιχειρήσεις δεν πρέπει να αρκούνται στις διαβεβαιώσεις των κατασκευαστών σχετικά με την ασφάλεια των μοντέλων τους.
«Σκεφτείτε το σαν ένα φρένο έκτακτης ανάγκης. Ένα εξουσιοδοτημένο πρόσωπο πρέπει πάντα να μπορεί να διακόπτει προσωρινά ή οριστικά τη λειτουργία ενός μοντέλου ενώ αυτό εκτελεί μια εργασία».
«Πρέπει να περιβάλλουμε τα μη ντετερμινιστικά μοντέλα με ισχυρό, ντετερμινιστικό σχεδιασμό συστημάτων, ανθρώπινους μηχανισμούς ελέγχου και αξιόπιστες διαδικασίες λειτουργίας, καθώς και να θεσπίσουμε πρότυπα για ολόκληρο τον κλάδο, όπου τα υφιστάμενα δεν επαρκούν» είπε.
Οι προειδοποιήσεις του επικεφαλής της Microsoft αποκτούν ιδιαίτερη σημασία μετά τις πρόσφατες αποκαλύψεις για μη προβλεπόμενες ενέργειες συστημάτων τεχνητής νοημοσύνης.
