Ο επικεφαλής της Microsoft, Σάτια Ναντέλα δήλωσε ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης να σχεδιάζονται με μηχανισμούς περιορισμού, ανεξάρτητους ελέγχους και ένα «φρένο έκτακτης ανάγκης», το οποίο θα επιτρέπει σε εξουσιοδοτημένα άτομα να διακόπτουν προσωρινά ή να απενεργοποιούν ένα μοντέλο ενώ αυτό εκτελεί μια εργασία.
«Πρέπει να περιβάλλουμε τα μη ντετερμινιστικά μοντέλα με ισχυρό, ντετερμινιστικό σχεδιασμό συστημάτων, ανθρώπινους μηχανισμούς ελέγχου και αξιόπιστες διαδικασίες λειτουργίας, καθώς και να θεσπίσουμε πρότυπα για ολόκληρο τον κλάδο, όπου τα υφιστάμενα δεν επαρκούν, έγραψε ο Ναντέλα σε ανάρτησή του στην πλατφόρμα κοινωνικής δικτύωσης X.
«Η αντιμετώπιση των πλέον προηγμένων μοντέλων, είτε είναι κλειστά είτε διαθέτουν ανοικτά βάρη, ως εσωτερικών απειλών αποτελεί έναν τρόπο για να οικοδομήσουμε ένα τέτοιο σύστημα» ανέφερε. Οι δηλώσεις του Ναντέλα έρχονται εν μέσω προειδοποιήσεων από κορυφαία στελέχη της τεχνολογίας και ερευνητές μεταξύ των οποίων ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ο επικεφαλής της OpenAI, Σαμ Άλτμαν, και ο διευθύνων σύμβουλος της SpaceX, Έλον Μασκ σχετικά με την ανεπάρκεια των πρωτοκόλλων ασφαλείας για την τεχνητή νοημοσύνη και τις ανησυχίες ότι η τεχνολογία εξελίσσεται υπερβολικά γρήγορα.
Τον περασμένο μήνα, ένας ερευνητής τεχνητής νοημοσύνης παραιτήθηκε από την Anthropic, κατηγορώντας την εταιρεία και τον βασικό ανταγωνιστή της, την OpenAI ότι «παίζουν τη ζωή μας στα ζάρια». Αργότερα την ίδια ημέρα ένα στέλεχος της Anthropic που ηγείται της έρευνας για την ευθυγράμμιση της τεχνητής νοημοσύνης με τις ανθρώπινες αξίες και την ασφάλεια δήλωσε ότι υπάρχει πιθανότητα άνω του 10% η τεχνολογία να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Αντίθετα ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει επανειλημμένα απορρίψει τους κινδύνους εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης υπογραμμίζοντας αντ’ αυτού ότι ο κλάδος πρέπει να διατηρήσει το προβάδισμά του έναντι της Κίνας. Πρόσφατα, ο Τραμπ ανακοίνωσε επίσης τη δημιουργία μιας νέας «Δύναμης Τεχνητής Νοημοσύνης» (AI Force) (στα πρότυπα της Διαστημικής Δύναμης των ΗΠΑ) υπό την ηγεσία του διευθυντή της Εθνικής Υπηρεσίας Πληροφοριών Τζέι Κλέιτον με στόχο τη διευκόλυνση της λειτουργίας του κλάδου και τον εντοπισμό κακόβουλων παραγόντων.
Στην ανάρτηση του ο Ναντέλα έγραψε ότι τα συστήματα τεχνητής νοημοσύνης πρέπει να σχεδιάζονται με βάση τις «αρχές της παρατηρησιμότητας». Σύμφωνα με τον ίδιο, αυτές περιλαμβάνουν την ποικιλομορφία των μοντέλων, την καταγραφή των ενεργειών τους με τρόπο κατανοητό από τον άνθρωπο, τις συνεχείς δοκιμές των συστημάτων, τους ανεξάρτητους ελέγχους και τη δυνατότητα ελέγχου των ενεργειών τους, τους μηχανισμούς περιορισμού, καθώς και την υποχρέωση γνωστοποίησης περιστατικών.
«Το πιο αξιόπιστο σύστημα Υπερνοημοσύνης δεν θα είναι εκείνο του οποίου το μοντέλο εμπιστευόμαστε περισσότερο. Θα είναι εκείνο που μας επιτρέπει να εμπιστευόμαστε το μοντέλο όσο το δυνατόν λιγότερο» λέει ο επικεφαλής της Microsoft.
