Την ανάγκη να δημιουργηθεί «διακόπτης έκτακτης ανάγκης» για την τεχνητή νοημοσύνη, σε μια δυνατότητα και λειτουργία που θα ελέγχονται από ανεξάρτητο τρίτο φορέα, επισημαίνει στέλεχος από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο.
Πρόκειται για τον Τζακ Κλαρκ, έναν από τους επτά ιδρυτές της Anthropic. Ο Κλαρκ δηλώνει στο ΒΒC, ότι η ύπαρξη ενός τρόπου πλήρους απενεργοποίησης του λογισμικού τεχνητής νοημοσύνης, εάν αυτή γίνει υπερβολικά επικίνδυνο, είναι ένα ζήτημα για το οποίο η κοινωνία «ενδέχεται τελικά να θελήσει να θεσπίσει κανόνες» και μια τέτοια ρύθμιση ίσως καταστεί υποχρεωτική για τις εταιρείες,
Στον απόηχο επίμονων πληροφοριών και ενδείξεων για δυνητικά επικίνδυνες τάσεις αυτονόμησης της ΑΙ, ο Κλαρκ δηλώνει είπε ότι «τα περισσότερα εργαστήρια διαθέτουν διάφορους τρόπους για να τραβήξουν την πρίζα», συμπεριλαμβανομένης της Anthropic. Αλλά πρόσθεσε ότι η ύπαρξη ενός τέτοιου μηχανισμού, ίσως πρέπει να καταστεί υποχρεωτική.
Η ταχεία ανάπτυξη της τεχνητής νοημοσύνης και οι φόβοι σχετικά με τους κινδύνους που ενδέχεται να εγκυμονεί νέα η τεχνολογία για την ανθρωπότητα έχουν βρεθεί στο επίκεντρο, έπειτα από μια σειρά προειδοποιήσεων στελεχών και εργαζομένων εταιρειών τεχνητής νοημοσύνης.
Οι πιο σκληρές από τις προειδοποιήσεις αυτές, λένε δημοσίως ότι η συγκεκριμένη τεχνολογία, εάν αφεθεί ανεξέλεγκτη, μπορεί να οδηγήσει ακόνη και στον αφανισμό του ανθρώπινου είδους.
Το περασμένο Σάββατο, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, ζήτησε επιβράδυνση και στενότερη παρακολούθηση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης. Δεν διευκρίνισε πώς ακριβώς θα μπορούσε να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης και τόνισε ότι η οποιαδήποτε ενέργεια περιορισμού της, πρέπει να πραγματοποιηθεί «χωρίς να θυσιαστεί το εμπορικό πλεονέκτημα».
Mιλώντας στο BBC, ο Κλαρκ διερωτήθηκε:
«Θα πρέπει να επιβάλλεται στις εταιρείες να διαθέτουν οπωσδήποτε έναν διακόπτη έκτακτης ανάγκης; Θα πρέπει η λειτουργία αυτού του διακόπτη να μπορεί να επαληθεύεται από τρίτο φορέα;»
Την απάντηση την δίδει ο ίδιος:
«Νομίζω ότι αυτό είναι το είδος του ζητήματος για το οποίο η κοινωνία θα θελήσει να ενημερωθεί και ενδέχεται τελικά να θελήσει να θεσπίσει κανόνες».
Παίζουμε ζάρια με επικίνδυνα πράγματα
Και καταλήγηγει: «Παίζουμε ζάρια, διακινδυνεύοντας τεράστια πράγματα. Το θέμα είναι ότι πρέπει να αλλάξουμε την πορεία αυτού του κλάδου».
Η Anthropic, η οποία ιδρύθηκε το 2021 από μια ομάδα πρώην εργαζομένων της ανταγωνίστριάς της, OpenAI, βρίσκεται σήμερα στο επίκεντρο της συζήτησης για την ασφάλεια της τεχνητής νοημοσύνης.
Την περασμένη εβδομάδα έγινε ευρέως γνωστή στο διαδίκτυο η ανάρτηση ενός ερευνητή τεχνητής νοημοσύνης, ο οποίος αποχώρησε από την Anthropic εξαιτίας των ανησυχιών του ότι η τεχνητή νοημοσύνη θα μπορούσε να αφανίσει την ανθρωπότητα.
Προς επίρρωση του επιχειρήματος αυτού, έτερος επιστήμονας της Anthropic (Έβαν Χούμπινγκερ) δήλωσε ότι, κατά την προσωπική του εκτίμηση, η πιθανότητα εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης είναι «μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία».
Επθιπλέον, ο βραβευμένος με Νόμπελ Τζέφρι Χίντον, γνωστός ως ο «νονός της τεχνητής νοημοσύνης», δήλωσε στο BBC την Παρασκευή ότι μια πιθανότητα 10% η τεχνητή νοημοσύνη να αφανίσει όλους τους ανθρώπους «δεν είναι παράλογη».
