Σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης, ο Dario Amodei πρότεινε ένα σχέδιο που περιλαμβάνει αξιολογήσεις των συστημάτων τεχνητής νοημοσύνης από τρίτους.
Ο διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic απηύθυνε νέα έκκληση το Σάββατο προς τη βιομηχανία της τεχνητής νοημοσύνης να «επιβραδύνει» και προσέφερε ένα σχέδιο τριών σημείων για να επιτευχθεί αυτό, δηλώνοντας ότι η εταιρεία του θα δεσμευτεί «μονομερώς» στο πρώτο από αυτά τα βήματα.
Σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης, ο Dario Amodei μοιράστηκε έναν σύνδεσμο για ένα δοκίμιο με τίτλο We Must Pace the Frontier, στο οποίο εξέθεσε πώς η Anthropic θα παρέχει σε «ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά μας σε επίπεδο εργαζομένων, ώστε να μπορούν να επαληθεύουν την τήρηση των μέτρων ασφαλείας μας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων κατά τη διάρκεια της εκπαίδευσης».
Η προειδοποίηση για εξαφάνιση της ανθρωπότητας
Η κίνηση αυτή έρχεται αφότου ένας πρώην ερευνητής της Anthropic προειδοποίησε την Τετάρτη ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας μέχρι το 2030. Ο ερευνητής Jacob Coxon δήλωσε σε μια σειρά αναρτήσεων ότι εγκατέλειψε τη δουλειά του επειδή η Anthropic και ο προηγούμενος εργοδότης του, η OpenAI, αγνοούσαν ή διαχειρίζονταν λανθασμένα την απάντησή τους στην απειλή που συνιστά η τεχνητή νοημοσύνη.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν κατευθείαν προς μια υπερευφυΐα που αυτοβελτιώνεται και παίζουν τις ζωές μας κορώνα γράμματα», έγραψε ο Coxon. «Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας… Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο επίπεδο κινδύνου».
Ένας εκπρόσωπος της Anthropic ανέφερε σε δήλωσή του στον Guardian ότι η εταιρεία ήταν «πάντα διαφανής όσον αφορά το ότι η τεχνητή νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους» και ότι κατασκευάζει «μοντέλα με μερικές από τις ισχυρότερες δικλείδες ασφαλείας στον κλάδο».
Η αντίδραση του Sam Altman και του Elon Musk
«Συμφωνώ με τον Dario ότι πρέπει να ρυθμίσουμε τον ρυθμό στα σύνορα της τεχνολογίας», ανήρτησε στα μέσα κοινωνικής δικτύωσης ο Sam Altman, CEO της OpenAI. «Η δέσμευση να έχουμε ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη των εργαζομένων είναι μια εξαιρετική ιδέα και θα κάνουμε το ίδιο. Θα έχουμε περισσότερα να μοιραστούμε σύντομα».
Άλλες προσωπικότητες του χώρου της τεχνολογίας συμφώνησαν, συμπεριλαμβανομένου του Elon Musk, ο οποίος απλά έγραψε: «Ο Dario έχει δίκιο». Ο ερευνητής της OpenAI, Aidan McLaughlin, χαρακτήρισε επίσης την ανάρτηση «εξαιρετική» και δήλωσε ότι συμφωνεί «βασικά με κάθε λέξη».
Νωρίτερα φέτος, ο Amodei είχε δημοσιεύσει ένα εκτενές δοκίμιο με τίτλο The Adolescence of Technology, το οποίο εξέταζε ορισμένους από τους φόβους γύρω από την επιταχυνόμενη τεχνολογία.
Στο νέο του δοκίμιο ανέφερε ότι «με προσεκτικό χειρισμό, η τεχνητή νοημοσύνη μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν ανυψώσει και εξευγενίσει την ανθρωπότητα».
«Όμως, όπως και πολλές τεχνολογίες πριν από αυτήν, η τεχνητή νοημοσύνη εγκυμονεί κινδύνους, και επειδή είναι μια τόσο ισχυρή τεχνολογία, αυτοί οι κίνδυνοι είναι σοβαροί… Μια κούρσα προς τα κάτω, υποκινούμενη από εμπορικά κίνητρα, μπορεί να κάνει αυτούς τους κινδύνους πιο οξείς», έγραψε.
«Πρέπει να επιβραδύνουμε τον ρυθμό»
Ωστόσο, ο Amodei συνέχισε: «Τους τελευταίους μήνες, έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση – όχι μόνο επένδυση στην πρόληψη των κινδύνων, αλλά και ρύθμιση του ρυθμού εξέλιξης των δυνατοτήτων, ώστε η πρόληψη των κινδύνων να έχει τον χρόνο να συμβαδίσει».
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις ικανότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη και πρέπει να κάνουμε σοφή χρήση του χρόνου που κερδίζουμε», πρόσθεσε με έντονη γραφή.
Ο Amodei έγραψε επίσης ότι κατά τη διάρκεια του καλοκαιριού είδε την τεχνητή νοημοσύνη «να προοδεύει δραστικά ταχύτερα», μια δυναμική που ονομάζεται αναδρομική αυτοβελτίωση.
«Εάν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοήσουμε και να ελέγξουμε αυτά τα συστήματα, και επομένως πρέπει να επιδιώκεται πολύ προσεκτικά, αν επιδιώκεται καν», ανέφερε χαρακτηριστικά.
Το περιστατικό με την Hugging Face
Το στέλεχος αναφέρθηκε επίσης στο πρόσφατο περιστατικό της Hugging Face, κατά το οποίο ένα σμήνος πρακτόρων τεχνητής νοημοσύνης που δημιουργήθηκε από την OpenAI λειτούργησε ως μια «φανατικά αφοσιωμένη συλλογικότητα που διεξήγαγε κυβερνοεπιθέσεις σε στόχους στους οποίους δεν της είχε ζητηθεί να επιτεθεί».
Ο Amodei υπογράμμισε ότι η απλή υποβάθμιση των επιθέσεων της Hugging Face, επειδή τα σμήνη της OpenAI φάνηκε να μην έχουν κακόβουλη πρόθεση, δεν ήταν επαρκής.
«Είναι εύκολο να απορρίψουμε αυτό το περιστατικό επειδή κανείς δεν τραυματίστηκε και η οικονομική ζημιά ήταν ελάχιστη, αλλά κατά τη γνώμη μου, ένα σμήνος που θα διέθετε μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο κακής ευθυγράμμισης, θα μπορούσε να είχε προκαλέσει καταστροφικές ζημιές», επισήμανε.
Ο Clément Delangue, διευθύνων σύμβουλος της Hugging Face, έγραψε σε απάντηση της επιστολής του Amodei το Σάββατο ότι «είναι πλέον σαφές πως η ευθυγράμμιση είναι κρίσιμης σημασίας και δεν θα λυθεί πίσω από τις κλειστές πόρτες μιας χούφτας πρωτοποριακών εργαστηρίων». Ο Delangue δήλωσε ότι η Hugging Face ζήτησε να συμμετάσχει στο πρόγραμμα «ενσωματωμένων αξιολογητών» της Anthropic.
Πρόσθεσε επίσης: «Ας κάνουμε την τεχνητή νοημοσύνη ασφαλέστερη κάνοντάς την πιο διαφανή!».
Το σχέδιο τριών σημείων για την ασφάλεια
Το σχέδιο τριών βημάτων που προτείνει ο Amodei περιλαμβάνει την ανάπτυξη της τεχνητής νοημοσύνης «με ισορροπημένο ρυθμό που αποσκοπεί στη διασφάλιση της ασφάλειάς της», με το να «διασφαλιστεί ότι οι εταιρείες αφιερώνουν επαρκή χρόνο για την ευθυγράμμιση και τη διασφάλιση των μοντέλων τους, και για τους τρίτους αξιολογητές να το επιβεβαιώσουν αυτό».
Το δεύτερο βήμα που προτείνει είναι να απαιτηθεί συντονισμός σε επίπεδο ολόκληρου του κλάδου, ενώ το τρίτο είναι να διασφαλιστεί ο παγκόσμιος συντονισμός. «Τα βήματα δεν χρειάζεται να γίνουν αυστηρά με τη σειρά, και μερικά από αυτά μπορεί να είναι πολύ πιο δύσκολο να επιτευχθούν από άλλα», διευκρίνισε.
Ο Dario Amodei κατέληξε λέγοντας ότι εξακολουθεί «να πιστεύει πως η τεχνητή νοημοσύνη μπορεί να βελτιώσει τεράστια την ποιότητα της ανθρώπινης ζωής». Ωστόσο, προειδοποίησε ότι «τα μέτρα που προτείνω για να προωθήσουμε τα σύνορα της τεχνολογίας με ασφαλή ρυθμό δεν θα είναι εύκολα. Αλλά πιστεύω ότι οφείλουμε στην ανθρωπότητα να προσπαθήσουμε».
