Ένα από τα πιο εξέχοντα στελέχη της βιομηχανίας ΑΙ καταθέτει τις ανησυχίες του για το παρόν και μέλλον της ανθρωπότητας στο νέο τεχνολογικό περιβάλλον που διαμορφώνεται.
Η ανθρωπότητα εισέρχεται σε μια φάση ανάπτυξης της τεχνητής νοημοσύνης που θα «δοκιμάσει το ποιοι είμαστε ως είδος», δήλωσε ο επικεφαλής της δυναμικά ανερχόμενης νεοφυούς εταιρείας τεχνητής νοημοσύνης Anthropic υποστηρίζοντας ότι ο κόσμος πρέπει να «ξυπνήσει» απέναντι στους κινδύνους.
Ο Ντάριο Αμοντέι συνιδρυτής και διευθύνων σύμβουλος της εταιρείας πίσω από το δημοφιλές chatbot Claude εξέφρασε τους φόβους του σε ένα δοκίμιο 19,000 λέξεων με τίτλο «Η εφηβεία της τεχνολογίας».
Περιγράφοντας την άφιξη εξαιρετικά ισχυρών συστημάτων τεχνητής νοημοσύνης ως πιθανώς άμεση, έγραψε: «Πιστεύω ότι εισερχόμαστε σε μια τελετή μετάβασης, ταραχώδη αλλά αναπόφευκτη, η οποία θα δοκιμάσει το ποιοι είμαστε ως είδος». Ο Αμοντέι πρόσθεσε: «Η ανθρωπότητα πρόκειται να λάβει μια σχεδόν αδιανόητη δύναμη και είναι βαθιά ασαφές αν τα κοινωνικά, πολιτικά και τεχνολογικά μας συστήματα διαθέτουν την ωριμότητα για να τη διαχειριστούν».
Ο επιχειρηματίας της τεχνολογίας, του οποίου η εταιρεία φέρεται να αποτιμάται στα 350 δισεκατομμύρια δολάρια, δήλωσε ότι το δοκίμιό του ήταν μια προσπάθεια να «ταρακουνήσει τον κόσμο» καθώς υπάρχει ανάγκη να «ξυπνήσουμε» απέναντι στην ανάγκη δράσης για την ασφάλεια της τεχνητής νοημοσύνης.
Ο Αμοντέι δημοσίευσε το κείμενο καθώς η βρετανική κυβέρνηση ανακοίνωσε ότι η Anthropic θα βοηθήσει στη δημιουργία chatbots που θα υποστηρίζουν άτομα που αναζητούν εργασία, προσφέροντας επαγγελματικές συμβουλές και βοήθεια στην εύρεση δουλειάς, στο πλαίσιο της ανάπτυξης ενός βοηθού τεχνητής νοημοσύνης για τις δημόσιες υπηρεσίες γενικότερα. Την προηγούμενη εβδομάδα, η εταιρεία δημοσίευσε ένα κείμενο 80 σελίδων που χαρακτήρισε ως «σύνταγμα» για το Claude, στο οποίο περιέγραφε πώς επιδιώκει να καταστήσει την τεχνητή της νοημοσύνη «γενικά ασφαλή και γενικά ηθική».
Ο Αμοντέι συνίδρυσε την Anthropic το 2021 μαζί με άλλα πρώην στελέχη της OpenAI, της εταιρείας που ανέπτυξε το ChatGPT. Θεωρείται εξέχουσα φωνή υπέρ της διαδικτυακής ασφάλειας και είναι γνωστός για τις συνεχείς προειδοποιήσεις του σχετικά με τους κινδύνους της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης. Έγραψε ότι ο κόσμος βρισκόταν «σημαντικά πιο κοντά σε πραγματικό κίνδυνο» το 2026 απ’ ό,τι το 2023, όταν η συζήτηση για τον υπαρξιακό κίνδυνο της τεχνητής νοημοσύνης ανέβηκε στην κορυφή της πολιτικής ατζέντας.
Αναφέρθηκε επίσης στη διαμάχη γύρω από πορνογραφικά deepfakes που δημιουργήθηκαν από το σύστημα Grok AI της εταιρείας τεχνητής νοημοσύνης του Ελον Μασκ και πλημμύρισαν την πλατφόρμα κοινωνικής δικτύωσης X τα Χριστούγεννα και την Πρωτοχρονιά, συμπεριλαμβανομένων προειδοποιήσεων ότι το chatbot παρήγαγε υλικό σεξουαλικής κακοποίησης παιδιών.
«Ορισμένες εταιρείες τεχνητής νοημοσύνης έχουν δείξει μια ανησυχητική αμέλεια απέναντι στη σεξουαλικοποίηση παιδιών στα σημερινά μοντέλα, γεγονός που με κάνει να αμφιβάλλω αν θα δείξουν είτε τη διάθεση είτε την ικανότητα να αντιμετωπίσουν κινδύνους αυτονομίας σε μελλοντικά μοντέλα» λέει ο Αμοντέι.
Το Νόμπελ
Ο διευθύνων σύμβουλος της Anthropic εκτιμά ότι ισχυρά συστήματα τεχνητής νοημοσύνης τα οποία θα μπορούσαν να κατασκευάζουν αυτόνομα τα δικά τους συστήματα ενδέχεται να απέχουν μόλις ένα έως δύο χρόνια.
Όρισε την «ισχυρή τεχνητή νοημοσύνη» ως ένα μοντέλο πιο έξυπνο από έναν βραβευμένο με Νόμπελ σε τομείς όπως η βιολογία, τα μαθηματικά, η μηχανική και η συγγραφή. Ένα τέτοιο σύστημα θα μπορούσε να δίνει ή να λαμβάνει οδηγίες από ανθρώπους και, παρότι «ζει» σε μια οθόνη υπολογιστή, θα μπορούσε να ελέγχει ρομπότ και ακόμη και να τα σχεδιάζει για δική του χρήση.
Παρότι αναγνώρισε ότι τα ισχυρά συστήματα τεχνητής νοημοσύνης μπορεί να βρίσκονται «σημαντικά πιο μακριά χρονικά» από το πλαίσιο των δύο ετών, ο Αμοντέι είπε ότι η πρόσφατη ταχεία πρόοδος της τεχνολογίας πρέπει να ληφθεί σοβαρά υπόψη. «Αν η εκθετική εξέλιξη συνεχιστεί, κάτι που δεν είναι βέβαιο αλλά πλέον υποστηρίζεται από ένα ιστορικό δέκα ετών, τότε δεν είναι δυνατόν να περάσουν περισσότερα από λίγα χρόνια πριν η τεχνητή νοημοσύνη γίνει καλύτερη από τους ανθρώπους σχεδόν σε όλα» έγραψε.
Πέρυσι ο Αμοντέι είχε προειδοποιήσει ότι η τεχνητή νοημοσύνη θα μπορούσε να μειώσει στο μισό τις θέσεις εργασίας εισαγωγικού επιπέδου σε λευκά κολάρα και να εκτοξεύσει τη συνολική ανεργία στο 20% μέσα στα επόμενα πέντε χρόνια. Στο δοκίμιό του ο Αμοντέι προειδοποίησε ότι το οικονομικό όφελος από την τεχνητή νοημοσύνη, όπως τα κέρδη παραγωγικότητας από την κατάργηση θέσεων εργασίας, θα μπορούσε να είναι τόσο μεγάλο ώστε κανείς να μη θελήσει να πατήσει φρένο.
«Αυτή είναι η παγίδα: η τεχνητή νοημοσύνη είναι τόσο ισχυρή, ένα τόσο λαμπερό έπαθλο, ώστε είναι εξαιρετικά δύσκολο για τον ανθρώπινο πολιτισμό να της επιβάλει οποιουσδήποτε περιορισμούς» λέει ο Αμοντέι ωστόσο δήλωσε αισιόδοξος για μια θετική κατάληξη. «Πιστεύω ότι αν δράσουμε αποφασιστικά και προσεκτικά οι κίνδυνοι μπορούν να ξεπεραστούν, θα έλεγα μάλιστα ότι οι πιθανότητές μας είναι καλές. Και στην άλλη πλευρά υπάρχει ένας κόσμος απείρως καλύτερος. Αλλά πρέπει να κατανοήσουμε ότι πρόκειται για μια σοβαρή πρόκληση για τον ίδιο τον πολιτισμό μας».
