Για χρόνια ήταν ο άνθρωπος που γκρέμιζε τους ισχυρισμούς της για την Τεχνητή Νοημοσύνη. Όταν άλλοι προειδοποιούσαν ότι η AI θα μπορούσε να γίνει επικίνδυνη, εκείνος ζητούσε αποδείξεις. Όταν εταιρείες μιλούσαν για επαναστατικές δυνατότητες, εκείνος αναζητούσε τα όριά τους.
Γι’ αυτό και όταν ο Νίκολας Καρλίνι άρχισε να προειδοποιεί ότι τα νέα μοντέλα τεχνητής νοημοσύνης μπορούν να εντοπίζουν και να εκμεταλλεύονται ευπάθειες σε κρίσιμα συστήματα καλύτερα από τους ανθρώπους, η κοινότητα της κυβερνοασφάλειας τον άκουσε με προσοχή. Λίγους μήνες αργότερα, τον άκουσε και ο Λευκός Οίκος.
Σύμφωνα με ρεπορτάζ της Wall Street Journal, ο 35χρονος ερευνητής της Anthropic θεωρούνταν επί χρόνια ο «επαγγελματίας σκεπτικιστής» της βιομηχανίας. Ως ερευνητής στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ και αργότερα στη Google, έγινε γνωστός επειδή αποκάλυπτε αδυναμίες στα συστήματα τεχνητής νοημοσύνης και αμφισβητούσε συστηματικά τους πιο εντυπωσιακούς ισχυρισμούς των εταιρειών για τις δυνατότητες μοντέλων ΑΙ.
Το 2019 είχε μάλιστα επικρίνει την OpenAI όταν υποστήριζε ότι το GPT-2 ήταν ίσως υπερβολικά επικίνδυνο για δημόσια διάθεση. Η αλλαγή στάσης του ήρθε όταν απέκτησε πρόσβαση στο Mythos, το νέο μοντέλο της Anthropic. Σε παρουσίαση που πραγματοποίησε τον Μάρτιο στο Σαν Φρανσίσκο, έδειξε πώς κατάφερε να εντοπίσει κρίσιμες ευπάθειες στο Ghost, μια δημοφιλή πλατφόρμα δημοσίευσης περιεχομένου, αλλά και στον πυρήνα του Linux, ενός από τα πιο ελεγμένα και διαδεδομένα λογισμικά στον κόσμο.
Το εντυπωσιακό ήταν ότι ο ίδιος δεν είχε ποτέ στο παρελθόν εντοπίσει τέτοιες ευπάθειες στα συγκεκριμένα συστήματα. «Είναι πλέον ξεκάθαρο για μένα ότι αυτά τα μοντέλα είναι καλύτεροι ερευνητές ευπαθειών από ό,τι είμαι εγώ», δήλωσε.
Η γέννηση του «Bugmageddon»
Δύο ημέρες μετά την παρουσίασή του, ο Καρλίνι έστειλε εσωτερικό μήνυμα στους συναδέλφους του στην Anthropic. «Δεν νομίζω ότι πρέπει ακόμη να κυκλοφορήσουμε το Mythos», έγραφε.
Η προειδοποίηση αυτή σηματοδότησε την αρχή αυτού που πολλοί ειδικοί αποκαλούν πλέον «Bugmageddon» — μια νέα εποχή κατά την οποία η αναζήτηση ευπαθειών και η δημιουργία κώδικα εκμετάλλευσής τους γίνεται δραματικά πιο εύκολη χάρη στην Τεχνητή Νοημοσύνη.
Σύμφωνα με την Anthropic, το Mythos έχει ήδη βοηθήσει στον εντοπισμό περισσότερων από 10.000 σφαλμάτων και ευπαθειών σε λογισμικό.
Το μεγαλύτερο άγχος των ειδικών δεν είναι η ανακάλυψη των προβλημάτων, αλλά η δυνατότητα των μοντέλων να δημιουργούν αυτόματα «exploit code» — κώδικα που μπορεί να χρησιμοποιηθεί για επιθέσεις σε συστήματα.
Η σύγκρουση με τον Λευκό Οίκο
Οι ανησυχίες κορυφώθηκαν την περασμένη εβδομάδα, όταν η κυβέρνηση Τραμπ αποφάσισε να απαγορεύσει προσωρινά τη χρήση των μοντέλων Mythos 5 και Fable 5 από ξένες κυβερνήσεις, εταιρείες και ιδιώτες.
Αφορμή αποτέλεσαν αναφορές ότι τα μοντέλα μπορούσαν να καθοδηγήσουν χρήστες στην αναζήτηση ευπαθειών που θα έπρεπε θεωρητικά να μην αποκαλύπτουν.
Σύμφωνα με τη WSJ, η εξέλιξη οδήγησε σε έντονες διαβουλεύσεις μεταξύ της Anthropic και του Λευκού Οίκου, με τον Καρλίνι να μεταβαίνει στην Ουάσιγκτον ως μέλος της ομάδας που προσπαθεί να πείσει την κυβέρνηση ότι οι δικλείδες ασφαλείας λειτουργούν και ότι η τεχνολογία δεν πρέπει να παραμείνει κλειδωμένη.
Το παράδοξο είναι προφανές: ο άνθρωπος που πρώτος σήμανε συναγερμό για τις δυνατότητες του μοντέλου βρέθηκε στη συνέχεια να εξηγεί γιατί η κυκλοφορία του μπορεί να γίνει με ασφάλεια.
Το νέο πεδίο μάχης
Η υπόθεση αναδεικνύει ένα νέο πρόβλημα που μέχρι πριν από λίγα χρόνια έμοιαζε θεωρητικό. Οι μεγάλες τράπεζες, οι επιχειρήσεις κοινής ωφέλειας, οι τηλεπικοινωνιακοί πάροχοι και χιλιάδες εταιρείες βασίζονται σε παλαιό λογισμικό, μεγάλο μέρος του οποίου δεν έχει εξεταστεί ποτέ με την ένταση που μπορεί πλέον να προσφέρει ένα σύγχρονο μοντέλο AI.
Η Τεχνητή Νοημοσύνη μπορεί να λειτουργήσει ως εργαλείο άμυνας, εντοπίζοντας προβλήματα πριν τα εκμεταλλευτούν οι εγκληματίες. Μπορεί όμως να λειτουργήσει και ως πολλαπλασιαστής ισχύος για τους επιτιθέμενους.
Και αυτός είναι ο λόγος που η συζήτηση γύρω από την AI έχει μετακινηθεί από τα ερωτήματα για την παραγωγικότητα και την αυτοματοποίηση σε κάτι πολύ πιο θεμελιώδες: αν οι μηχανές αρχίζουν να γίνονται καλύτερες από τους ανθρώπους στην ανακάλυψη των αδυναμιών πάνω στις οποίες στηρίζεται ο ψηφιακός κόσμος.
