Οι προειδοποιήσεις για το τι θα μπορούσε να κάνει η τεχνητή νοημοσύνη στο μέλλον μαζί με τις ανησυχητικές αναφορές για όσα έχει ήδη καταφέρει κάνουν την εμφάνιση τους τόσο γρήγορα ώστε ακόμη και οι ειδικοί στην ασφάλεια δυσκολεύονται να αξιολογήσουν ποιες απειλές πρέπει να τους ανησυχούν περισσότερο.
Την προσοχή έχει συγκεντρώσει η αποκάλυψη μιας ομάδας έρευνας της Anthropic που κάνει λόγο για μια νέα ψηφιακή απειλή. Η «κόκκινη ομάδα» (red team) της Anthropic, όπως αποκαλούνται οι εσωτερικές ομάδες δοκιμών ασφαλείας, ανέφερε ότι δημιούργησε ένα κακόβουλο πρόγραμμα τεχνητής νοημοσύνης που εξαπλωνόταν αυτόνομα μέσω «έξυπνων» τηλεοράσεων συνδεδεμένων στο διαδίκτυο και θα μπορούσε να κάνει το ίδιο και σε άλλες συνηθισμένες συσκευές.
Ενώ οι μηχανές που εκτελούν συστήματα τεχνητής νοημοσύνης απαιτούν συνήθως σημαντική υπολογιστική ισχύ οι ερευνητές δήλωσαν ότι το πρόγραμμά τους διαμοίρασε τμήματα του εαυτού του σε 15 «έξυπνες» τηλεοράσεις (με σύνδεση στο Διαδίκτυο) και εξακολουθούσε να λειτουργεί αξιοποιώντας ένα μικρό μέρος της υπολογιστικής ισχύος καθεμιάς.
Πέρα από τους συνειρμούς με τα πεμπτουσιωμένα αντικείμενα (horcruxes) του σύμπαντος του Χάρι Πότερ στα οποία ο Λόρδος Βόλντεμορτ είχε κρύψει τμήματα της ψυχής του για να παραμείνει ζωντανός η έκθεση προκάλεσε ανησυχία σε ορισμένους επαγγελματίες του κλάδου. Ο λόγος είναι ότι η γενικά ανεπαρκής ασφάλεια των έξυπνων τηλεοράσεων και πολλών άλλων συσκευών του «Διαδικτύου των Πραγμάτων» (Internet of Things – IoT) θα ήταν εξαιρετικά δύσκολο να διορθωθεί, ακόμη και με συντονισμένη προσπάθεια.
«Είναι κάτι για το οποίο πρέπει να ανησυχούμε, όπως ακριβώς και για κάθε άλλο κύμα κυβερνοεπιθέσεων. Πρέπει να περιορίσουμε τις πιθανές επιπτώσεις», δήλωσε ο Τζόσουα Σαξ, ο οποίος ηγήθηκε της ανάπτυξης της πρωτοβουλίας της Metα για την ασφάλεια της τεχνητής νοημοσύνης. «Ανησυχώ ότι αυτή τη στιγμή οι άνθρωποι στην κοινότητα της κυβερνοασφάλειας δεν αντιμετωπίζουν αυτούς τους πραγματικούς κινδύνους με τη σοβαρότητα που θα έπρεπε».
Τα ιντερνετικά… σκουλήκια
Οι ζημιές που θα μπορούσαν να προκαλέσουν τέτοιοι «ιοί τεχνητής νοημοσύνης» (AI worms) ενδέχεται να είναι ασύλληπτα μεγάλες. Οι αυτοαναπαραγόμενοι ιοί υπολογιστών οι οποίοι δεν χρειάζεται να εξαπατήσουν κάποιον άνθρωπο για να εξαπλωθούν έχουν προκαλέσει μερικές από τις μεγαλύτερες καταστροφές στην ιστορία του Διαδικτύου.
O ιός Morris του 1988 εμφανίστηκε πριν από την εξάπλωση του Διαδικτύου στους καταναλωτές. Τότε ένας μεταπτυχιακός φοιτητής κυκλοφόρησε ένα πρόγραμμα που εκμεταλλευόταν διάφορα ελαττώματα λογισμικού και αδύναμους κωδικούς πρόσβασης. Το πρόγραμμα αντέγραφε τον εαυτό του τόσο γρήγορα ώστε πολλοί μολυσμένοι υπολογιστές επιβραδύνθηκαν σε τέτοιο βαθμό που ουσιαστικά σταμάτησαν να λειτουργούν.
Οι ΗΠΑ και το Ισραήλ εισήγαγαν τα σκουλήκια υπολογιστών στη διεθνή κατασκοπεία στα τέλη της δεκαετίας του 2000, με το εξελιγμένο και δυσδιάκριτο Stuxnet, το οποίο σαμποτάρισε τις φυγόκεντρους εμπλουτισμού ουρανίου του Ιράν. Άλλα σκουλήκια όπως το ρωσικής προέλευσης NotPetya και το WannaCry που αποδίδεται στη Βόρεια Κορέα έχουν προκαλέσει παγκοσμίως ζημιές δεκάδων δισεκατομμυρίων δολαρίων.
Πολλά από τα πιο καταστροφικά σκουλήκια υπολογιστών στον κόσμο βασίστηκαν σε γνωστά κενά ασφαλείας, τα οποία οι ιδιοκτήτες των συσκευών δεν είχαν διορθώσει, ακόμη και μήνες μετά τη διάθεση των σχετικών ενημερώσεων ασφαλείας.
Η επιβίωση
Η ομάδα της Anthropic προέβλεψε ότι ένα σκουλήκι σαν αυτό που δημιούργησε θα μπορούσε να λειτουργεί με τον ίδιο τρόπο, αλλά θα ήταν δυσκολότερο να σταματήσει, επειδή οι έξυπνες συσκευές λαμβάνουν ενημερώσεις ασφαλείας λιγότερο συχνά από ό,τι τα κινητά τηλέφωνα ή οι φορητοί υπολογιστές. Ακόμη χειρότερα οι ερευνητές υπέθεσαν ότι ένα σκουλήκι τεχνητής νοημοσύνης θα μπορούσε να συνεχίσει να προσαρμόζεται σε άλλους τύπους υλικού αναζητώντας νέα κενά ασφαλείας μόλις αυτά δημοσιοποιούνται.
Αυτό που διαφοροποιεί τα σκουλήκια τεχνητής νοημοσύνης από τους συνηθισμένους αυτοαναπαραγόμενους ιούς είναι ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να μαθαίνουν καθώς λειτουργούν δήλωσε ο Άριελ Χέρμπερτ-Βος, ένας από τους κορυφαίους ειδικούς σε θέματα ασφάλειας προερχόμενος από την OpenAI που σήμερα διευθύνει τη νεοφυή εταιρεία κυβερνοασφάλειας RunSybil.
Οι υφιστάμενες υποδομές κυβερνοασφάλειας δεν είναι έτοιμες για την εξάπλωση τέτοιων απειλών λέει ο Χέρμπερτ-Βος. «Πρέπει να ενισχύσουμε τις δυνατότητες των ομάδων ασφαλείας μας. Πρέπει να τους παρέχουμε περισσότερους πόρους για να διορθώνουν τα προβλήματα».
Τα σκουλήκια θα μπορούσαν, ωστόσο, να χρησιμοποιηθούν και για επωφελείς σκοπούς, υποστήριξε ο Κρις Ίνγκλις, πρώην αναπληρωτής διευθυντής της Υπηρεσίας Εθνικής Ασφάλειας των ΗΠΑ (NSA) ο οποίος διετέλεσε Εθνικός Διευθυντής Κυβερνοασφάλειας στον Λευκό Οίκο επί προεδρίας Τζο Μπάιντεν.
«Το ερώτημα αν τα σκουλήκια τεχνητής νοημοσύνης είναι εφικτά έχει ήδη απαντηθεί από αρκετά σημαντικά τεχνολογικά επιτεύγματα τους τελευταίους έξι μήνες. Το ουσιαστικότερο ερώτημα είναι πώς θα τα αξιοποιήσουμε, πώς θα τα αντιμετωπίσουμε ή/και πώς θα τα συνδυάσουμε με άλλες αναδυόμενες τεχνολογίες» λέει ο Ινγκλς.
Οι ερευνητές της Anthropic δήλωσαν ότι για να πετύχει ένα σκουλήκι τεχνητής νοημοσύνης θα πρέπει να διαθέτει περισσότερες δυνατότητες λειτουργίας σε συσκευές χαμηλότερης υπολογιστικής ισχύος από όσες είναι σήμερα εφικτές. Πρόσθεσαν ωστόσο, ότι οι τρέχουσες τεχνολογικές εξελίξεις θα καταστήσουν κάτι τέτοιο εφικτό έως το τέλος του έτους.
Η έρευνά τους ακολουθεί μια επιστημονική δημοσίευση που έδωσαν στη δημοσιότητα ειδικοί του Πανεπιστημίου του Τορόντο πριν από μερικούς μήνες. Σε εκείνη την έρευνα ένα σκουλήκι μόλυνε έναν υπολογιστή πλήρους μεγέθους και μπορούσε να εξαπλωθεί σε παρόμοια μηχανήματα ταχύτερα από το σκουλήκι που δοκιμάστηκε στις τηλεοράσεις.
«Οι δυνατότητες αναπτύσσονται με εξαιρετικά γρήγορους ρυθμούς» δήλωσε ο συν-συγγραφέας της μελέτης και υποψήφιος διδάκτορας στο Πανεπιστήμιο του Τορόντο Τζόνας Γκουάν.
