Μια αγελάδα μπορεί να δει τον άνθρωπο που την ταΐζει. Δεν μπορεί, όμως, να αντιληφθεί την τραπεζική συναλλαγή με την οποία αλλάζει ιδιοκτήτη.
Η ζωή της καθορίζεται από ένα σύστημα που παραμένει αόρατο για εκείνη. Κάπως έτσι ενδέχεται να είναι η δική μας σχέση με την τεχνητή νοημοσύνη, προειδοποιεί ο Γιούβαλ Νόα Χαράρι.
«Είμαστε οι αγελάδες του μέλλοντος», δηλώνει ο ιστορικός και συγγραφέας του «Sapiens», σε συνέντευξή του στον Ντάνιελ Σταχ, στην εκπομπή Hyde Park Civilizace της τσεχικής δημόσιας τηλεόρασης.
Η παρομοίωση περιγράφει τον κίνδυνο να συνεχίσουμε να ζούμε μέσα σε οικονομικά και νομικά συστήματα, έχοντας χάσει την ικανότητα να καταλαβαίνουμε πώς λειτουργούν — και ποιος αποφασίζει για εμάς.
Από το εργαλείο στον αυτόνομο παράγοντα
Στον πυρήνα της σκέψης του βρίσκεται μια διάκριση: οι προηγούμενες τεχνολογίες εκτελούσαν ανθρώπινες αποφάσεις. Η AI, υποστηρίζει, μπορεί να λαμβάνει αποφάσεις και να παράγει νέες ιδέες.
Ακόμη και η ατομική βόμβα, παρά την καταστροφική ισχύ της, δεν επιλέγει μόνη της εάν θα χρησιμοποιηθεί ή ποιος θα είναι ο στόχος της. Την απόφαση παίρνει άνθρωπος.
Αντίστοιχα, όπως έχει εξηγήσει σε συνέντευξή του στο Wired, η τυπογραφική μηχανή δεν γράφει βιβλία ούτε επιλέγει ποια θα τυπωθούν. Η τεχνητή νοημοσύνη μπορεί να δημιουργεί περιεχόμενο και να επιλέγει ποιες ιδέες θα διαδίδει. Γι’ αυτό ο Χαράρι την αντιμετωπίζει ως παράγοντα δράσης, με δυνατότητα να μεταβάλλει τον κόσμο χωρίς ανθρώπινη καθοδήγηση σε κάθε βήμα.
Η εξουσία περνά από τη γραφειοκρατία
Το ανησυχητικό σενάριό του δεν χρειάζεται στρατιές ρομπότ στους δρόμους. Περνά μέσα από τράπεζες, διοικητικούς μηχανισμούς και κανόνες.
Η προειδοποίησή του αφορά τον ορίζοντα των επόμενων δέκα ή είκοσι ετών: συστήματα που δημιουργεί η AI θα μπορούσαν να αποκτήσουν τέτοια πολυπλοκότητα, ώστε οι άνθρωποι να αδυνατούν να τα κατανοήσουν. Η εξάρτησή μας θα μεγάλωνε, ενώ η δυνατότητα παρέμβασής μας θα συρρικνωνόταν.
Ποιος λογοδοτεί για την απόφαση;
Σε παλαιότερη συνέντευξή του στο Vox, ο Χαράρι δίνει ένα καθημερινό παράδειγμα: ζητάς τραπεζικό δάνειο, απορρίπτεσαι και, όταν ρωτάς γιατί, κανείς δεν μπορεί να εξηγήσει την απόφαση του αλγορίθμου.
Για τον ίδιο, εκεί ανακύπτει πρόβλημα δημοκρατίας. Η λογοδοσία προϋποθέτει ότι μπορούμε να κατανοούμε και να αμφισβητούμε τις αποφάσεις που μας αφορούν.
Δεν παρουσιάζει αυτή την έκβαση ως αναπόφευκτη. Επιμένει ότι ο σχεδιασμός και ο έλεγχος των συστημάτων αποτελούν ακόμη ανθρώπινη ευθύνη. Η προειδοποίησή του, όμως, είναι σαφής: μπορεί να χάσουμε τον έλεγχο πολύ πριν αντιληφθούμε ότι δεν καταλαβαίνουμε πια τους κανόνες.
