Ένας αγρότης από το Chizhou της Κίνας, εδώ και μήνες είχε αρχίσει να ακολουθεί τις συμβουλές της τεχνητής νοημοσύνης, οι οποίες αρχικά έμοιαζαν να λειτουργούν. Όμως οι τελευταίες αλληλεπιδράσεις του μαζί της οδήγησαν στον θάνατο 100 στρεμμάτων καλλιεργιών. Σύμφωνα με την ταϊβανέζικη ιστοσελίδα CTWANT, ο 67χρονος αγρότης ήταν αρχικά πολύ επιφυλακτικός με την τεχνητή νοημοσύνη, αλλά σύντομα άλλαξε γνώμη όταν είδε πως κάποιες από τις συμβουλές της απέδιδαν. Η τυφλή εμπιστοσύνη, όμως, έφερε την ολοκληρωτική καταστροφή σε 100 στρέμματα δενδρυλλίων σουσαμιού, που αποτελούσαν ολόκληρη την καλλιέργειά του.
Πώς η συμβουλή του chatbot κατέστρεψε την καλλιέργεια
O Wu, ο αγρότης της ιστορίας, ζήτησε από την τεχνητή νοημοσύνη συμβουλές για τον έλεγχο των ζιζανίων και των παρασίτων. Η τεχνητή νοημοσύνη του πρότεινε να χρησιμοποιήσει «υψηλής απόδοσης φλουπυριμεθαλίνη» και «flusulfasulfaether» για την εξόντωση των ζιζανίων, αναμιγνύοντάς τα με «θειαμεθοξαζίνη» και «μεθυλικό άλας». Όμως, ο αγρότης δεν ζήτησε τη συμβουλή ειδικών για να επιβεβαιώσει τις πληροφορίες της τεχνητής νοημοσύνης και ήρθε αντιμέτωπος με την απόλυτη καταστροφή.
Τα δυσάρεστα αποτελέσματα φάνηκαν από την επόμενη κιόλας ημέρα. Μπορεί τα ζιζάνια να πέθαναν, αλλά μαζί με αυτά ξεράθηκαν και τα σπορόφυτα σουσαμιού. «Αν το ψεκάσετε, την επόμενη μέρα τα σπορόφυτα δεν θα επιβιώσουν», δήλωσε ο Wu σε βιντεοσκοπημένη συνέντευξή του. «Τόσο το γρασίδι όσο και τα σπορόφυτα πεθαίνουν, και τα σπορόφυτα πεθαίνουν ακόμη πιο γρήγορα».
Όταν ο αγρότης ρώτησε την τεχνητή νοημοσύνη γιατί συνέβη αυτό, εκείνη υπαινίχθηκε πως το flusulfasulfaether ίσως ευθυνόταν για το πρόβλημα. Σύμφωνα με τους ειδικούς, η συγκεκριμένη ουσία προτείνεται για πλατύφυλλα ζιζάνια σε χωράφια σόγιας. Το USDA κατηγοριοποιεί το σουσάμι ως πλατύφυλλο φυτό, πράγμα που σημαίνει ότι επηρεάζεται άμεσα και θανατηφόρα από το συγκεκριμένο ζιζανιοκτόνο. Παράλληλα, η ουσία αυτή χρησιμοποιείται μόνο στοχευμένα στα σημεία που υπάρχει πρόβλημα και όχι στο σύνολο της καλλιέργειας.
Η ψευδαίσθηση της αλάθητης τεχνητής νοημοσύνης
Ο Wu ισχυρίστηκε πως η τεχνητή νοημοσύνη δεν τον ενημέρωσε για τους κινδύνους που εγκυμονούσε η λύση που του έδωσε. Ωστόσο, η σελίδα εμφάνιζε το τυπικό μήνυμα: «Η παραγωγή Τεχνητής Νοημοσύνης μπορεί να κάνει λάθη, παρακαλώ επαληθεύστε». Πρόκειται για την ίδια προειδοποίηση που διαθέτουν όλα τα μοντέλα, αλλά σχεδόν κανένας δεν λαμβάνει σοβαρά υπόψη.
Παρόλο που η Τεχνητή Νοημοσύνη είναι ένα ισχυρό εργαλείο, διατηρεί επίσης ένα βεβαρημένο ιστορικό στο να δίνει επικίνδυνες συμβουλές και να κάνει λανθασμένες επιλογές. Μόλις πριν από μερικές ημέρες, ένας προγραμματιστής διέγραψε ολόκληρο τον φάκελο του προφίλ του (και μαζί όλη τη δουλειά του) κατά τη διάρκεια μιας συνηθισμένης διαδικασίας δημιουργίας αντιγράφων ασφαλείας, εξαιτίας ενός τυπογραφικού λάθους της AI. Ακόμη και διευθύντρια της Meta είδε ολόκληρο το inbox της να διαγράφεται αυτόματα από λάθος της τεχνητής νοημοσύνης.
Για αυτόν τον λόγο σας έχουμε αναφέρει επανειλημμένα πως δεν πρέπει να έχετε τυφλή εμπιστοσύνη στην τεχνητή νοημοσύνη, καθώς υποπίπτει σε τραγικά σφάλματα ακόμη και σε απλές λειτουργίες. Στο παρελθόν τη δοκιμάσαμε στο Techmaniacs για ορθογραφικό και συντακτικό έλεγχο σε άρθρα και καταλήγαμε με χειρότερα συντακτικά λάθη, αντικατάσταση σωστών λέξεων με λανθασμένες και αλλοίωση μερών του κειμένου, παρότι είχαμε ζητήσει ρητά να μην πειραχτεί το περιεχόμενο. Επομένως, δεν πρέπει να υπάρχει καμία εμπιστοσύνη, πόσο μάλλον σε θέματα εργασίας, ιατρικής φύσεως ή για οτιδήποτε αφορά την περιουσία μας.
