Πριν από μερικά χρόνια φανταζόμασταν την τεχνητή νοημοσύνη κάπως σαν τον Terminator που είχε στόχο να μας αφανίσει. Η πραγματικότητα όμως είναι πολύ πιο πεζή και ταυτόχρονα επικίνδυνη. Το ChatGPT έδινε σε χρήστες αναλυτικές οδηγίες για το πώς να φτιάξουν βιολογικά όπλα και δηλητήρια στο σπίτι τους.
Σύμφωνα με αποκαλυπτικό δημοσίευμα της Wall Street Journal, εκατοντάδες χρήστες από όλο τον κόσμο υπέβαλαν ερωτήματα για θανατηφόρες ουσίες όπως η ρικίνη, αλλά και για τρόπους εργαστηριακής τροποποίησης επικίνδυνων παθογόνων.
Το σοκαριστικό δεν είναι μόνο ότι οι χρήστες ρώτησαν, αλλά ότι παλαιότερες εκδόσεις του ChatGPT απάντησαν κανονικά. Ειδικοί σε θέματα βιολογίας και τρομοκρατίας που εξέτασαν τις απαντήσεις εκ των υστέρων, επιβεβαίωσαν ότι οι οδηγίες ήταν ανησυχητικά ακριβείς.
Μπλόκαραν τους χρήστες, αλλά δεν ενημέρωσαν την αστυνομία
Η OpenAI αντέδρασε κατεβάζοντας τους λογαριασμούς όσων έκαναν τις αναζητήσεις, αλλά δεν ειδοποίησε τις αρχές. Ο λόγος; Στις ΗΠΑ δεν υπάρχει αυτή τη στιγμή κανένας νόμος που να υποχρεώνει τις εταιρείες AI να αναφέρουν τέτοια περιστατικά στις διωκτικές αρχές — και αυτό ίσως αποτελέσει πολύ μεγάλο πρόβλημα στη συνέχεια.
Φυσικά, το πρόβλημα δεν είναι μόνο της OpenAI. Αντίστοιχα «πειράματα» έγιναν στο Claude της Anthropic, στο Gemini της Google και στο Grok του Elon Musk. Όλα τα μοντέλα, αν πιεστούν κατάλληλα, μπορούν να βγάλουν επικίνδυνα αποτελέσματα.
Οι ερευνητές κυβερνοασφάλειας το φωνάζουν καιρό: με την κατάλληλη διατύπωση (το λεγόμενο jailbreaking), κανένα φίλτρο ασφαλείας δεν είναι 100% λειτουργικό αν ο χρήστης επιμείνει.
