Νέο μέτρο προστασίας των νεαρών χρηστών από μη φιλτραρισμένες ή ανεύθυνες απαντήσεις από το δημοφιλές chatbot.
Λίγες μέρες μετά την ανακοίνωση της OpenAI ότι θα κυκλοφορήσει σε λίγες μέρες σύστημα γονικού ελέγχου στο ChatGPT η εταιρεία έκανε γνωστό ότι θα περιορίσει τον τρόπο με τον οποίο το ChatGPT θα απαντά σε έναν χρήστη που η επικοινωνία μαζί του δημιουργεί υποψίες ότι είναι κάτω των 18 ετών.
Η εταιρεία που έφερε επανάσταση στη βιομηχανία τεχνητής νοημοσύνης βρίσκεται στο επίκεντρο καταγγελιών για ανεύθυνη λειτουργία του chatbot της το οποίο δίνει επικίνδυνες συμβουλές σε ανήλικους με γονείς εφήβων που αυτοκτόνησαν να κατηγορούν το ChatGPT ότι έπαιξε καίριο ρόλο σε αυτά τα συμβάντα όχι μόνο ενθαρρύνοντας τα παιδιά αυτά να αυτοκτονήσουν αλλά παρέχοντας και οδηγίες πώς να το κάνουν.
Η OpenAI λέει ότι θα υπάρχει αξιολόγηση του τρόπου χρήσης του chatbot με τρόπο τέτοιο ώστε να γίνεται αντιληπτή η ηλικία του και το πρόγραμμα να απαντά αναλόγως σε περίπτωση που κριθεί ότι είναι κάτω των 18 ετών ή εναλλακτικά θα ζητούνται έγκυρα στοιχεία ταυτότητας για να διαπιστωθεί η ηλικία ενός χρήστη.
«Η OpenAI δίνει προτεραιότητα στην ασφάλεια έναντι της ιδιωτικότητας και της ελευθερίας των εφήβων. Οι ανήλικοι χρειάζονται σημαντική προστασία. Οι απαντήσεις του ChatGPT σε λογαριασμούς που έχουν αναγνωριστεί ως ανήλικοι θα αλλάξουν» αναφέρει σε ανάρτηση του ο επικεφαλής της OpenAI Σαμ Άλτμαν. Η εταιρεία ανέφερε ότι ο τρόπος που το ChatGPT απαντά σε έναν 15χρονο θα πρέπει να διαφέρει από τον τρόπο που απαντά σε έναν ενήλικο.
Το σεξουαλικό περιεχόμενο θα μπλοκάρεται. Το σύστημα θα εκπαιδευτεί ώστε να μην φλερτάρει εάν το ζητήσει χρήστης κάτω των 18 ούτε να εμπλέκεται σε συζητήσεις για αυτοκτονία ή αυτοτραυματισμό ακόμη και σε πλαίσιο δημιουργικής γραφής. «Αν ένας χρήστης κάτω των 18 εμφανίζει αυτοκτονικές τάσεις θα προσπαθήσουμε να επικοινωνήσουμε με τους γονείς του και εάν αυτό δεν είναι δυνατό θα καλέσουμε τις αρχές σε περίπτωση άμεσου κινδύνου. Αυτές είναι δύσκολες αποφάσεις, αλλά μετά από συζητήσεις με ειδικούς, αυτό θεωρούμε καλύτερο και θέλουμε να είμαστε διαφανείς με τις προθέσεις μας» λέει ο Άλτμαν.
Η αιτία
Η OpenAI παραδέχτηκε τον Αύγουστο ότι τα συστήματά της μπορεί να υστερούν και ότι θα εγκαταστήσει πιο αυστηρά «προστατευτικά κιγκλιδώματα» γύρω από ευαίσθητο περιεχόμενο, μετά την αγωγή της οικογένειας του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια ο οποίος αυτοκτόνησε. Ο δικηγόρος της οικογένειας ανέφερε ότι ο Άνταμ αυτοκτόνησε μετά από «μήνες ενθάρρυνσης από το ChatGPT» και η οικογένεια ισχυρίζεται ότι το μοντέλο GPT-4o «βγήκε βιαστικά στην αγορά παρά τα ξεκάθαρα ζητήματα ασφαλείας».
Σύμφωνα με δικαστικά έγγραφα στις ΗΠΑ, το ChatGPT φέρεται να καθοδήγησε τον Άνταμ σχετικά με το αν η μέθοδος που σκόπευε να χρησιμοποιήσει για να δώσει τέλος στη ζωή του θα ήταν αποτελεσματική και προσφέρθηκε να τον βοηθήσει να γράψει και σημείωμα αυτοκτονίας προς τους γονείς του.
Ο Άνταμ αντάλλασσε έως και 650 μηνύματα την ημέρα με το ChatGPT σύμφωνα με την αγωγή. Σε ανάρτηση μετά την αγωγή, η OpenAI παραδέχτηκε ότι τα μέτρα ασφαλείας της λειτουργούν πιο αξιόπιστα σε σύντομες συνομιλίες, αλλά ύστερα από πολλά μηνύματα σε μεγάλη χρονική διάρκεια, το ChatGPT μπορεί να δώσει μια απάντηση «που παραβιάζει τα προστατευτικά μέτρα».
Naftemporiki.gr
