Για πρώτη φορά, η Apple και η Google λαμβάνουν επίσημη νομική εντολή να αφαιρέσουν άμεσα από τα καταστήματα εφαρμογών τους 13 συγκεκριμένα AI apps. Πρόκειται για εφαρμογές που επιτρέπουν στους χρήστες να δημιουργούν σεξουαλικές εικόνες πραγματικών ανθρώπων με τη χρήση τεχνητής νοημοσύνης, χωρίς φυσικά τη συγκατάθεσή τους.
Τι ακριβώς ζητά ο εισαγγελέας του Σαν Φρανσίσκο
Ο Ντέιβιντ Τσίου, εισαγγελέας της πόλης του Σαν Φρανσίσκο, απέστειλε κατεπείγουσες νομικές επιστολές στις δύο εταιρείες. Τις κατηγορεί ανοιχτά ότι συνεργούν στη διανομή σεξουαλικού υλικού deepfake (ψηφιακά παραποιημένου περιεχομένου) και, το κυριότερο, ότι κερδίζουν χρήματα από αυτό. Σύμφωνα με το κατηγορητήριο, οι δύο τεχνολογικοί κολοσσοί έχουν εισπράξει εκατομμύρια δολάρια σε προμήθειες από τις in-app αγορές των συγκεκριμένων εφαρμογών.
Οι εφαρμογές που στοχεύει η νομική ενέργεια παρουσιάζονται παραπλανητικά ως εργαλεία αλλαγής προσώπου (face-swapping). Στην πράξη όμως, επιτρέπουν στους χρήστες να ανεβάζουν φωτογραφίες ανυποψίαστων ανθρώπων και να τους αφαιρούν ψηφιακά τα ρούχα ή να τους τοποθετούν σε σεξουαλικές σκηνές. Η όλη διαδικασία διαρκεί μόλις μερικά δευτερόλεπτα και μια και μόνο φωτογραφία αρκεί για να παραχθεί το ψεύτικο αποτέλεσμα.
Οι νόμοι της Καλιφόρνιας απαγορεύουν ρητά την υποστήριξη υπηρεσιών που δημιουργούν deepfake πορνογραφικό περιεχόμενο. Ως εκ τούτου, οι δύο εταιρείες οφείλουν να σταματήσουν να «συμβάλλουν» στη λειτουργία τους, διακόπτοντας κάθε επιχειρηματική σχέση με τους προγραμματιστές τους.
Ποιες εφαρμογές αφορά και η τρομακτική κλίμακα του προβλήματος
Οι 13 εφαρμογές που εντόπισε το γραφείο του εισαγγελέα, οκτώ στο App Store της Apple και πέντε στο Play Store της Google, μετρούν εκατομμύρια λήψεις συνολικά. Το περιοδικό WIRED, που αποκάλυψε πρώτο την είδηση, επέλεξε συνειδητά να μην αναφέρει τα ονόματά τους, ώστε να αποφευχθεί η περαιτέρω διαφήμισή τους.
Ωστόσο, η κλίμακα του φαινομένου είναι πολύ μεγαλύτερη από αυτές τις 13 περιπτώσεις:
- Ανεξάρτητη έρευνα του Tech Transparency Project (TTP) εντόπισε περίπου 100 τέτοιες εφαρμογές στα δύο καταστήματα, με τις συνολικές λήψεις να αγγίζουν τα 480 εκατομμύρια και τα έσοδα να ξεπερνούν τα 120 εκατομμύρια δολάρια.
- Παράλληλα, ερευνητές από το Πανεπιστήμιο Cornell και το Georgetown University δοκίμασαν 155 εφαρμογές αλλαγής προσώπου. Διαπίστωσαν ότι στο 70% αυτών ήταν δυνατή η δημιουργία γυμνών εικόνων, χωρίς οι εφαρμογές να διαθέτουν κανέναν απολύτως μηχανισμό προστασίας.
Το πρόβλημα έχει ήδη εισβάλει και στα σχολεία. Προηγούμενες έρευνες έχουν καταγράψει σοβαρά περιστατικά σε τουλάχιστον 90 σχολικά ιδρύματα, όπου δημιουργήθηκαν και διακινήθηκαν τέτοιες ψεύτικες εικόνες ανηλίκων.
Πώς αντέδρασαν Apple και Google
Η Google δήλωσε ότι έχει ήδη διαγράψει «εκατοντάδες» παρόμοιες εφαρμογές για παραβίαση της πολιτικής της, συμπεριλαμβανομένων των πέντε που υπέδειξε ο εισαγγελέας. Παράλληλα, μπλόκαρε σχετικούς όρους αναζήτησης, όπως τη λέξη «nudify», μέσα στο Play Store.
Η Apple από την πλευρά της ανακοίνωσε ότι έχει αφαιρέσει τρεις από τις οκτώ εφαρμογές και βρίσκεται σε διαδικασία τερματισμού των λογαριασμών των δημιουργών τους. Για τις υπόλοιπες τέσσερις, έδωσε διορία στους προγραμματιστές να συμμορφωθούν, διαφορετικά θα διαγραφούν οριστικά.
Ωστόσο, η κριτική που δέχονται είναι έντονη. Η διευθύντρια του Tech Transparency Project, Κέιτι Πολ, σχολίασε με νόημα πως οι εταιρείες είχαν προειδοποιηθεί εδώ και χρόνια από ερευνητές και δημοσιογράφους, αλλά η κατάσταση αντί να βελτιωθεί, έγινε χειρότερη.
Η ανθρώπινη διάσταση και οι νομικές συνέπειες
Ο εισαγγελέας Τσίου ξεκαθάρισε ότι οι συνέπειες στα θύματα είναι καταστροφικές. Αυτές οι εικόνες χρησιμοποιούνται για εκφοβισμό, ταπείνωση και εκβιασμό, πλήττοντας βάναυσα την ψυχική υγεία και την αξιοπρέπεια των θυμάτων, τα οποία στην πλειονότητά τους είναι γυναίκες και ανήλικα κορίτσια.
Το γραφείο του εισαγγελέα δηλώνει αποφασισμένο να εξαντλήσει κάθε νομικό μέσο. Εάν η Apple και η Google δεν καθαρίσουν οικειοθελώς και οριστικά τα καταστήματά τους από τέτοιο περιεχόμενο, η υπόθεση θα οδηγηθεί στα δικαστήρια.
