Η Metα δοκιμάζει τη συμμετοχή ανθρώπων που θα λειτουργούν υποστηρικτικά στο νέο προσωπικό της βοηθό τεχνητής νοημοσύνης Muse.
Στο πλαίσιο της δοκιμής οι ανθρώπινοι συνεργάτες τους οποίους η Metα χαρακτηρίζει «θυρωρούς» θα αναλαμβάνουν κρυφά ορισμένες από τις τηλεφωνικές κλήσεις που πραγματοποιούνται μέσω του ψηφιακού βοηθού σύμφωνα με εσωτερικές αναρτήσεις της εταιρείας που έχει στο κατοχή του το Reuters.
Η μητρική εταιρεία του Facebook και του Instagram ενημέρωσε τους εργαζομένους για τη δοκιμή την περασμένη εβδομάδα λίγο μετά την επίσημη κυκλοφορία της λειτουργίας τηλεφωνικών κλήσεων του Muse.
Ο βοηθός Muse, ο οποίος έχει βρεθεί στην κορυφή των charts με τις λήψεις εφαρμογών στις ΗΠΑ κατά τις δύο εβδομάδες από την κυκλοφορία του, έχει σχεδιαστεί ώστε να εκτελεί αυτόνομα εργασίες όπως η αποστολή email, οι αγορές και η κράτηση ταξιδιών για λογαριασμό του χρήστη.
Με τη λειτουργία τηλεφωνικών κλήσεων, ένας χρήστης του Muse μπορεί να ζητήσει από τον βοηθό να καλέσει τηλεφωνικούς αριθμούς αμερικανικών επιχειρήσεων και να συνομιλήσει με τους ανθρώπους στην άλλη άκρη της γραμμής, προκειμένου να διεκπεραιώσει εργασίες όπως η κράτηση ραντεβού για κούρεμα, ο έλεγχος διαθεσιμότητας ενός προϊόντος σε ένα κατάστημα ή η λήψη προσφορών από διαφορετικούς εργολάβους.
Ορισμένοι εργαζόμενοι εξέφρασαν ανησυχίες για την ιδιωτικότητα σχετικά με την εμπλοκή ανθρώπων σε αυτές τις κλήσεις, προειδοποιώντας ότι η συγκεκριμένη προσέγγιση θα μπορούσε να οδηγήσει στην ακούσια κοινοποίηση ευαίσθητων πληροφοριών σε συνεργάτες τηλεφωνικών κέντρων όπως προκύπτει από τις εσωτερικές αναρτήσεις.
«Μου προκαλεί έκπληξη το γεγονός ότι θεωρούμε πως αυτή η λειτουργία αξίζει το ρίσκο», έγραψε ένας εργαζόμενος σε εσωτερική ανάρτηση. «Απέχουμε μόλις ένα σφάλμα από το να διαρρεύσουν χωρίς λόγο πληροφορίες σε ανθρώπους που πραγματοποιούν τις κλήσεις.»
Ένας άλλος εργαζόμενος, ο οποίος είχε ζητήσει από το Muse να καλέσει τον πάροχο διαδικτύου και καλωδιακής τηλεόρασης για να διαπραγματευτεί τον λογαριασμό του δήλωσε ότι μια απομαγνητοφώνηση της κλήσης έδειξε πως ο ανθρώπινος συνεργάτης έκανε μια ρατσιστική αναφορά κατά τη διάρκεια της συνομιλίας.
Σε απάντηση μια αντιπρόεδρος της μονάδας Superintelligence Labs της Metα αναγνώρισε ότι «ήταν λάθος» να ξεκινήσει η δοκιμή κλήσεων από συνεργάτες χωρίς τις κατάλληλες ενημερώσεις και γνωστοποιήσεις και δήλωσε ότι η εταιρεία «έχει προς το παρόν αποσύρει αυτή τη λειτουργία».
Η ίδια πρόσθεσε ότι η Meta εξακολουθεί να «βελτιώνει σταδιακά την τεχνολογία κλήσεων μέσω AI», σημειώνοντας ότι ορισμένες δοκιμές έδειξαν πως η χρήση ανθρώπων για την πραγματοποίηση των κλήσεων θα μπορούσε να αυξήσει το ποσοστό επιτυχίας στο 95%-98%, αντί για το «χαμηλότερο ποσοστό της πραγματοποίησης κλήσεων από AI».
Ζήτησε επίσης συγγνώμη από τον εργαζόμενο που ανέφερε τη ρατσιστική αναφορά κατά τη διάρκεια μιας κλήσης του Muse και υποσχέθηκε ότι ο «ανθρώπινος συνεργάτης» που συμμετείχε στην κλήση δεν θα εργαστεί ξανά σε κανένα έργο της Metα.
Η ανθρώπινη εργασία πίσω από τις υποσχέσεις της AI
Η δοκιμή του Muse προσφέρει μια εικόνα για τον τρόπο με τον οποίο οι τεχνολογικές εταιρείες βασίζονται μερικές φορές σε ανθρώπινη εργασία στο παρασκήνιο προκειμένου να υλοποιήσουν τις υποσχέσεις για αυτόνομη τεχνητή νοημοσύνη καθώς έρχονται αντιμέτωπες με την απροθυμία των ανθρώπων που δέχονται αυτοματοποιημένες τηλεφωνικές κλήσεις να συνεργαστούν με αυτές.
Η πρακτική θυμίζει ένα παλαιότερο πείραμα της Metα, πριν από περίπου μία δεκαετία, όταν η εταιρεία που τότε ονομαζόταν ακόμη Facebook δοκίμασε έναν ψηφιακό βοηθό με την ονομασία «M» στην υπηρεσία Messenger. Δημοσιεύματα αργότερα εκτίμησαν ότι περίπου το 70% των εργασιών του βοηθού πραγματοποιούνταν στην πραγματικότητα από ανθρώπους.
Ερωτηθείς σχετικά με το σχέδιο του «ανθρώπινου θυρωρού» του Muse ο εκπρόσωπος της Metα Ντάνιελ Ρόμπερτς δήλωσε ότι η ανταπόκριση των εργαζομένων ήταν «σε συντριπτικό βαθμό θετική» και ότι σκοπός της δοκιμής ήταν να «συλλέξουμε σχόλια, ώστε να εφαρμόσουμε μέτρα ασφαλείας και προστασίας της ιδιωτικότητας και να βελτιώσουμε τις λειτουργίες προτού τις διαθέσουμε στο κοινό».
«Συνεργαζόμαστε με εμπόρους για να συνεχίσουμε να βελτιώνουμε αυτή την πιθανή λειτουργία κλήσεων και θα την διαθέσουμε μόνο όταν είναι έτοιμη και με τις κατάλληλες γνωστοποιήσεις» δήλωσε ο Ρόμπερτς. Ο βοηθός Muse της Meta έχει ξεπεράσει τις 2,5 εκατομμύρια λήψεις από την κυκλοφορία του, σύμφωνα με στοιχεία που παρείχε η εταιρεία ερευνών αγοράς Sensor Tower.
Η μετοχή της εταιρείας έχει σημειώσει άνοδο άνω του 20% από την κυκλοφορία του, προσθέτοντας περισσότερα από 200 δισεκατομμύρια δολάρια στην κεφαλαιοποίησή της και φτάνοντας στο υψηλότερο επίπεδο των τελευταίων επτά μηνών κατά το τελευταίο κλείσιμο της αγοράς. Ωστόσο την Τρίτη η μετοχή υποχώρησε κατά 0,6%.
Υπονομεύοντας ένα βασικό πλεονέκτημα της υπηρεσίας
Η Metα είχε δώσει μεγάλη έμφαση στα μέτρα ασφαλείας του βοηθού AI κατά την κυκλοφορία του, ενημερώνοντας τους υποψήφιους χρήστες ότι κάθε πράκτορας θα διαθέτει τη δική του ασφαλή «εικονική μηχανή» (virtual machine), δηλαδή έναν αποκλειστικό υπολογιστή στο cloud που έχει σχεδιαστεί ώστε να διατηρεί απομονωμένες τις συνεδρίες των χρηστών. Παράλληλα, ευαίσθητες πληροφορίες, όπως οι κωδικοί πρόσβασης θα αποθηκεύονται ξεχωριστά σε ασφαλή χώρο.
Οι εργαζόμενοι που άσκησαν κριτική στο σχέδιο του ανθρώπινου θυρωρού επικαλέστηκαν αυτά τα μέτρα ασφαλείας προειδοποιώντας ότι η χρήση ανθρώπων θα μπορούσε να υπονομεύσει ένα βασικό πλεονέκτημα που προβάλλει η εταιρεία για τον βοηθό. Η Metα άρχισε να βάζει εργαζομένους να δοκιμάζουν τη δυνατότητα τηλεφωνικών κλήσεων τον Αύγουστο και σταδιακά άρχισε να τη διαθέτει στους χρήστες του Muse τις ημέρες μετά την κυκλοφορία της εφαρμογής σύμφωνα με τις εσωτερικές αναρτήσεις.
Ωστόσο ορισμένοι χρήστες έχουν αναφέρει προβλήματα με αυτές τις κλήσεις. Ένας εργαζόμενος, για παράδειγμα, δήλωσε ότι προσπάθησε να καλέσει την ασφαλιστική του εταιρεία και ότι «το κλείνουν συνεχώς στο Muse μόλις καταλάβουν ότι πρόκειται για AI». Η Metα ενεργοποίησε την περασμένη εβδομάδα τη λειτουργία του ανθρώπινου θυρωρού —που αναφέρεται επίσης ως «κλήσεις από ανθρώπινους agents»— για τους μισούς εργαζομένους της, προκειμένου να αντιμετωπίσει αυτά τα προβλήματα, σύμφωνα με τις εσωτερικές αναρτήσεις.
«Το Muse είναι πλέον σε θέση να παραδίδει τα αιτήματα σε έναν εκπαιδευμένο συνεργάτη ο οποίος πραγματοποιεί την κλήση και τη διεκπεραιώνει», ανέφερε η ανάρτηση που ανακοίνωνε τη λειτουργία στους εργαζομένους. Οι εργαζόμενοι που δεν επιθυμούσαν να συμπεριληφθούν στη δοκιμή μπορούσαν να ενταχθούν σε ομάδα εξαίρεσης (opt-out) σύμφωνα με την ίδια ανάρτηση.
