Η Google προχωρά σε μια αμφιλεγόμενη αναβάθμιση της λειτουργίας AI Overviews, ενσωματώνοντας παραπομπές και συνδέσμους από το YouTube ως βασικές πηγές για ιατρικά και επιστημονικά ερωτήματα. Ωστόσο, μια νέα μελέτη που είδε το φως της δημοσιότητας προειδοποιεί ότι η στρατηγική αυτή μπορεί να αποτελέσει «δίκοπο μαχαίρι» για τη δημόσια υγεία.
-
στροφή στο οπτικοακουστικό περιεχόμενο
Μέχρι πρόσφατα, οι περιλήψεις τεχνητής νοημοσύνης της Google βασίζονταν κυρίως σε κείμενα από αναγνωρισμένα ιατρικά περιοδικά και θεσμικούς ιστότοπους. Η νέα προσέγγιση δίνει προτεραιότητα σε βίντεο από το YouTube, χρησιμοποιώντας την τεχνολογία μεταγραφής λόγου σε κείμενο για να αντλήσει πληροφορίες.
Σύμφωνα με τη μελέτη, η Google υποστηρίζει ότι οι χρήστες –ιδιαίτερα οι νεότερες γενιές– κατανοούν καλύτερα τις ιατρικές πληροφορίες μέσω οπτικού περιεχομένου. Εντούτοις, οι ερευνητές επισημαίνουν ότι η AI δυσκολεύεται συχνά να διακρίνει ανάμεσα σε ένα βίντεο ενός πιστοποιημένου γιατρού και σε ένα περιεχόμενο που βασίζεται σε προσωπικές εμπειρίες ή, στη χειρότερη περίπτωση, σε παραπληροφόρηση.
Το πρόβλημα της «αυθεντίας»
Το βασικό ζήτημα που ανακύπτει είναι η ιεράρχηση των πηγών. Η μελέτη διαπίστωσε ότι σε αρκετές περιπτώσεις η AI απέδωσε υπερβολική βαρύτητα σε δημοφιλή βίντεο με υψηλό αριθμό προβολών, παραβλέποντας πιο έγκυρες αλλά λιγότερο «viral» πηγές. Υπήρξαν αστοχίες στην ερμηνεία του πλαισίου (context), όπου σατιρικό περιεχόμενο ή μεμονωμένες περιπτώσεις ασθενών παρουσιάστηκαν ως γενικευμένες ιατρικές οδηγίες. Η διαδικασία peer-review (αξιολόγηση από ομοτίμους), που αποτελεί τον χρυσό κανόνα της ιατρικής, απουσιάζει παντελώς από τη λογική των αλγορίθμων του YouTube.
Η απάντηση της Google
Εκπρόσωπος της Google δήλωσε στον Guardian ότι η εταιρεία εφαρμόζει «ειδικά προστατευτικά φίλτρα» για θέματα υγείας και ότι το YouTube συνεργάζεται με τον Παγκόσμιο Οργανισμό Υγείας για την πιστοποίηση των καναλιών υγείας. «Στόχος μας είναι να κάνουμε την πληροφορία προσβάσιμη και κατανοητή, διατηρώντας παράλληλα υψηλά πρότυπα ακρίβειας», τόνισε η εταιρεία.
Ωστόσο, οι επικριτές υποστηρίζουν ότι η κίνηση αυτή εξυπηρετεί περισσότερο το επιχειρηματικό μοντέλο της Google –κρατώντας τους χρήστες εντός του δικού της οικοσυστήματος (Search και YouTube)– παρά την ανάγκη για αντικειμενική ενημέρωση.
«Μια επικίνδυνη σύγχυση»
«Η υγεία δεν είναι ψυχαγωγία», δηλώνει η Dr. Sarah Jenkins, αναλύτρια ψηφιακής υγείας. «Όταν η τεχνητή νοημοσύνη λέει στον χρήστη «είδα αυτό στο YouTube», δημιουργεί μια ψευδαίσθηση οικειότητας που μπορεί να οδηγήσει σε επικίνδυνη αυτοδιάγνωση».