Εσωτερική αξιολόγηση διενεργεί η κινεζική startup Moonshot AI αφού δύο μοντέλα της κατάφεραν να παρακάμψουν τις δικλίδες ασφαλείας και να δώσουν σε ερευνητές οδηγίες για την κατασκευή βιολογικών όπλων και την διάπραξη δολοφονιών.
Η Mindgard, εταιρεία που ειδικεύεται στον έλεγχο της ασφάλειας συστημάτων AI, αποκάλυψε στο BBC ότι τον Ιούλιο διαπίστωσε πως τα μοντέλα Kimi K2.6 και K3 Swarm μπορούσαν να παρακάμψουν τις δικλείδες ασφαλείας που είχαν θέσει οι προγραμματιστές.
Το «jailbreaking»
Το ζήτημα προέκυψε κατά τη διάρκεια μιας διαδικασίας που ονομάζεται «jailbreaking», κατά την οποία ερευνητές χρησιμοποιούν μια σειρά σύνθετων οδηγιών για να διαπιστώσουν αν τα εργαλεία τεχνητής νοημοσύνης παρακάμπτουν τις δικλείδες ασφαλείας, οι οποίες, σύμφωνα με τη Mindgard, θα έπρεπε να είχαν εμποδίσει το Kimi να συζητήσει αμφιλεγόμενα θέματα.
Σχολιάζοντας τα ευρήματα, ο ιδρυτής της Mindgard, Πίτερ Γκάραχαν, τα χαρακτήρισε ανησυχητικά. «Μόλις το jailbreak πετύχει, θα συζητά για οποιοδήποτε θέμα, θα προτείνει μάλιστα ελεύθερα και άλλα θέματα που είναι επίσης κακόβουλα, ενώ θα επιδεικνύει εφευρετικότητα και δημιουργικότητα», δήλωσε.
Από την πλευρά της, η Moonshot δήλωσε στο BBC ότι βρίσκεται σε συζητήσεις με τη Mindgard σχετικά με τα ευρήματά της.
Διαφορετικός τύπος κινδύνου
Οι τεχνικές «jailbreak» ενέχουν διαφορετικό τύπο κινδύνου σε σχέση με τα πρόσφατα περιστατικά που αφορούσαν την τεχνητή νοημοσύνη.
Σε αυτές τις περιπτώσεις, αυτόνομα εργαλεία τεχνητής νοημοσύνης —γνωστά ως «πράκτορες» (agents)— που αναπτύχθηκαν από αμερικανικές εταιρείες όπως η OpenAI, η Meta και η Anthropic, παραβίασαν ορισμένες διαδικτυακές υπηρεσίες.
Αν και το «jailbreak» αποτελεί μια περίπλοκη διαδικασία που απαιτεί πολύ χρόνο, ορισμένοι ειδικοί εκφράζουν ανησυχίες ότι χάκερ και άλλοι κακόβουλοι παράγοντες θα μπορούσαν να το εκμεταλλευτούν για να προκαλέσουν ζημιά.
Η Mindgard δεν έχει αποδείξει κατά τόσο οι απαντήσεις που παρείχαν τα μοντέλα Kimi για ευαίσθητα θέματα θα ήταν αποτελεσματικές. Ωστόσο, υποστήριξε ότι οι δικλείδες ασφαλείας θα έπρεπε να είχαν εμποδίσει τα δύο κινεζικά μοντέλα να συζητήσουν τέτοια θέματα.
Η εταιρεία δήλωσε επίσης πεπεισμένη ότι μια τροποποιημένη (jailbroken) έκδοση του Kimi 2.6 θα μπορούσε να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστικούς πόρους της και να συνδεθούν στο διαδίκτυο, καθιστώντας έτσι τη συσκευή πιθανό εφαλτήριο για κυβερνοεπιθέσεις.
