Έκθεση: Κινεζικά εργαλεία ΑΙ έδωσαν οδηγίες κατασκευής βιολογικών όπλων και διάπραξης δολοφονιών

Οι ανησυχίες για την εξέλιξη της τεχνητής νοημοσύνης στη σκιά και των προειδοποιήσεων των υπευθύνων τεχνολογικών κολοσσών παίρνουν μία τρομακτική διάσταση καθώς ερευνητές κατάφεραν να πείσουν ένα κινεζικό εργαλείο τεχνητής νοημοσύνης να τους υποδείξει πώς να κατασκευάσουν βιολογικά όπλα και να διαπράξουν δολοφονίες, παρακάμπτοντας όλα τα συστήματα ελέγχου ασφάλειας.

Η κινεζική εταιρεία ανάπτυξης τεχνητής νοημοσύνης Moonshot διεξάγει πλέον εσωτερική έρευνα σχετικά με το θέμα, το οποίο αφορά δύο από τα δημοφιλή μοντέλα της, τα Kimi.

Το BBC ανέφερε ότι η Mindgard, η οποία ελέγχει την ασφάλεια των συστημάτων τεχνητής νοημοσύνης, ανακάλυψε τον Ιούλιο ότι τα μοντέλα Kimi K2.6 και K3 Swarm μπορούσαν να παρακάμψουν τα όρια ασφαλείας που είχαν θέσει οι προγραμματιστές.

Η Mindgard δήλωσε ότι το Kimi δεν θα έπρεπε να είχε συζητήσει τα δύο θέματα, δεδομένου ότι υπάρχουν ελεγκτικά μέτρα. Ωστόσο, οι ερευνητές διαπίστωσαν ότι το σύστημα το έκανε.

Μια σειρά σύνθετων οδηγιών δόθηκε στα εργαλεία τεχνητής νοημοσύνης για να διαπιστωθεί αν θα αγνοούσαν τα ελεγκτικά μέτρα. Και τα εργαλεία άρχισαν να συζητούν για τις δολοφονίες και τα βιολογικά όπλα.

Ο ιδρυτής της Mindgard, Peter Garraghan, δήλωσε στο BBC ότι τα ευρήματα σχετικά με τα Kimi K2.6 και K3 Swarm είναι ανησυχητικά και δείχνουν ότι, μόλις παραβιαστούν τα μέτρα ασφαλείας, «θα συζητά για οποιοδήποτε θέμα, θα προσφέρει μάλιστα ελεύθερα προτάσεις για άλλα θέματα που είναι επίσης κακόβουλα και θα είναι εφευρετικό και δημιουργικό».

Εν τω μεταξύ, η Moonshot δήλωσε στο BBC ότι θεωρεί την εξωτερική ανατροφοδότηση «βασικό πυλώνα για τη δημιουργία καλύτερης και ασφαλέστερης τεχνητής νοημοσύνης», προσθέτοντας ότι βρίσκεται σε συζητήσεις με τη Mindgard σχετικά με το θέμα.

Η Mindgard δεν έχει διευκρινίσει αν οι απαντήσεις που έδωσε το Kimi για τα δύο θέματα θα λειτουργούσαν.

Σύμφωνα με την εταιρεία, εάν το Kimi 2.6 υποστεί «jailbreak», θα μπορούσε να λειτουργήσει ως πλατφόρμα που θα επιτρέπει σε χάκερ να εξαπολύουν κυβερνοεπιθέσεις εκτελώντας κώδικα στους υπολογιστικούς πόρους του.

Ο Garraghan πρόσθεσε ότι ο προγραμματιστής είχε ενημερωθεί για το περιστατικό και διευκρίνισε ότι δεν θα αποκαλύψει λεπτομέρειες σχετικά με τον τρόπο με τον οποίο κατάφερε να κάνει τα μοντέλα Kimi να αγνοήσουν τους μηχανισμούς ασφαλείας.

Η εταιρεία ανέφερε ότι έστειλε email στη Moonshot σχετικά με το «jailbreak» στις 27 Ιουλίου και έστειλε υπενθύμιση μία εβδομάδα αργότερα. Ωστόσο, η Moonshot απάντησε μόνο αφού το BBC επικοινώνησε μαζί της.