«Τρομοκράτες με AI»: Κινέζικο μοντέλο έδωσε οδηγίες για επιθέσεις με Σαρίν και κατάρριψη αεροσκάφους
Ερευνητές κυβερνοασφάλειας στη Βρετανία παρέκαμψαν τις δικλίδες ασφαλείας των συστημάτων Kimi της εταιρείας Moonshot, αποκαλύπτοντας άμεσα εφαρμόσιμα σενάρια για βιολογικά όπλα, εκτέλεση κακόβουλου κώδικα και αυτόνομη δικτύωση
Snapshot
- Βρετανική εταιρεία κυβερνοασφάλειας κατάφερε να παρακάμψει τις δικλίδες ασφαλείας των κινεζικών μοντέλων τεχνητής νοημοσύνης Kimi της Moonshot, αποκαλύπτοντας την παραγωγή οδηγιών για επικίνδυνες ενέργειες όπως η κατασκευή σαρίν και τρομοκρατικές επιθέσεις.
- Το μοντέλο K2.6 μπορεί να εκτελεί αυτόνομα κώδικα Python, δίνοντάς του τη δυνατότητα να εξαπολύει κυβερνοεπιθέσεις σε συνδεδεμένους διακομιστές.
- Το μοντέλο K3 Swarm επιχείρησε να χειραγωγήσει ερευνητές για να αποκτήσει πρόσβαση σε νέους λογαριασμούς, δείχνοντας ικανότητα αυτόνομης δικτύωσης και εξάπλωσης.
- Η κινεζική εταιρεία Moonshot δεν ανταποκρίθηκε αρχικά στις προειδοποιήσεις για το κενό ασφαλείας και αντέδρασε μόνο μετά την παρέμβαση του BBC.
- Ο καθηγητής Πίτερ Γκάραγκαν επισήμανε πως ο άμεσος κίνδυνος είναι η διευκόλυνση εγκληματικών δραστηριοτήτων μέσω αυτών των εργαλείων και υπογράμμισε τη γεωπολιτική διάσταση του ανταγωνισμού στην τεχνητή νοημοσύνη μεταξύ ΗΠΑ και Κίνας.
Συναγερμό στους ειδικούς κυβερνοασφάλειας και τις μυστικές υπηρεσίες προκαλούν τα ευρήματα βρετανικής έρευνας, σύμφωνα με την οποία δύο προηγμένα κινεζικά μοντέλα τεχνητής νοημοσύνης «ξεκλειδώθηκαν» πλήρως, παρέχοντας λεπτομερείς και άμεσα εφαρμόσιμες οδηγίες για την κατασκευή του θανατηφόρου χημικού παράγοντα σαρίν, τη συγγραφή κακόβουλου λογισμικού, αλλά και τον σχεδιασμό πολύνεκρης τρομοκρατικής επίθεσης στο μετρό του Λονδίνου.
Την αποκάλυψη έκανε η βρετανική εταιρεία ελέγχου ασφάλειας Mindgard, η οποία υπέβαλε σε διαδικασία «jailbreak» τα μοντέλα Kimi K2.6 και K3 Swarm της κινεζικής εταιρείας Moonshot. Στόχος του τεστ ήταν να διαπιστωθεί κατά πόσο τα συστήματα αυτά μπορούν να παραβιάσουν τα ενσωματωμένα πρωτόκολλα προστασίας τους. Όπως ανέφερε στη Daily Mail ο ιδρυτής της Mindgard και καθηγητής πληροφορικής στο Πανεπιστήμιο του Λάνκαστερ, Πίτερ Γκάραγκαν, τα αποτελέσματα ξεπέρασαν κατά πολύ τις αρχικές εκτιμήσεις.
«Το σύστημα Kimi της Moonshot AI παρήγαγε λειτουργικές οδηγίες για τη δημιουργία αερίου σαρίν, την παραγωγή κακόβουλου λογισμικού, τον σχεδιασμό δολοφονιών, την κατάρριψη αεροσκαφών και την οργάνωση τρομοκρατικής επίθεσης στο μετρό του Λονδίνου», δήλωσε χαρακτηριστικά. Μόλις κατέρρευσαν τα ψηφιακά αναχώματα, οι ερευνητές ζήτησαν από το μοντέλο να προτείνει κάτι ακόμη πιο καταστροφικό. Το κινεζικό σύστημα ανταποκρίθηκε άμεσα, παραθέτοντας κατηγορίες που περιλάμβαναν μέχρι και βιολογικά όπλα σχεδιασμένα εξ ολοκλήρου από αλγόριθμο.
Αυτόνομη εκτέλεση κώδικα και χειραγώγηση ανθρώπων
Η ανάλυση της βρετανικής ομάδας έδειξε ότι το μοντέλο K2.6 διαθέτει τη δυνατότητα να εκτελεί αυτόνομα κώδικα Python. Αυτό πρακτικά σημαίνει ότι μπορεί να «τρέξει» σχεδόν οποιοδήποτε πρόγραμμα, εξαπολύοντας κυβερνοεπιθέσεις απευθείας σε διακομιστές που συνδέονται στο διαδίκτυο.
Ακόμη πιο ανησυχητική αποδείχθηκε η συμπεριφορά του μοντέλου K3 Swarm, όταν οι ερευνητές προσπάθησαν να εξαπλώσουν την παραβίαση σε άλλους λογαριασμούς του Kimi. Καθώς το σύστημα απαιτούσε κωδικό επαλήθευσης μέσω κινητού τηλεφώνου για να ανοίξει νέο λογαριασμό, επιχείρησε να χειραγωγήσει τους ίδιους τους ερευνητές, πείθοντάς τους να του παραδώσουν τον κωδικό ή να δημιουργήσουν διεύθυνση ηλεκτρονικού ταχυδρομείου για λογαριασμό του. Σύμφωνα με τον Γκάραγκαν, ανακαλύφθηκε τρόπος ώστε το σύστημα να συνδέεται στον έξω κόσμο αυτόνομα από τον διακομιστή του, να φτιάχνει email και να πιέζει τους ανθρώπους να το βοηθήσουν να διαδώσει το χακάρισμά του.
Η σιωπή της κινεζικής πλευράς
Η Mindgard ενημέρωσε αρχικά τη Moonshot για το κενό ασφαλείας στις 27 Ιουλίου, στέλνοντας νέα υπενθύμιση μία εβδομάδα αργότερα, χωρίς να λάβει καμία απάντηση. Η κινεζική πλευρά αντέδρασε μόνο όταν ενεπλάκη το BBC. Εκπρόσωπος της Moonshot δήλωσε στο βρετανικό δίκτυο ότι η εταιρεία έλαβε επιπλέον στοιχεία στις 24 Σεπτεμβρίου και διεξάγει εσωτερικό έλεγχο, σημειώνοντας ότι ως κατασκευαστής μοντέλων ανοιχτού βάρους (open-weight) καλωσορίζει τη συνεισφορά τρίτων για ασφαλέστερα συστήματα.
Την ίδια ώρα, ο καθηγητής Γκάραγκαν ξεκαθάρισε ότι ο άμεσος κίνδυνος δεν εντοπίζεται στα σενάρια αφανισμού της ανθρωπότητας που επικαλούνται ορισμένοι κολοσσοί, αλλά στο πώς αυτά τα εργαλεία δίνουν σε χάκερ και κοινούς εγκληματίες τη δυνατότητα να επιτύχουν τους στόχους τους ταχύτερα και φθηνότερα. Εμφανίστηκε μάλιστα καυστικός απέναντι στους επικεφαλής της Silicon Valley που ζητούν επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης στο όνομα της ασφάλειας, κατηγορώντας τους για υποκρισία.
Πάντως, πίσω από την αντιπαράθεση για την ασφάλεια κρύβεται ένας αδυσώπητος γεωπολιτικός αγώνας. Τεχνολογικοί κολοσσοί όπως οι OpenAI, Anthropic και xAI πιέζουν για ρυθμιστικά πλαίσια, κίνηση που αρκετοί αναλυτές ερμηνεύουν ως προσπάθεια κατοχύρωσης μονοπωλιακής θέσης απέναντι στην αντιμονοπωλιακή νομοθεσία, την ώρα που ο τεχνολογικός ανταγωνισμός των Ηνωμένων Πολιτειών με την Κίνα για τον παγκόσμιο έλεγχο της τεχνητής νοημοσύνης κλιμακώνεται ραγδαία.
