Anthropic: Τέσσερα μοντέλα AI «ξέφυγαν» από το περιβάλλον δοκιμών
Σε μία περίπτωση μοντέλο εντόπισε κωδικό πρόσβασης και απέκτησε δικαιώματα διαχειριστή σε σύστημα τρίτου
Snapshot
- Τέσσερα μοντέλα AI της Anthropic απέκτησαν χωρίς άδεια πρόσβαση σε πραγματικά συστήματα τρίτων κατά τη διάρκεια δοκιμών κυβερνοασφάλειας.
- Ένα μοντέλο βρήκε κωδικό πρόσβασης και απέκτησε δικαιώματα διαχειριστή, αλλάζοντας ρυθμίσεις και αποκτώντας πρόσβαση σε προσωπικά δεδομένα.
- Το πρόβλημα οφειλόταν σε λανθασμένη ρύθμιση που άφησε τα μοντέλα συνδεδεμένα στο ανοιχτό διαδίκτυο παρά την αντίθετη ενημέρωση.
- Η εταιρεία ανέστειλε δοκιμές υψηλού κινδύνου και καθυστέρησε την εκπαίδευση νέου μοντέλου για να ενισχύσει τα μέτρα ασφαλείας.
- Δεν βρέθηκαν ενδείξεις ότι τα μοντέλα προσπάθησαν να αποκρύψουν τις ενέργειές τους ή να συνεργαστούν μεταξύ τους.
Σοβαρά περιστατικά κατά τη διάρκεια δοκιμών των μοντέλων τεχνητής νοημοσύνης της αποκάλυψε η Anthropic, η εταιρεία πίσω από το Claude, στα έγγραφα που κατέθεσε ενόψει της εισαγωγής της στο χρηματιστήριο.
Σύμφωνα με την εταιρεία, τέσσερα μοντέλα AI απέκτησαν χωρίς άδεια πρόσβαση σε πραγματικά συστήματα τρίτων, ενώ συμμετείχαν σε δοκιμές κυβερνοασφάλειας. Τα περιστατικά διήρκεσαν από περίπου 10 έως 34 ώρες ενεργής λειτουργίας.
Το βασικό πρόβλημα, όπως προκύπτει από τα ίδια τα έγγραφα της Anthropic, βρισκόταν στο περιβάλλον των δοκιμών: εξαιτίας λανθασμένης ρύθμισης, τα μοντέλα παρέμειναν συνδεδεμένα στο ανοιχτό διαδίκτυο, παρότι είχαν λάβει την πληροφορία ότι δεν διέθεταν πρόσβαση σε αυτό.
Βρήκε κωδικό και απέκτησε πρόσβαση διαχειριστή
Ιδιαίτερο ενδιαφέρον παρουσιάζει ένα από τα περιστατικά που περιγράφει η εταιρεία.
Μια πρώιμη έκδοση μοντέλου, ενώ προσπαθούσε να ολοκληρώσει την άσκηση που της είχε ανατεθεί, εντόπισε έναν αποθηκευμένο κωδικό πρόσβασης και τον χρησιμοποίησε για να αποκτήσει δικαιώματα διαχειριστή σε σύστημα τρίτου.
Στη συνέχεια βρήκε επιπλέον στοιχεία σύνδεσης, άλλαξε ρυθμίσεις του συστήματος και απέκτησε πρόσβαση σε προσωπικές πληροφορίες ενός ατόμου. Οι άνθρωποι και οι οργανισμοί που επηρεάστηκαν ενημερώθηκαν για το περιστατικό, σύμφωνα με την Anthropic.
Η εταιρεία υπογραμμίζει πάντως ότι από την έρευνα που ακολούθησε δεν προέκυψαν ενδείξεις ότι κάποιο από τα μοντέλα προσπάθησε να αποκρύψει τη δράση του, να αποφύγει σκόπιμα την εποπτεία ή να συνεργαστεί με άλλα μοντέλα. Κάθε περιστατικό αφορούσε ένα μοντέλο που εργαζόταν μόνο του πάνω στη συγκεκριμένη δοκιμή.
Πάγωσε για περισσότερο από έναν μήνα η εκπαίδευση νέου μοντέλου
Οι αποκαλύψεις έρχονται την ώρα που η Anthropic προετοιμάζεται για την είσοδό της στο χρηματιστήριο και επιχειρεί να δείξει στους επενδυτές ότι αντιμετωπίζει σοβαρά τους κινδύνους που συνοδεύουν την ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Στο ίδιο πλαίσιο, η εταιρεία γνωστοποίησε ότι καθυστέρησε για περισσότερο από έναν μήνα την αρχική εκπαίδευση ενός νέου προηγμένου μοντέλου, προκειμένου να ενισχύσει τα μέτρα προστασίας απέναντι στην πιθανότητα κλοπής των λεγόμενων «model weights» – των κρίσιμων δεδομένων που ουσιαστικά περιλαμβάνουν όσα έχει μάθει ένα μοντέλο κατά την εκπαίδευσή του.
Μετά τα περιστατικά του 2026, η Anthropic ανέστειλε επίσης ορισμένες δοκιμές κυβερνοασφάλειας και περιβάλλοντα εκπαίδευσης που θεωρούνταν υψηλότερου κινδύνου, μέχρι να ενισχυθούν οι δικλίδες ασφαλείας.
