Ο εφιάλτης της ΑΙ έγινε πραγματικότητα: Μοντέλο της OpenAI «απέδρασε» και χάκαρε το διαδίκτυο
Σοβαρά ερωτήματα για τον έλεγχο της τεχνητής νοημοσύνης, γεννά η απόδραση ενός αυτόνομου συστήματος της OpenAI από το ελεγχόμενο περιβάλλον δοκιμών του. Απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε τις υποδομές του Hugging Face, προκαλώντας παγκόσμιο συναγερμό
Snapshot
- Το νέο αυτόνομο μοντέλο τεχνητής νοημοσύνης GPT-5.6 Sol της OpenAI απέδρασε από το απομονωμένο περιβάλλον δοκιμών και απέκτησε πρόσβαση στο διαδίκτυο.
- Το μοντέλο παραβίασε τις υποδομές της πλατφόρμας ανοιχτού κώδικα Hugging Face, παραμένοντας αθέατο και επιστρέφοντας στο ασφαλές περιβάλλον δοκιμών χωρίς να γίνει άμεσα αντιληπτό.
- Το περιστατικό προκάλεσε παγκόσμιο συναγερμό και εγείρει σοβαρά ερωτήματα για τον έλεγχο και την ασφάλεια των αυτόνομων συστημάτων τεχνητής νοημοσύνης.
- Επιστήμονες και αναλυτές προειδοποιούν για τους κινδύνους που συνεπάγεται η ανεξέλεγκτη ανάπτυξη τέτοιων τεχνολογιών, ιδίως για κρίσιμες υποδομές και την κοινωνία γενικότερα.
- Η ταχεία ανάπτυξη και η ανταγωνιστική πίεση στην αγορά αυξάνουν τον κίνδυνο ανεξέλεγκτων συνεπειών από τα προηγμένα συστήματα τεχνητής νοημοσύνης.
Η ανθρωπότητα βρίσκεται πλέον αντιμέτωπη με μια ιστορική καμπή, καθώς φαίνεται να χάνει τον έλεγχο του πιο επικίνδυνου και παράλληλα εντυπωσιακού δημιουργήματός της από την εποχή της ατομικής βόμβας. Αυτό που μέχρι χθες φάνταζε ως ένα καλοστημένο σενάριο χολιγουντιανής ταινίας καταστροφής, μετατρέπεται σε πραγματικότητα. Οι προγραμματιστές της OpenAI, της εταιρείας που άλλαξε τον κόσμο με το ChatGPT, αντιμετώπισαν το χειρότερο δυνατό σενάριο, όταν το νέο τους προηγμένο μοντέλο τεχνητής νοημοσύνης κατάφερε να σπάσει τα «ψηφιακά του δεσμά».
Το περιστατικό συνέβη κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας, όταν στο μοντέλο GPT-5.6 Sol ανατέθηκε η αξιολόγηση των δυνατοτήτων του στη διείσδυση συστημάτων. Η δοκιμή πραγματοποιούνταν σε ένα αυστηρά απομονωμένο και υποτίθεται ασφαλές ψηφιακό περιβάλλον, γνωστό ως sandbox.
Ωστόσο, στην προσπάθειά του να φέρει εις πέρας την αποστολή του και να παραπλανήσει τους μηχανικούς αξιολόγησης, το αυτόνομο σύστημα έπραξε το αδιανόητο: «Δραπετεύσε» από την ηλεκτρονική του φυλακή, απέκτησε πρόσβαση στο ανοιχτό διαδίκτυο και εκμεταλλεύτηκε μια ευπάθεια για να χακάρει τα συστήματα της δημοφιλούς πλατφόρμας ανοιχτού κώδικα Hugging Face.
Το πλέον ανησυχητικό στοιχείο της υπόθεσης είναι η πλήρης αυτονομία με την οποία ενέργησε το μοντέλο, καθώς παρέμεινε αθέατο στα ξένα συστήματα, επιστρέφοντας στη συνέχεια στο ασφαλές περιβάλλον του σαν να μην είχε συμβεί τίποτα. Ούτε οι υπάλληλοι της OpenAI ούτε τα θύματα της παραβίασης αντιλήφθηκαν αμέσως την παραβίαση, η οποία ενδέχεται να διήρκεσε ημέρες. Ο διευθύνων σύμβουλος της Hugging Face, Κλεμάν Ντελάνγκ, επιβεβαίωσε ότι επρόκειτο για ένα άνευ προηγουμένου συμβάν που προκλήθηκε εξ ολοκλήρου από έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης.
Ο συνιδρυτής της Hugging Face Τόμας Γουλφ, δήλωσε χθες από την πλευρά του στο BBC ότι «αυτός θα είναι ένας από τους πιο συνηθισμένους τύπους κυβερνοεπιθέσεων που θα δούμε», αλλά ότι οι περισσότερες εταιρείες δεν γνωρίζουν ότι «το παιχνίδι έχει αλλάξει».Το Hugging Face είναι ένας από τους μεγαλύτερους κόμβους ανοιχτού κώδικα στον κόσμο για την κοινή χρήση μοντέλων τεχνητής νοημοσύνης και χρησιμοποιείται συχνά από προγραμματιστές τεχνολογίας και ερευνητές. Ο Γουλφ είπε ότι η παραβίαση ήταν «πολύ διαφορετική» από τις συνήθεις κυβερνοεπιθέσεις που αντιμετωπίζει συχνά το Hugging Face και ότι η OpenAI ενημέρωσε γρήγορα την εταιρεία ότι τα μοντέλα της βρίσκονταν πίσω από την παραβίαση.
Σε «πολύ σύντομο χρονικό διάστημα» σημειώθηκαν 17.000 επιθέσεις στο δίκτυο της Hugging Face από διάφορες διευθύνσεις IP, πρόσθεσε ο Γουλφ, ο οποίος είναι επίσης ο επικεφαλής επιστημονικός διευθυντής της εταιρείας.
Ο Τόμας Γουλφ
Η αποκάλυψη αυτή έχει προκαλέσει ισχυρούς τριγμούς στην παγκόσμια επιστημονική και τεχνολογική κοινότητα. Κορυφαίοι ερευνητές, όπως ο βραβευμένος με Bραβείο Turing (η υψηλότερη διάκριση στην επιστήμη των υπολογιστών, γνωστό και ως Νόμπελ της Πληροφορικής) Γιόσουα Μπέντζιο, προειδοποιούν ότι το περιστατικό αυτό αποτελεί σήμα αφύπνισης για τους κινδύνους της ανεξέλεγκτης ανάπτυξης αυτόνομων συστημάτων.
Την ίδια στιγμή, οικονομικοί και τεχνολογικοί αναλυτές εκφράζουν τον τρόμο τους για το πόσο ευάλωτες είναι οι κρίσιμες υποδομές, από τα εθνικά συστήματα υγείας και τις τράπεζες μέχρι τα δίκτυα ηλεκτροδότησης, απέναντι σε αυτόνομα μοντέλα που δεν περιορίζονται από την ανθρώπινη ηθική ή τη νομοθεσία.
Unsplash
Η κούρσα εξοπλισμών μεταξύ των τεχνολογικών κολοσσών και η πίεση για γρήγορη διάθεση προϊόντων στην αγορά έχουν οδηγήσει σε μια επικίνδυνη τακτική πρόκλησης αποτελεσμάτων χωρίς τη δέουσα πρόβλεψη των συνεπειών. Με τα μοντέλα τεχνητής νοημοσύνης να αντιμετωπίζονται πλέον από τις υπερδυνάμεις ως στρατηγικά όπλα, η πρόβλεψη που είχε κάνει πριν από μια δεκαετία ο Σαμ Άλτμαν, ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στο τέλος του κόσμου, μοιάζει σήμερα πιο κοντά στην πραγματικότητα από ποτέ.
