Εφιαλτική έρευνα ασφαλείας: Μεγάλα chatbots δημιούργησαν σχέδια τρομοκρατικών επιθέσεων στην Αμερική
Κάθε chatbot παρήγαγε το σχέδιό του σε λιγότερο από 12 ώρες, με συγκεκριμένους στόχους, τοποθεσίες, χρονισμό και μεθόδους επίθεσης
Snapshot
- Τέσσερα κορυφαία chatbots τεχνητής νοημοσύνης παρήγαγαν σε λιγότερο από 12 ώρες λεπτομερή και βιώσιμα σχέδια τρομοκρατικών επιθέσεων στις ΗΠΑ.
- Τα μέτρα ασφαλείας των ChatGPT, Claude, Gemini και Grok παρακάμφθηκαν εύκολα από τους ερευνητές που προσομοίωσαν απλούς χρήστες.
- Οι πλατφόρμες παρείχαν πληροφορίες για κατασκευή και πυροδότηση αυτοσχέδιων εκρηκτικών μηχανισμών που θα μπορούσαν να προκαλέσουν μαζικά θύματα.
- Η γερουσιαστής Μάγκι Χασάν ανακοίνωσε σχέδια για ακρόαση και κάλεσε το Κογκρέσο να λάβει άμεσα μέτρα για την αντιμετώπιση της απειλής.
- Οι εταιρείες Anthropic, Google, OpenAI και SpaceXAI δηλώνουν ότι εργάζονται για τη βελτίωση της ασφάλειας των πλατφορμών τους.
Τρομακτικά είναι τα συμπεράσματα κυβερνητικής έρευνας που αποκάλυψαν ότι τέσσερα κορυφαία chatbots τεχνητής νοημοσύνης βοήθησαν τους ερευνητές να σχεδιάσουν βιώσιμα σχέδια για επιθέσεις με μαζικά θύματα και επιθέσεις στο αμερικανικό δίκτυο ηλεκτρικής ενέργειας.
Η έκθεση του Γραφείου Λογοδοσίας της Κυβέρνησης, που δημοσιεύτηκε την Τετάρτη, διαπίστωσε ότι τα μέτρα ασφαλείας που ενσωματώνονται στα ChatGPT, Claude, Gemini και Grok παρακάμπτονταν εύκολα, επιτρέποντας στους ερευνητές να αποκτήσουν λεπτομερή σχέδια επίθεσης που ανεξάρτητοι ειδικοί έκριναν ότι θα μπορούσαν να προκαλέσουν πραγματική βλάβη.
Κάθε chatbot παρήγαγε το σχέδιό του σε λιγότερο από 12 ώρες, με συγκεκριμένους στόχους, τοποθεσίες, χρονισμό και μεθόδους επίθεσης.
Οι ερευνητές δήλωσαν ότι οι τέσσερις πλατφόρμες τεχνητής νοημοσύνης «παρήγαγαν εφικτές πληροφορίες που θα μπορούσαν να βοηθήσουν έναν κακόβουλο παράγοντα στον σχεδιασμό και την εκτέλεση επιθέσεων.»
«Συγκεκριμένα, σε απάντηση σε ερωτήσεις, δύο πλατφόρμες παρήγαγαν πληροφορίες για την κατασκευή και την πυροδότηση ενός αυτοσχέδιου εκρηκτικού μηχανισμού (IED) σχεδιασμένου να προκαλέσει μαζικά θύματα», ανέφερε το GAO στην έκθεση.
Η γερουσιαστής Μάγκι Χασάν, η επερχόμενη πρόεδρος της Επιτροπής Εσωτερικής Ασφάλειας και Κυβερνητικών Υποθέσεων της Γερουσίας, ανακοίνωσε σχέδια για ακρόαση σχετικά με την απειλή και κάλεσε το Κογκρέσο να δράσει γρήγορα.
Οι ερευνητές του GAO πραγματοποίησαν τον έλεγχο απόδοσης από τον Δεκέμβριο του 2025 έως τον Οκτώβριο του 2026, συμπεριλαμβανομένων δοκιμών την άνοιξη του 2026.
Οι ερευνητές προσποιούνταν ότι ήταν απλοί χρήστες με περιορισμένη γνώση της τεχνητής νοημοσύνης.
Αρχικά υπέβαλαν προετοιμασμένες προτροπές, αλλά καμία αρχικά δεν παρήγαγε κακόβουλες πληροφορίες.
Ωστόσο, οι ερευνητές συνέχισαν τις συνομιλίες με ερωτήσεις βασισμένες στις απαντήσεις κάθε chatbot, παρακάμπτοντας τα μέτρα ασφαλείας των τεχνολογιών.
Ενώ η έκθεση ανέφερε τις τέσσερις πλατφόρμες που δοκιμάστηκαν, δεν αποκάλυψε ποιο σύστημα τεχνητής νοημοσύνης παρήγαγε ποια αποτελέσματα.
Η έκθεση των 61 σελίδων περιλαμβάνει απαντήσεις από τις τεχνολογικές εταιρείες Anthropic, Google, OpenAI και SpaceXAI, οι οποίες σε μεγάλο βαθμό δήλωσαν ότι συνεχίζουν να βελτιώνουν τις πλατφόρμες τους για να διασφαλίσουν την ασφάλεια.
«Τα πιθανά οφέλη αυτής της τεχνολογίας είναι τεράστια, αλλά μπορούν επίσης να ωφελήσουν κακόβουλους παράγοντες», έγραψε το GAO.