Συναγερμός για την ΑΙ: Πώς η Anthropic μπλόκαρε απόπειρες δημιουργίας βιολογικών όπλων

Snapshot

• Η Anthropic απέτρεψε πολλαπλές προσπάθειες χρήσης της τεχνητής νοημοσύνης της για την ανάπτυξη βιολογικών και συμβατικών όπλων.
• Κρατικά υποστηριζόμενες ομάδες από Ρωσία και Κίνα, καθώς και εγκληματικές οργανώσεις, επιχείρησαν να καταχραστούν τα μοντέλα AI της εταιρείας.
• Η έκθεση αναφέρει ότι κινεζικές εταιρείες προσπαθούν να αντιγράψουν τις δυνατότητες του μοντέλου Claude της Anthropic.
• Υπάρχουν εκκλήσεις για επιβράδυνση και ρύθμιση της ανάπτυξης προηγμένης τεχνητής νοημοσύνης λόγω των σοβαρών κινδύνων ασφαλείας.
• Ερευνητές και εταιρείες AI, όπως η OpenAI, ζητούν μέτρα ασφαλείας και εθελοντικές επιβραδύνσεις στην εξέλιξη της τεχνητής νοημοσύνης.

Snapshot powered by AI

Σε μια ανησυχητική είδηση που φέρνει ξανά στο προσκήνιο τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης, η εταιρεία Anthropic ανακοίνωσε ότι εντόπισε και απέτρεψε πολλαπλές απόπειρες χρήσης των μοντέλων της για κακόβουλους σκοπούς. Η πρόσφατη έκθεση πληροφοριών για τις απειλές της εταιρείας αποκαλύπτει ότι χρήστες επιχείρησαν να αξιοποιήσουν την τεχνητή νοημοσύνη για την ανάπτυξη βιολογικών όπλων, αλλά και για τον σχεδιασμό συμβατικών πολεμικών συστημάτων.

Τα ευρήματα αυτά ενισχύουν την αυξανόμενη ανησυχία της επιστημονικής κοινότητας σχετικά με την ταχύτητα εξέλιξης των μοντέλων AI. Όπως επισημαίνει η εταιρεία, η κατάχρηση της τεχνολογίας στον βιολογικό τομέα αποτελεί έναν από τους σοβαρότερους κινδύνους, καθώς οι ίδιες πληροφορίες που συντελούν στη δημιουργία ενός εμβολίου μπορούν, χωρίς τις κατάλληλες ασφαλιστικές δικλίδες, να μετατραπούν σε φονικό όπλο. Παράλληλα, καταγράφηκαν περιστατικά όπου τα μοντέλα χρησιμοποιήθηκαν για την ανάπτυξη λογισμικού που αφορά πυροβόλα όπλα, πυραύλους, οπλισμένα drones και συστήματα στοχοποίησης.

Η δραστηριότητα αυτή δεν περιορίζεται σε μεμονωμένους χρήστες, καθώς στην έκθεση εμπλέκονται κρατικά υποστηριζόμενες ομάδες χάκερ από τη Ρωσία και την Κίνα, εγκληματικές οργανώσεις, αλλά και κινεζικές εταιρείες που επιχείρησαν να αντιγράψουν τις δυνατότητες του μοντέλου Claude. Τα περιστατικά που εντοπίστηκαν τους τελευταίους οκτώ μήνες κυμαίνονταν από ψεύτικες εφαρμογές γνωριμιών και απάτες Wifi ξενοδοχείων, έως συστήματα παρακολούθησης που δημιουργήθηκαν για τον εντοπισμό αντιφρονούντων.

Η Anthropic κατηγόρησε συγκεκριμένα κινεζικές εταιρείες τεχνητής νοημοσύνης ότι προσπαθούν να αναπαράγουν τις δυνατότητες του Claude. Η εκτενής έκθεση απαριθμεί περιπτώσεις στις οποίες ύποπτες ομάδες που χρηματοδοτούνται από το κράτος, εγκληματίες, πωλητές spyware, κρατικά ιδρύματα προπαγάνδας και πολιτικά υποκινούμενα άτομα έκαναν κατάχρηση της τεχνολογίας της.

Ο Τζέικομπ Κλάιν, επικεφαλής της υπηρεσίας πληροφοριών για απειλές στην Anthropic, δήλωσε στους New York Times ότι επρόκειτο για «μια απίστευτα λεπτή κατάσταση». «Δεν βλέπεις κάποιον σε κόμικ να λέει, "Θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες"», είπε. Η Anthropic, μαζί με άλλες πρωτοπόρες εταιρείες του κλάδου όπως η Google, διαβεβαιώνει ότι ενισχύει συνεχώς τους μηχανισμούς ανίχνευσης και μοιράζεται δεδομένα με τις αρμόδιες αρχές για τη διακοπή αυτών των επιχειρήσεων.

Οι προειδοποιήσεις έχουν προκαλέσει εκκλήσεις για δράση, με τον Αμερικανό γερουσιαστή Μπέρνι Σάντερς να απαιτεί παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης και απαγόρευση της τεχνητής υπερνοημοσύνης. Ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ έχει μέχρι στιγμής απορρίψει τέτοιους φόβους, εκφράζοντας ωστόσο ανησυχία ότι «αν δεν κερδίσουμε την Τεχνητή Νοημοσύνη, θα βρεθούμε σε πολύ δύσκολη θέση»

Η έκθεση της Anthropic- η πρώτη της εταιρείας φέτος - δημοσιοποιείται μετά την προειδοποίηση ενός κορυφαίου ερευνητή ασφάλειας της ότι η τεχνητή νοημοσύνη εξελίσσεται τόσο γρήγορα που πιστεύει ότι υπάρχει πιθανότητα μεγαλύτερη από 10% να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.

Σε άρθρο που δημοσιεύθηκε στις 6 Σεπτεμβρίου, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, κάλεσε τον κλάδο να εφαρμόσει «εθελοντικές επιβραδύνσεις» μέχρι να τεθούν μέτρα ασφαλείας. «Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ραγδαίας αύξησης της μηχανικής νοημοσύνης», δήλωσε, προσθέτοντας ότι η OpenAI, η οποία κατασκευάζει το ChatGPT, θα συνεχίσει το έργο της για την κατασκευή μέτρων ασφαλείας, αν και απαιτούνται ευρύτερες παρεμβάσεις.