Έρευνα για την τεχνητή νοημοσύνη: Θα μπορούσε να βοηθήσει στην ανάπτυξη βιολογικού όπλου

Τα μοντέλα τεχνητής νοημοσύνης που υποστηρίζουν τα chatbots θα μπορούσαν να βοηθήσουν στο σχεδιασμό μιας επίθεσης με βιολογικό όπλο, σύμφωνα με έρευνα αμερικανικής εταιρείας.

Μια έκθεση της Rand Corporation που δημοσιεύθηκε τη Δευτέρα (16/10) δοκίμασε πολλά μεγάλα γλωσσικά μοντέλα (LLM) και διαπίστωσε ότι θα μπορούσαν να παρέχουν οδηγίες που «θα μπορούσαν να βοηθήσουν στον σχεδιασμό και την εκτέλεση μιας βιολογικής επίθεσης». Ωστόσο, τα προκαταρκτικά ευρήματα έδειξαν επίσης ότι τα LLM δεν παρήγαγαν ρητές βιολογικές οδηγίες για τη δημιουργία όπλων.

Η έκθεση ανέφερε ότι προηγούμενες προσπάθειες να οπλιστούν βιολογικοί παράγοντες, όπως μια προσπάθεια της ιαπωνικής σέκτας Aum Shinrikyo να χρησιμοποιήσει τοξίνη αλλαντίασης τη δεκαετία του 1990, απέτυχαν λόγω έλλειψης κατανόησης του βακτηρίου. Η τεχνητή νοημοσύνη θα μπορούσε «να γεφυρώσει γρήγορα τέτοια κενά γνώσης», ανέφερε η έκθεση.

Τα βιολογικά όπλα είναι μεταξύ των σοβαρών απειλών που σχετίζονται με το ΑΙ και θα συζητηθούν στην παγκόσμια σύνοδο κορυφής για την ασφάλεια της τεχνητής νοημοσύνης τον επόμενο μήνα στο Ηνωμένο Βασίλειο. Τον Ιούλιο ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της εταιρείας AI Anthropic, προειδοποίησε ότι τα συστήματα AI θα μπορούσαν να βοηθήσουν στη δημιουργία βιολογικών όπλων σε δύο έως τρία χρόνια.

Οι LLM εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων που λαμβάνονται από το διαδίκτυο και αποτελούν βασική τεχνολογία πίσω από τα chatbots όπως το ChatGPT. Σε ένα δοκιμαστικό σενάριο που επινόησε η Rand, το ανώνυμα LLM εντόπισε πιθανούς βιολογικούς παράγοντες – συμπεριλαμβανομένων αυτών που προκαλούν ευλογιά, άνθρακα και πανώλη – και συζήτησε τις σχετικές πιθανότητες πρόκλησης μαζικού θανάτου.

Το μοντέλο αξιολόγησε επίσης τη δυνατότητα απόκτησης τρωκτικών ή ψύλλων μολυσμένων από πανώλη και μεταφοράς ζωντανών δειγμάτων. Στη συνέχεια, ανέφερε ότι η κλίμακα των προβλεπόμενων θανάτων εξαρτιόταν από παράγοντες όπως το μέγεθος του πληγέντος πληθυσμού και το ποσοστό των περιπτώσεων πνευμονικής πανώλης, που είναι πιο θανατηφόρα από τη βουβωνική πανώλη.

Σε ένα άλλο σενάριο, το ανώνυμο LLM συζήτησε τα πλεονεκτήματα και τα μειονεκτήματα των διαφορετικών μηχανισμών χορήγησης για την τοξίνη αλλαντίασης – η οποία μπορεί να προκαλέσει θανατηφόρα νευρική βλάβη – όπως τα τρόφιμα ή τα αερολύματα. Το LLM ενημέρωσε επίσης για ένα εύλογο εξώφυλλο για την απόκτηση του Clostridium botulinum «ενώ φαίνεται να διεξάγει νόμιμη επιστημονική έρευνα».

Οι ερευνητές είπαν ότι τα προκαταρκτικά αποτελέσματά τους έδειξαν ότι τα μοντέλα ΑΙ θα μπορούσαν «δυνητικά να βοηθήσουν στον σχεδιασμό μιας βιολογικής επίθεσης». Είπαν ότι η τελική έκθεσή τους θα εξετάσει εάν οι απαντήσεις απλώς αντικατοπτρίζουν πληροφορίες που είναι ήδη διαθέσιμες στο διαδίκτυο. «Παραμένει ένα ανοιχτό ερώτημα εάν οι δυνατότητες τους αντιπροσωπεύουν ένα νέο επίπεδο απειλής πέρα ​​από τις επιβλαβείς πληροφορίες που είναι άμεσα διαθέσιμες στο διαδίκτυο», είπαν οι ερευνητές.

Guardian