Ο κολοσσός της Τεχνητής Νοημοσύνης που φοβάται ότι θα φέρει το τέλος του κόσμου

Ο μεγαλύτερος φόβος για το τέλος του ανθρώπινου πολιτισμού δεν προέρχεται πλέον από κάποιον εξωτερικό κίνδυνο, όπως έναν μετεωρίτη, μια έκρηξη ενός υπερηφαιστείου, έναν υπερϊό ή έστω μια εισβολή εξωγήινων, αλλά από τα ίδια τα εργαστήρια που δημιουργούν αυτό που κατά κάποιους είναι το μέλλον μας.

Η Anthropic, η εταιρεία πίσω από το πανίσχυρο μοντέλο τεχνητής νοημοσύνης Claude, παραδέχεται ανοιχτά ότι η τεχνολογία της είναι τόσο επικίνδυνη που θα μπορούσε να επιφέρει την ολοκληρωτική καταστροφή.

Σε μια κίνηση που προκαλεί έκπληξη σε όσους παρακολουθούν τις εξελίξεις, η startup της Silicon Valley άνοιξε 32 εξαιρετικά ευαίσθητες θέσεις εργασίας, αναζητώντας ειδικούς στα όπλα μαζικής καταστροφής. Στόχος της είναι να οχυρώσει τα συστήματά της πριν αυτά χρησιμοποιηθούν για τον σχεδιασμό πυρηνικών επιθέσεων, την κατασκευή εκρηκτικών και τη διασπορά θανατηφόρων βιολογικών παραγόντων.

Το σαμποτάζ εκ των έσω

Οι περιγραφές των θέσεων εργασίας αποκαλύπτουν τον φόβο που επικρατεί πίσω από τις κλειστές πόρτες της εταιρείας. Η Anthropic αναζητά αναλυτές επιβολής πολιτικής με βαθιά γνώση σε ραδιολογικά και πυρηνικά όπλα, προσφέροντας ετήσιους μισθούς που ξεπερνούν τις 250.000 δολάρια. Οι συγκεκριμένοι επιστήμονες δεν θα γράφουν κώδικα, αλλά θα πρέπει να σκέφτονται ακριβώς όπως ένας τρομοκράτης που προσπαθεί να παρακάμψει τα ψηφιακά φίλτρα ασφαλείας. Καλούνται να υποβάλουν το Claude σε ακραία τεστ αντοχής, προσπαθώντας να του αποσπάσουν οδηγίες για τη δημιουργία βομβών.

Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει προειδοποιήσει επανειλημμένα για τον κίνδυνο βιολογικών επιθέσεων που θα μπορούσαν να προκαλέσουν εκατομμύρια θύματα μέσα σε λίγα χρόνια, αν η τεχνητή νοημοσύνη αφεθεί ανεξέλεγκτη.

Η ιδιωτικοποίηση του ολέθρου

Η δραματική αυτή προσπάθεια της εταιρείας να συγκρατήσει το ίδιο της το δημιούργημα φέρνει στην επιφάνεια μια τρομακτική πραγματικότητα. Την ίδια ώρα που η OpenAI προσφέρει έως και 445.000 δολάρια για αντίστοιχους ερευνητές βιολογικών κινδύνων, οι κυβερνήσεις παγκοσμίως παραμένουν απλοί θεατές.

Όπως ίσως θα μπορούσε να συμπεράνει κανείς, η παγκόσμια ασφάλεια δεν εξαρτάται πλέον από κρατικές υπηρεσίες ή διεθνείς συνθήκες, αλλά από την ικανότητα μερικών ιδιωτικών κολοσσών να βάλουν φρένο στα δικά τους προϊόντα.

Διαβάστε επίσης