«Πάνω από 10% πιθανότητα η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα»
Ερευνητής της εταιρείας Anthropic προειδοποιεί ότι οι πιθανότητες η τεχνητή νοημοσύνη να προκαλέσει τον ολοκληρωτικό αφανισμό της ανθρωπότητας ξεπερνούν το 10%, μετά την ηχηρή παραίτηση συναδέλφου του λόγω ανησυχίας για την επόμενη ημέρα
Snapshot
- Ένας ερευνητής της Anthropic εκτιμά ότι η πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει τον αφανισμό της ανθρωπότητας είναι πάνω από 10% μέσα στην επόμενη δεκαετία.
- Ο Τζέικομπ Κόξον παραιτήθηκε από την Anthropic λόγω ανησυχιών ότι τα εργαστήρια τεχνητής νοημοσύνης δεν ενεργούν υπεύθυνα και προωθούν επικίνδυνα την αυτοβελτιούμενη υπερνοημοσύνη.
- Η Anthropic αναγνωρίζει τον κίνδυνο αφανισμού από την τεχνητή νοημοσύνη και παραδέχεται ότι δεν διαθέτει ακόμη αποτελεσματικό σχέδιο για την ευθυγράμμιση της υπερνοημοσύνης.
- Το φαινόμενο της αυτοβελτίωσης της τεχνητής νοημοσύνης, αν και δεν είναι ακόμα εφικτό, θεωρείται πιθανό να αυξήσει την απώλεια ελέγχου επί των συστημάτων τεχνητής νοημοσύνης.
- Η πρόσφατη παραβίαση του Hugging Face από μοντέλο της OpenAI ενισχύει τις ανησυχίες για την ανεξέλεγκτη τεχνητή νοημοσύνη και την ανάγκη για συντονισμένη παγκόσμια δράση.
Υπάρχει πιθανότητα πάνω από 10% η τεχνητή νοημοσύνη να «σκοτώσει όλους τους ανθρώπους», δήλωσε χθες ένας ερευνητής της Anthropic, λίγες ώρες αφότου ένας άλλος υπάλληλος δήλωσε ότι παραιτείται από την εταιρεία επειδή ανησυχεί ότι τα εργαστήρια τεχνητής νοημοσύνης «παίζουν με τις ζωές μας».
Η υπόθεση υπογραμμίζει τις αυξανόμενες ανησυχίες μεταξύ εκείνων που βρίσκονται στην καρδιά της ανάπτυξης της Τεχνητής Νοημοσύνης ότι η τεχνολογία θα μπορούσε να ξεφύγει από τον έλεγχο και να αποτελέσει απειλή για την ανθρωπότητα, ακόμη και την ώρα που οι Anthropic και OpenAI συνεχίζουν να συγκεντρώνουν μεγάλα χρηματικά ποσά και οδεύουν προς τις αναμενόμενες δημόσιες εγγραφές .
Ο Τζέικομπ Κόξον, ερευνητής στην Anthropic, δήλωσε χθες ότι παραιτήθηκε από την εταιρεία. Ο Κόξον είπε ότι ούτε η Anthropic ούτε η OpenAI ενεργούν υπεύθυνα. «Τρέχουν κατευθείαν στην αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», δήλωσε σε μια ανάρτηση στο X.
Η αυτοβελτίωση είναι η ιδέα ότι τα συστήματα Τεχνητής Νοημοσύνης μπορούν να αυτοβελτιωθούν χωρίς ιδιαίτερη ανθρώπινη παρέμβαση. Η επαναλαμβανόμενη αυτοβελτίωση, όπως συχνά αποκαλείται, δεν είναι ακόμη εφικτή, αλλά τα εργαστήρια Τεχνητής Νοημοσύνης εργάζονται προς την επίτευξη αυτού του στόχου.
«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Σύντομα, αυτά θα είναι υπεράνθρωπα συστήματα που θα μπορούν να χακάρουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα από τη μια μέρα στην άλλη και να αποκτήσουν πραγματική δύναμη και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε κάθε έναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται», δήλωσε ο Κόξον.Πρόσθεσε ότι «οι άνθρωποι που κατασκευάζουν Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας»
Το σχόλιό του προκάλεσε την απάντηση του Ίβαν Χούμπινγκερ επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic, ο οποίος είπε ότι όχι μόνο η δήλωση του Coxon ήταν «σωστή», αλλά και ότι η Anthropic δεν έχει κανένα σχέδιο για ένα τέτοιο σενάριο. «Ο Τζέικομπ έχει δίκιο. Πιστεύουμε ακράδαντα ότι η Τεχνητή Νοημοσύνη θα μπορούσε να αφανίσει την ανθρωπότητα —προσωπικά εκτιμώ την πιθανότητα αυτή σε πάνω από 10% μέσα στην επόμενη δεκαετία. Η Anthropic καταβάλλει κάθε δυνατή προσπάθεια, αλλά δεν διαθέτουμε ακόμη πλάνο για την επίλυση του προβλήματος της ευθυγράμμισης (alignment) της υπερνοημοσύνης, και είναι σαφές ότι δεν βρισκόμαστε σε καλό δρόμο», έγραψε ο Χούμπινγκερ στο X.
Τον Ιούνιο, η Anthropic είχε σημειώσει ότι «η πλήρης αναδρομική αυτοβελτίωση θα μπορούσε επίσης να αυξήσει τους κινδύνους απώλειας του ελέγχου των συστημάτων τεχνητής νοημοσύνης από τους ανθρώπους. Εάν τα συστήματα είναι ικανά να δημιουργήσουν πλήρως τους δικούς τους διαδόχους, οι τρόποι με τους οποίους τα ασφαλίζουμε, τα παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους αποκτούν πολύ μεγαλύτερη σημασία», ανέφερε η Anthropic σε μια ανάρτηση ιστολογίου.
Οι ανησυχίες για την ανεξέλεγκτη τεχνητή νοημοσύνη δεν είναι καινούργιες.Ο διευθύνων Σύμβουλος των Tesla και SpaceX Έλον Μασκ έχει προειδοποιήσει τα τελευταία χρόνια ότι η Τεχνητή Νοημοσύνη θα μπορούσε να αποτελέσει απειλή για την ανθρωπότητα. Σημαντικοί ερευνητές και ακαδημαϊκοί έχουν επίσης κρούσει τον κώδωνα του κινδύνου για την απώλεια του ελέγχου των συστημάτων Τεχνητής Νοημοσύνης από εταιρείες.
Οι ανησυχίες αυτές εντάθηκαν τον Ιούλιο, όταν ένα μοντέλο της OpenAI βγήκε εκτός ελέγχου και παραβίασε το Hugging Face —μια κομβική πλατφόρμα για προγραμματιστές ανοιχτού κώδικα. Ο Κόξον χαρακτήρισε το περιστατικό "προειδοποιητική βολή", σημειώνοντας ότι αντίστοιχα γεγονότα καθιστούν πιο εφικτή τη σύναψη συμφωνιών μεταξύ των αμερικανικών εργαστηρίων και ενισχύουν την αισιοδοξία για συντονισμένη δράση. Ωστόσο, ο ίδιος προειδοποίησε ότι ο παγκόσμιος αγώνας δρόμου στην Τεχνητή Νοημοσύνη παραμένει αναπόφευκτος
«Δεν πιστεύω ότι είμαστε σε καλό δρόμο για να αποτρέψουμε έναν παγκόσμιο αγώνα δρόμου, ο οποίος μπορεί να απαιτήσει δαπανηρές ενέργειες, όπως μια προσωρινή απαγόρευση της βελτίωσης των δυνατοτήτων των μοντέλων», δήλωσε ο Κόξον.
