WSJ: Ξεχάστε την «Αποκάλυψη» της AI – Οι πραγματικοί κίνδυνοι είναι ήδη εδώ
Μέσα από την αμερικανική βιομηχανία της AI υποστηρίζουν ότι τα χειρότερα βρίσκονται ακόμη μπροστά μας
Snapshot
- Η τεχνητή νοημοσύνη έχει ήδη προκαλέσει σοβαρούς κινδύνους, όπως κυβερνοεπιθέσεις και κατασκευή όπλων, χωρίς να απαιτείται υπερανθρώπινη νοημοσύνη.
- Πολλοί ειδικοί αμφισβητούν ότι έχει επιτευχθεί η αναδρομική αυτοβελτίωση της AI και θεωρούν ότι η πλήρης αυτοβελτίωση απέχει ακόμη πολύ.
- Η υπερβολική εστίαση στην πιθανή υπερνοημοσύνη μπορεί να αποσπάσει την προσοχή από τους άμεσους και υπαρκτούς κινδύνους της AI σήμερα.
- Προτείνεται η τακτική αξιολόγηση των συστημάτων AI από ανεξάρτητους φορείς και η εφαρμογή αυστηρών ρυθμίσεων, παρόμοιων με αυτές σε κρίσιμους τεχνολογικούς τομείς.
- Η δημιουργία ειδικής ρυθμιστικής αρχής για την AI συζητείται, ενώ αυξάνεται η διακομματική υποστήριξη για αυστηρότερους περιορισμούς στην τεχνολογική βιομηχανία.
Υπάρχουν ήδη άφθονα και ανησυχητικά στοιχεία ότι η τεχνητή νοημοσύνη μπορεί να βοηθήσει ανθρώπους να κάνουν επικίνδυνα πράγματα: να πραγματοποιήσουν κυβερνοεπιθέσεις, να κατασκευάσουν όπλα ή ακόμη και να βλάψουν τον εαυτό τους ή άλλους, επισημαίνεται σε δημοσίευμα της αμερικανικής εφημερίδας Wall Street Journal, το οποίο δημοσιεύεται και στην ιστοσελίδα της.
Το περιστατικό κυβερνοεπίθεσης που συνδέθηκε με το Hugging Face, μία από τις μεγαλύτερες διεθνείς πλατφόρμες φιλοξενίας και διαμοιρασμού μοντέλων τεχνητής νοημοσύνης, καθώς και μια αυξανόμενη σειρά παρόμοιων περιστατικών ομάδων AI agents με ανεπαρκείς περιορισμούς, δείχνει πόσο ισχυρή και δυνητικά επικίνδυνη έχει ήδη γίνει η τεχνητή νοημοσύνη μέσα σε πολύ σύντομο χρονικό διάστημα.
Ωστόσο, πολλοί μέσα στην αμερικανική βιομηχανία της AI υποστηρίζουν ότι τα χειρότερα βρίσκονται ακόμη μπροστά μας, εξαιτίας της πιθανής εμφάνισης συστημάτων με υπερανθρώπινες ικανότητες και δυνατότητα αυτοβελτίωσης.
Αρκετοί ειδικοί, όμως, μεταξύ των οποίων και πολλοί που μελετούν επαγγελματικά τους κινδύνους της AI, εμφανίζονται επιφυλακτικοί.
Η άποψη των λεγόμενων «doomers», σύμφωνα με την οποία η τεχνητή νοημοσύνη θα μπορούσε να αποφασίσει να εξαλείψει την ανθρωπότητα ή ακόμη και «απλώς» να ανατρέψει τον ανθρώπινο πολιτισμό, προϋποθέτει ρυθμούς τεχνολογικής ανάπτυξης που μέχρι σήμερα δεν έχουν παρατηρηθεί.
Και εάν οι παραδοχές πάνω στις οποίες στηρίζεται αυτό το σενάριο παγκόσμιας καταστροφής αποδειχθούν λανθασμένες, υπάρχει ο κίνδυνος να περιορίσουμε ή να ρυθμίσουμε την AI με τρόπους που δεν αντιμετωπίζουν τις πραγματικές βλάβες που προκαλεί ήδη σήμερα.
Η συζήτηση για την «αναδρομική αυτοβελτίωση»
Στο επίκεντρο της συζήτησης βρίσκεται ο ισχυρισμός ότι τα σημερινά συστήματα τεχνητής νοημοσύνης θα μπορούσαν κάποια στιγμή να αναλάβουν τα ίδια την εκπαίδευση των επόμενων γενεών μοντέλων.
Η διαδικασία αυτή αποκαλείται recursive self-improvement, δηλαδή αναδρομική ή επαναληπτική αυτοβελτίωση.
Θα μπορούσε κανείς να τη φανταστεί ως εξέλιξη «με στεροειδή»: διαδικασίες που στη φύση θα χρειάζονταν δισεκατομμύρια χρόνια να πραγματοποιούνται με ταχύτητα φωτός μέσα σε τεράστια υπερυπολογιστικά συστήματα AI.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, πρότεινε πρόσφατα μια διεθνή συμφωνία που θα επιβραδύνει τον ρυθμό κυκλοφορίας νέων μοντέλων τεχνητής νοημοσύνης, με στόχο να καθυστερήσει η εμφάνιση της αναδρομικής αυτοβελτίωσης.
Ωστόσο, η Melanie Mitchell, καθηγήτρια στο μη κερδοσκοπικό ερευνητικό κέντρο Santa Fe Institute και ειδική στην τεχνητή νοημοσύνη, δηλώνει ότι η ανθρωπότητα απέχει ακόμη πολύ από την τεχνητή γενική νοημοσύνη.
Όπως σημειώνει, η AI σημειώνει εντυπωσιακή πρόοδο, αλλά οι ισχυρισμοί ορισμένων ότι έχει ήδη επιτευχθεί αναδρομική αυτοβελτίωση δεν αντέχουν σε αυστηρή εξέταση.
Δεν είναι η μόνη που υποστηρίζει αυτή την άποψη.
Πρόσφατη μελέτη περίπου δύο δεκάδων ακαδημαϊκών από το Πρίστον, το Στάντφορντ και άλλα αμερικανικά πανεπιστήμια διαπίστωσε ότι ακόμη και τα πιο προηγμένα συστήματα AI αδυνατούν να πραγματοποιήσουν την πρωτότυπη έρευνα που απαιτείται για να προωθήσουν τα ίδια τα όρια της τεχνητής νοημοσύνης.
Δύο από τους συγγραφείς της συγκεκριμένης έρευνας αμφισβήτησαν επίσης ότι η επίθεση από swarm agents στο Hugging Face οφειλόταν σε κάποια θεαματική άνοδο της νοημοσύνης των συστημάτων.
Σύμφωνα με την ανάλυσή τους, η επιτυχία της επίθεσης οφειλόταν κυρίως στην απουσία βασικών τεχνικών δικλίδων ασφαλείας και όχι σε ανεξέλεγκτη έκρηξη των δυνατοτήτων της AI.
Ο Yann LeCun, πρώην επικεφαλής επιστήμονας AI της Meta, χαρακτήρισε την ανάλυση αυτή «μια ευπρόσδεκτη δόση λογικής σε μια κατά τα άλλα παράλογη συζήτηση».
Η OpenAI και η Anthropic δεν απάντησαν σε επανειλημμένα αιτήματα για σχολιασμό.
Οι κίνδυνοι υπάρχουν ακόμη και χωρίς «υπερνοημοσύνη»
Όσοι διαφωνούν με τους «doomers» δεν υποστηρίζουν ότι η AI είναι ακίνδυνη.
Αντίθετα, επισημαίνουν ότι ένα σύστημα δεν χρειάζεται να είναι υπερβολικά ικανό για να αποκτήσει μεγάλη ισχύ και να προκαλέσει ζημιά.
Ορισμένοι προτείνουν τα συστήματα AI να υποβάλλονται σε τακτικές αξιολογήσεις από ανεξάρτητους φορείς και οι εταιρείες που τα δημιουργούν να φέρουν ευθύνη όταν προκαλούνται βλάβες.
Κατά την άποψή τους, η AI θα πρέπει να αντιμετωπίζεται με τρόπο αντίστοιχο με τα αεροπλάνα, τους ανελκυστήρες και άλλες κρίσιμες τεχνολογίες: να σχεδιάζεται εξαρχής έτσι ώστε να περιορίζει όσο το δυνατόν περισσότερο τον κίνδυνο.
«Αν πιστεύεις ότι μια τεχνολογία είναι αρκετά ισχυρή ώστε να δημιουργήσει νέους επικίνδυνους ιούς ή, για κάποιον λόγο, να καταλάβει ολόκληρο τον πλανήτη, τότε θα πρέπει να είναι και αρκετά ισχυρή ώστε να δημιουργήσει θεραπείες για τον καρκίνο, να αντιμετωπίσει τη γήρανση και να επιλύσει κοινωνικοοικονομικά ή πολιτικά προβλήματα», αναφέρει ο Christopher Canal, CEO της EquiStamp, εταιρείας που βοηθά επιχειρήσεις και κυβερνήσεις να αξιολογούν συστήματα τεχνητής νοημοσύνης.
Η AI έχει πράγματι δείξει ότι μπορεί να εξελίσσεται γρήγορα, επειδή προσεγγίζει τις ανθρώπινες δυνατότητες χάρη στη συνεχή τροφοδότηση με ανθρώπινη γνώση.
Σε ορισμένες περιπτώσεις μπορεί να ανασυνδυάσει αυτή τη γνώση και να ξεπεράσει όσα μπορούσαν μέχρι τότε να επιτύχουν οι άνθρωποι, μέσω τεχνικών μεταγενέστερης εκπαίδευσης, όπως η ενισχυτική μάθηση.
Αυτό έχει ήδη παρατηρηθεί, για παράδειγμα, στον χώρο των μαθηματικών.
Ο Yi Ma, καθηγητής AI στο Πανεπιστήμιο του Χονγκ Κονγκ, υποστήριξε ότι τα σημερινά μεγάλα γλωσσικά μοντέλα δεν είναι πραγματικά ευφυή, αλλά μάλλον «μοντέλα γνώσης».
Ερευνητές από πανεπιστήμια και εμπορικά εργαστήρια τεχνητής νοημοσύνης στην Κίνα υποστήριξαν επίσης σε πρόσφατη μελέτη ότι η πλήρως αυτόνομη AI που αυτοβελτιώνεται πιθανότατα απέχει ακόμη πολύ, λόγω του τεράστιου αριθμού επιστημονικών και τεχνικών ανακαλύψεων που θα απαιτούνταν.
Κατά την άποψή τους, οι άνθρωποι θα παραμείνουν πιθανότατα μέσα στη διαδικασία, εποπτεύοντας και περιορίζοντας τον ρυθμό με τον οποίο θα μπορεί να εξελίσσεται η AI.
Πότε θα μπορεί η AI να δημιουργεί μόνη της τον διάδοχό της;
Η εταιρεία Vals AI, η οποία αξιολογεί σημερινά μοντέλα τεχνητής νοημοσύνης, διατηρεί έναν δείκτη που ονομάζεται RSI Index.
Ο δείκτης εξετάζει κατά πόσο ένα μοντέλο μπορεί να «πραγματοποιήσει την έρευνα που απαιτείται για να δημιουργηθεί το επόμενο μοντέλο».
Μέχρι σήμερα, κανένα δημόσια διαθέσιμο μοντέλο δεν βρίσκεται καν κοντά σε αυτό το επίπεδο.
Ωστόσο, ο Rayan Krishnan, CEO της Vals AI, δηλώνει ότι η ομάδα του προβλέπει πως τα μοντέλα AI θα μπορούσαν μέχρι τον Αύγουστο του 2027 ή και νωρίτερα να ξεπεράσουν τους ανθρώπους στην ικανότητα βελτίωσης της επόμενης γενιάς συστημάτων.
Σε εκείνο το σημείο, σύμφωνα με το συγκεκριμένο σενάριο, θα μπορούσαν να αρχίσουν να δημιουργούν μόνα τους τους διαδόχους τους.
«Μόλις φτάσουμε στην αναδρομική αυτοβελτίωση, ο φόβος είναι ότι όλα τα ενδεχόμενα ανοίγουν», αναφέρει ο Krishnan.
«Θα μπορούσαμε να βρεθούμε σε μια κατάσταση “ταχείας απογείωσης”, όπου τα μοντέλα θα αποκτούν γρήγορα νέες δεξιότητες και θα ξεπερνούν τους ανθρώπους σε κάθε πιθανό πεδίο».
Η «πιθανότητα καταστροφής»
Οι επιστήμονες της AI χρησιμοποιούν συχνά έναν όρο που μοιάζει με μαθηματικό τύπο για να περιγράψουν το ενδεχόμενο υπαρξιακής καταστροφής από την τεχνητή νοημοσύνη: p(doom), δηλαδή «πιθανότητα καταστροφής».
Μετά την παραίτηση του ερευνητή της Anthropic Jacob Coxon, η οποία προκάλεσε μεγάλη συζήτηση στον τεχνολογικό κόσμο, άλλος μηχανικός της εταιρείας δήλωσε ότι θεωρεί την πιθανότητα αυτή τουλάχιστον 10% μέσα στην επόμενη δεκαετία.
Άλλοι άνθρωποι της βιομηχανίας δήλωσαν ότι θεωρούν την πιθανότητα ακόμη μεγαλύτερη.
Ορισμένοι υποστηρικτές των πιο απαισιόδοξων σεναρίων λένε ότι υπολογίζουν το προσωπικό τους p(doom) μέσα από μια αλυσίδα υπό όρους πιθανοτήτων.
Ωστόσο, επειδή οι πιθανότητες αυτές στηρίζονται σε υποθέσεις, οι εκτιμήσεις κυμαίνονται από 0% έως σχεδόν 100%, ενώ αρκετές καταλήγουν γύρω στο 10%.
Η Melanie Mitchell αμφισβητεί έντονα τέτοιους υπολογισμούς.
Όπως σημειώνει, το παράξενο είναι ότι, εάν εξετάσει κανείς τις αντίστοιχες προβλέψεις της τελευταίας δεκαετίας και περισσότερο, «είναι πάντα περίπου 10%».
Κατά την ίδια, πρόκειται περισσότερο για γενικές εντυπώσεις παρά για πραγματικά στοιχεία ή αξιόπιστους υπολογισμούς.
Ο κίνδυνος να κυνηγάμε το λάθος πρόβλημα
Ένα ακόμη επιχείρημα κατά της υπερβολικής εστίασης στην υπερνοημοσύνη είναι ότι ο κόσμος είναι γεμάτος απίθανα σενάρια που θα μπορούσαν θεωρητικά να οδηγήσουν στο τέλος της ανθρωπότητας.
Εάν προσπαθούμε να αποτρέψουμε όλα αυτά τα ενδεχόμενα ταυτόχρονα, γίνεται πολύ δύσκολο να ιεραρχήσουμε τους κινδύνους που χρειάζονται άμεση αντιμετώπιση.
Το αποτέλεσμα, σύμφωνα με ορισμένους ειδικούς, είναι ότι επιστήμονες και πολιτικοί προτείνουν λύσεις που δεν αγγίζουν τους πραγματικούς και άμεσους κινδύνους της AI.
Ο Stuart Russell, καθηγητής Επιστήμης Υπολογιστών στο Πανεπιστήμιο της Καλιφόρνιας στο Berkeley και πρόεδρος της International Association for Safe and Ethical Artificial Intelligence, υποστηρίζει ότι οι προτάσεις των εταιρειών να «επιβραδύνουν την αιχμή» της τεχνολογικής εξέλιξης δεν αντιμετωπίζουν σωστά το πρόβλημα.
Χρησιμοποιεί μάλιστα μια χαρακτηριστική αναλογία: είναι σαν να λέμε ότι κατευθυνόμαστε προς τον γκρεμό με 60 μίλια την ώρα και ότι, εάν μειώσουμε την ταχύτητα στα 40 μίλια, τότε όλα θα είναι εντάξει.
Η AI να ρυθμίζεται όπως τα αεροπλάνα, τα κτίρια και τα φάρμακα
Ο Russell και άλλοι ειδικοί προτείνουν οι εταιρείες AI να υποχρεώνονται να τηρούν πρότυπα αντίστοιχα με εκείνα που ισχύουν ήδη σε κρίσιμους τομείς της καθημερινής ζωής, όπως οι αερομεταφορές, τα κτίρια, τα τρόφιμα και τα φάρμακα.
Ιδιαίτερη έμφαση δίνουν στις λεγόμενες «κόκκινες γραμμές συμπεριφοράς», τις οποίες ένα σύστημα τεχνητής νοημοσύνης δεν θα πρέπει να επιτρέπεται να παραβιάζει.
Η παραβίαση άλλων υπολογιστικών συστημάτων, η κλοπή πληροφοριών ή η παροχή οδηγιών σε τρομοκρατικές οργανώσεις για την κατασκευή βιολογικών όπλων είναι παράνομες πράξεις όταν γίνονται από ανθρώπους.
Κατά τον Russell, θα πρέπει να είναι παράνομες και όταν πραγματοποιούνται από συστήματα AI εταιρειών.
Το πρόβλημα, όπως αναγνωρίζει ο ίδιος, είναι ότι μια τέτοια απαίτηση θα ισοδυναμούσε στην πράξη με απαγόρευση πολλών από τα σημερινά προηγμένα συστήματα AI.
Ο λόγος είναι ότι οι εταιρείες που τα δημιουργούν δεν γνωρίζουν ακόμη πώς να εγγυηθούν ότι τα μοντέλα τους θα τηρούν πάντα τέτοιους περιορισμούς.
Μια «FDA για την τεχνητή νοημοσύνη»;
Άλλοι έχουν προτείνει τη δημιουργία ενός οργανισμού αντίστοιχου με την αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων, αλλά ειδικά για την τεχνητή νοημοσύνη.
Μέχρι σήμερα, πάντως, η δημιουργία μιας νέας ρυθμιστικής αρχής δεν έχει προχωρήσει στο Κογκρέσο.
Παράλληλα, ορισμένες ισχυρές φωνές στον χώρο της τεχνολογίας υποστηρίζουν ότι μια τέτοια δομή θα μπορούσε να κοστίσει στις Ηνωμένες Πολιτείες το τεχνολογικό τους πλεονέκτημα απέναντι στην Κίνα.
Ωστόσο, η διακομματική υποστήριξη για αυστηρότερους περιορισμούς στις εταιρείες AI και στα συστήματά τους ενισχύεται, κάτι που θα μπορούσε να αλλάξει τις ισορροπίες.
«Η βιομηχανία της τεχνολογίας έχει εδώ και δεκαετίες ως μάντρα ότι η ρύθμιση είναι κακή», σημειώνει ο Russell.
«Δεν αποδέχονται την ευθύνη για τις βλάβες που προκαλούνται και κρύβονται πίσω από την ελευθερία του λόγου. Αυτό, πιστεύω, πρέπει να αλλάξει».
