«Η τεχνητή νοημοσύνη είναι ήδη εκτός ελέγχου» - Φυσικός του MIT κρούει τον κώδωνα του κινδύνου
«Ο Musk και ο Altman είναι παγιδευμένοι. Ο κόσμος πρέπει να παρέμβει»
Snapshot
- Ο Max Tegmark αναφέρει ότι η τεχνητή νοημοσύνη είναι ήδη εκτός ελέγχου λόγω ανεξέλεγκτης ανάπτυξης και τεχνολογικού ανταγωνισμού μεταξύ μεγάλων εταιρειών.
- Οι κορυφαίες εταιρείες όπως η Anthropic, Google και OpenAI βρίσκονται παγιδευμένες σε έναν ανταγωνισμό που δεν μπορούν να σταματήσουν, παρά τους κινδύνους που αναγνωρίζουν.
- Υπάρχει ανάγκη για εξωτερική παρέμβαση από την κοινωνία ώστε να αποφευχθεί η περαιτέρω επικίνδυνη κούρσα ανάπτυξης της τεχνητής νοημοσύνης.
- Ο Tegmark επισημαίνει τον σημαντικό ρόλο της Καθολικής Εκκλησίας και του Πάπα στην προώθηση ηθικών και νομικών ορίων για την τεχνολογία.
- Η πρόκληση είναι η διακυβέρνηση της εξέλιξης της τεχνητής νοημοσύνης μέσω κοινών κανόνων και διατήρησης ανθρώπινου ελέγχου, απαιτώντας συλλογική ευθύνη.
«Η τεχνητή νοημοσύνη είναι ήδη εκτός ελέγχου». Αυτή είναι η θέση του Max Tegmark , φυσικού στο Τεχνολογικό Ινστιτούτο της Μασαχουσέτης (MIT) και ιδρυτή του Ινστιτούτου Μέλλοντος της Ζωής, ο οποίος, σε συνέντευξή του στην Corriere della Sera, έκρουσε νέο συναγερμό για την ανεξέλεγκτη ανάπτυξη της Τεχνητής Νοημοσύνης.
«Τώρα, το να μιλάμε για την απώλεια ελέγχου της Τεχνητής Νοημοσύνης είναι μια συζήτηση για κάτι που έχει ήδη συμβεί», λέει ο Tegmark, ο οποίος πιστεύει ότι οι κορυφαίες εταιρείες του κλάδου έχουν πλέον εμπλακεί σε έναν τεχνολογικό ανταγωνισμό από τον οποίο φαίνεται αδύνατο να ξεφύγουν.
Ο φυσικός περιγράφει την κατάσταση ως μια πραγματική «ελληνική τραγωδία», στην οποία ακόμη και οι πρωταγωνιστές, παρά το γεγονός ότι γνωρίζουν τους κινδύνους, αδυνατούν να σταματήσουν τον μηχανισμό που τροφοδοτεί την κούρσα για την ανάπτυξη ολοένα και πιο προηγμένων συστημάτων. Όλοι βρίσκονται στο στόχαστρο: η Anthropic, η Google και η OpenAI , κατηγορούμενες για «αθέτηση προηγούμενων δεσμεύσεων και υποσχέσεων».
Ο ανταγωνισμός μεταξύ των γιγάντων της τεχνητής νοημοσύνης
Σύμφωνα με την Tegmark, οι μεγάλοι παράγοντες της τεχνολογικής βιομηχανίας γνωρίζουν τους κινδύνους που σχετίζονται με την Τεχνητή Νοημοσύνη, αλλά «δεν εμπιστεύονται ο ένας τον άλλον». Ο Elon Musk , ο Sam Altman , ο Dario Amodei και ο Demis Hassabis , τονίζει ο φυσικός, φαίνονται όλοι πεπεισμένοι ότι η ανάπτυξη αυτών των τεχνολογιών θα μπορούσε να οδηγήσει σε εξαιρετικά επικίνδυνες συνέπειες, σε τέτοιο βαθμό που δεν εμπιστεύονται κανέναν από τους ανταγωνιστές τους.
Αυτή η δυναμική κινδυνεύει να τροφοδοτήσει μια αλυσιδωτή αντίδραση χωρίς διέξοδο: κάθε εταιρεία συνεχίζει να επενδύει και να επιταχύνει για να αποφύγει να χάσει έδαφος, ακόμη και όταν θα ήταν απαραίτητο να σταματήσει και να σκεφτεί τις πιθανές συνέπειες. «Κάθε παίκτης είναι παγιδευμένος σε αυτή τη μοίρα: ακόμα κι αν καταλάβει την κατάρα, δεν μπορεί να την σπάσει », παρατηρεί ο Τέγκμαρκ. Εξ ου και η ανάγκη για εξωτερική παρέμβαση. «Ο υπόλοιπος κόσμος», λέει ο φυσικός, «πρέπει να αναλάβει την ευθύνη να βοηθήσει» αυτές τις εταιρείες να ξεφύγουν από έναν ανταγωνισμό που είναι δυνητικά επικίνδυνος για την κοινωνία στο σύνολό της.
Ο ρόλος της Εκκλησίας και η έκκληση του Πάπα
Στη συζήτηση για τη ρύθμιση της τεχνητής νοημοσύνης, ο Τέγκμαρκ βλέπει επίσης σημαντικό ρόλο για την Καθολική Εκκλησία. Λέει ότι εντυπωσιάστηκε ιδιαίτερα από τα λόγια του Πάπα —κατά τη διάρκεια του σεμιναρίου για την Τεχνητή Νοημοσύνη στο Βατικανό— ειδικά σχετικά με την ανάγκη «καθιέρωσης ηθικών και νομικών ορίων» στην ανάπτυξη νέων τεχνολογιών.
«Χρειαζόμαστε ηθική ηγεσία, όχι μόνο οικονομική ηγεσία»
Παρά τη σοβαρότητα των κινδύνων που επισημαίνονται, ο Τέγκμαρκ εκφράζει την αισιοδοξία του για την αλλαγή στην πολιτική συζήτηση στις Ηνωμένες Πολιτείες και την εμφάνιση ενός κινήματος για την υπεράσπιση των ανθρωπίνων δικαιωμάτων. «Υπάρχει μια δίψα για ηθική ηγεσία επειδή τα περισσότερα από τα επιχειρήματα που ακούμε υποκινούνται αποκλειστικά από το κέρδος ή από το πώς να δοθεί περισσότερη δύναμη σε αυτή ή την άλλη χώρα», παρατηρεί. «Σε αυτό το σενάριο, ο Πάπας φτάνει και μιλάει αντ' αυτού για το τι είναι ηθικά σωστό να κάνουμε. Προβλέπω ότι θα υπάρξει μια τεράστια αλλαγή».
Η πρόκληση, επομένως, δεν είναι πλέον απλώς η ικανότητα ανάπτυξης ολοένα και πιο ισχυρής τεχνητής νοημοσύνης, αλλά η ικανότητα διακυβέρνησης της εξέλιξής της, θεσπίζοντας κοινούς κανόνες και διατηρώντας τον ανθρώπινο έλεγχο. «Η αλλαγή είναι δυνατή», υποστηρίζει ο Τέγκμαρκ, αλλά απαιτεί συλλογική ευθύνη προτού ο τεχνολογικός ανταγωνισμός καταστήσει την παρέμβαση ακόμη πιο δύσκολη.
