Hassabis: Η τεχνητή νοημοσύνη θα δώσει υπερδυνάμεις στους ανθρώπους - Χρειαζόμαστε νέους φιλοσόφους

Η δημιουργία Ανθρώπινου Επιπέδου Τεχνητής Νοημοσύνης το2022 φάνταζε σενάριο ταινίας επιστημονικής φανατασίας. Σήμερα πολλά έχουν αλλάζει. Ο ρυθμός βελτίωσης της τεχνητής νοημοσύνης είναι τόσο γρήγορος που πολλοί επιστήμονες, μεταξύ των οποίων και ο Ελληνοκύπριος Ντέμης Χασάμπις (Demis Hassabis), πιστεύουν πλέον ότι η τεχνητή νοημοσύνη σε ανθρώπινο επίπεδο (γνωστή στον κλάδο ως Τεχνητή Γενική Νοημοσύνη ή AGI) θα είναι πραγματικότητα πριν από το τέλος της τρέχουσας δεκαετίας.

Σε συνέντευξή του στο περιοδικό TIME, ο Demis Hassabis, διευθύνων σύμβουλος της Google DeepMind και κάτοχος του βραβείου Νόμπελ Χημείας, σκιαγραφεί δύο πιθανά σενάρια για το μέλλον:

Το ιδανικό σενάριο είναι ότι η AGI θα βοηθήσει στην επίλυση των μεγαλύτερων προβλημάτων της ανθρωπότητας: θεραπεία ασθενειών, αντιμετώπιση της κλιματικής κρίσης, ανάπτυξη νέων ενεργειακών πηγών. «Αν καταφέρουμε να την δημιουργήσουμε σωστά, θα ζήσουμε μια εποχή μέγιστης ανθρώπινης ακμής», λέει χαρακτηριστικά.

Ωστόσο, προειδοποιεί ότι ο κίνδυνος είναι επίσης τεράστιος. Η AGI είναι ένα εργαλείο διπλής χρήσης: τα ίδια συστήματα που μπορούν να βρουν φάρμακα, μπορούν να δημιουργήσουν και τοξίνες. «Αν δεν βάλουμε σωστά πλαίσια ελέγχου», προειδοποιεί, «ενδέχεται να μην καταφέρουμε να ελέγξουμε τις ίδιες τις μηχανές που δημιουργούμε».

Όταν το 2014 η DeepMind εξαγοράστηκε από την Google, ο Hassabis είχε εξασφαλίσει μια συμφωνία ότι η τεχνολογία της δεν θα χρησιμοποιούνταν για στρατιωτικούς σκοπούς. Δέκα χρόνια αργότερα, αυτή η υπόσχεση έχει αλλάξει: σήμερα, η Google συνεργάζεται με στρατούς, συμπεριλαμβανομένων των ΗΠΑ και του Ισραήλ. Ο Ντέμης Χασάμπις uεωρεί ότι ο κόσμος έχει γίνει πιο επικίνδυνος και ότι η συνεργασία με δημοκρατικές κυβερνήσεις είναι πλέον απαραίτητη.

Με την AGI να πλησιάζει, δεν είναι μόνο η επιστήμη που θα αλλάξει. Οι οικονομίες, οι αγορές εργασίας και ολόκληρες κοινωνίες θα αναγκαστούν να προσαρμοστούν. Ο Hassabis εκτιμά ότι στην επόμενη φάση, η τεχνητή νοημοσύνη θα δώσει υπερδυνάμεις στους ανθρώπους, αναλαμβάνοντας τις βαρετές δουλειές και απελευθερώνοντας χρόνο για δημιουργικό έργο. Μακροπρόθεσμα όμως, θέτει το βαθύτερο ερώτημα: «Αν η αφθονία γίνει πραγματικότητα, πώς θα μοιράσουμε δίκαια τα κέρδη και ποιο θα είναι το νόημα της ζωής σε έναν κόσμο όπου η εργασία δεν είναι αναγκαία;»

Ο Hassabis βλέπει τον εαυτό του πρώτα ως επιστήμονα και μετά ως επιχειρηματία. Το πάθος του για την κατανόηση της φύσης της νοημοσύνης και της συνείδησης παραμένει αμείωτο. Αλλά αναγνωρίζει ότι πλησιάζει η στιγμή που η ανθρωπότητα θα χρειαστεί όχι μόνο νέες τεχνολογίες, αλλά και νέες ιδέες: «Χρειαζόμαστε μεγάλους νέους φιλοσόφους για να μας βοηθήσουν να καταλάβουμε τι θα κάνουμε με όλα αυτά». Για να απαντήσει στα ερωτήματα του νοήματος και του σκοπού. Αυτό είναι το επόμενο φιλοσοφικό ερώτημα, για το οποίο πιστεύω ότι χρειαζόμαστε μερικούς σπουδαίους νέους φιλοσόφους να σκεφτούν σήμερα, αναφέρει.

Περιγράφοντας το νέο κόσμο που αναδύεται, προτάσσει ότι η ανθρωπότητα θα χρειαστεί μια νέα φιλοσοφία για το πώς να ζει.

Διαβάστε ολόκληρη τη συνέντευξη του στο TIME

Η AGI, αν δημιουργηθεί, θα έχει τεράστιο αντίκτυπο. Μπορείτε να μου περιγράψετε το καλύτερο σενάριο; Πώς θα είναι ο κόσμος αν δημιουργήσουμε την AGI;

Ο λόγος για τον οποίο έχω ασχοληθεί με την τεχνητή νοημοσύνη και την AGI όλη μου τη ζωή είναι επειδή πιστεύω ότι, αν γίνει σωστά και με υπευθυνότητα, θα είναι η πιο ωφέλιμη τεχνολογία που έχει εφευρεθεί ποτέ. Έτσι, τα πράγματα για τα οποία πιστεύω ότι θα μπορούσαμε να τη χρησιμοποιήσουμε, σε 10 και πλέον χρόνια από τώρα, είναι ενδεχομένως η θεραπεία όλων των ασθενειών με την AI και η βοήθεια σε θέματα όπως η ανάπτυξη νέων πηγών ενέργειας, είτε πρόκειται για σύντηξη, είτε για βέλτιστες μπαταρίες, είτε για νέα υλικά όπως νέοι υπεραγωγοί. Πιστεύω ότι μερικά από τα μεγαλύτερα προβλήματα που αντιμετωπίζουμε σήμερα ως κοινωνία, είτε πρόκειται για το κλίμα είτε για τις ασθένειες, θα αντιμετωπιστούν με λύσεις AI. Έτσι, αν προχωρήσουμε 10 χρόνια μπροστά, νομίζω ότι η αισιόδοξη άποψη θα είναι ότι θα ζούμε σε έναν κόσμο με μέγιστη ανθρώπινη ευημερία, θα ταξιδεύουμε στα αστέρια, με όλες τις τεχνολογίες που θα συμβάλει η τεχνητή νοημοσύνη.

Ας πάρουμε για παράδειγμα το κλίμα. Δεν νομίζω ότι δεν θα το λύσουμε με άλλο τρόπο, εκτός από την τεχνολογία, συμπεριλαμβανομένων των τεχνολογιών που υποστηρίζονται από την τεχνητή νοημοσύνη, όπως οι νέοι τύποι ενέργειας και ούτω καθεξής. Δεν νομίζω ότι θα καταφέρουμε να συντονίσουμε τη συλλογική δράση αρκετά γρήγορα ώστε να κάνουμε κάτι ουσιαστικό για το θέμα αυτό.

Με άλλα λόγια: θα ανησυχούσα πολύ για την κοινωνία σήμερα αν δεν ήξερα ότι κάτι τόσο μετασχηματιστικό όπως η τεχνητή νοημοσύνη έρχεται στο προσκήνιο. Το πιστεύω ακράδαντα. Ένας από τους λόγους για τους οποίους είμαι αισιόδοξος για το μέλλον των επόμενων 50 ετών είναι επειδή ξέρω ότι αν αναπτύξουμε σωστά την τεχνητή νοημοσύνη, θα είναι σε θέση να βοηθήσει στην επίλυση ορισμένων από τα πιο επείγοντα προβλήματά μας. Είναι σχεδόν σαν την ιππασία. Νομίζω ότι σήμερα χρειαζόμαστε την ιππασία.

Έχετε επίσης εκφραστεί αρκετά για την ανάγκη αποφυγής των κινδύνων. Μπορείτε να μας περιγράψετε το χειρότερο σενάριο;

Βεβαίως. Λοιπόν, το χειρότερο σενάριο, νομίζω, έχει καλυφθεί εκτενώς στην επιστημονική φαντασία. Νομίζω ότι τα δύο ζητήματα που με ανησυχούν περισσότερο είναι τα εξής: η τεχνητή νοημοσύνη θα είναι μια φανταστική τεχνολογία αν χρησιμοποιηθεί με τον σωστό τρόπο, αλλά είναι μια τεχνολογία διπλής χρήσης και θα είναι απίστευτα ισχυρή. Αυτό σημαίνει ότι οι κακόβουλοι μπορούν να χρησιμοποιήσουν αυτή την τεχνολογία για δυνητικά επιβλαβείς σκοπούς.

Έτσι, μια μεγάλη πρόκληση που έχουμε ως κλάδος και ως κοινωνία είναι πώς θα επιτρέψουμε την πρόσβαση σε αυτές τις τεχνολογίες στους καλούς ανθρώπους για να κάνουν εκπληκτικά πράγματα, όπως να θεραπεύσουν τρομερές ασθένειες, και ταυτόχρονα να περιορίσουμε την πρόσβαση στις ίδιες τεχνολογίες σε κακόβουλους ανθρώπους, είτε πρόκειται για μεμονωμένα άτομα είτε για ολόκληρες χώρες; Αυτό είναι ένα πολύ δύσκολο πρόβλημα.

Το δεύτερο είναι ο ίδιος ο κίνδυνος της AGI. Ο κίνδυνος που προέρχεται από την ίδια την τεχνολογία, καθώς γίνεται πιο αυτόνομη, πιο βασισμένη σε agents, κάτι που θα συμβεί τα επόμενα χρόνια. Πώς θα διασφαλίσουμε ότι θα παραμείνουμε υπεύθυνοι για αυτά τα συστήματα, ότι θα τα ελέγχουμε, θα ερμηνεύουμε τις ενέργειές τους, θα τα κατανοούμε και θα θέτουμε τα κατάλληλα μέτρα προστασίας που δεν θα μπορούν να παρακαμφθούν από συστήματα με πολύ υψηλές δυνατότητες και αυτοβελτίωση; Και αυτό είναι επίσης μια εξαιρετικά δύσκολη πρόκληση. Αυτές είναι οι δύο κύριες κατηγορίες κινδύνου. Αν καταφέρουμε να τις αντιμετωπίσουμε σωστά, τότε πιστεύω ότι θα καταλήξουμε σε αυτό το εκπληκτικό μέλλον.

Δεν είναι όμως το χειρότερο σενάριο. Ποιο είναι το χειρότερο σενάριο;

Λοιπόν, νομίζω ότι αν τα κάνουμε λάθος, τότε θα έχουμε όλες αυτές τις επιβλαβείς περιπτώσεις χρήσης αυτών των συστημάτων, που μπορεί να κυμαίνονται από το αντίθετο αυτού που προσπαθούμε να κάνουμε – αντί να βρούμε θεραπείες, θα μπορούσαμε να καταλήξουμε να βρούμε τοξίνες με τα ίδια συστήματα. Και έτσι, όλες οι καλές περιπτώσεις χρήσης, αν αντιστρέψουμε τους στόχους του συστήματος, θα καταλήξουμε σε επιβλαβείς περιπτώσεις χρήσης. Και ως κοινωνία, αυτός είναι ο λόγος για τον οποίο είμαι υπέρ της διεθνούς συνεργασίας. Επειδή τα συστήματα, όπου και αν κατασκευαστούν, ή όπως και αν κατασκευαστούν, μπορούν να διανεμηθούν σε όλο τον κόσμο. Μπορούν να επηρεάσουν όλους σε σχεδόν κάθε γωνιά του κόσμου.

Επομένως, πιστεύω ότι χρειαζόμαστε διεθνή πρότυπα σχετικά με τον τρόπο κατασκευής αυτών των συστημάτων, τα σχέδια και τους στόχους που τους δίνουμε, καθώς και τον τρόπο ανάπτυξης και χρήσης τους.

Όταν η Google εξαγόρασε την DeepMind το 2014, υπογράψατε ένα συμβόλαιο που ανέφερε ότι η Google δεν θα χρησιμοποιούσε την τεχνολογία σας για στρατιωτικούς σκοπούς. Από τότε, έχετε αναδιαρθρώσει την εταιρεία. Τώρα, η τεχνολογία της DeepMind πωλείται σε διάφορους στρατούς, συμπεριλαμβανομένων των ΗΠΑ και του Ισραήλ. Έχετε μιλήσει για τα τεράστια πλεονεκτήματα της ανάπτυξης της AGI. Νιώθετε ότι κάνατε συμβιβασμούς σε αυτό το μέτωπο για να έχετε την ευκαιρία να δημιουργήσετε αυτή την τεχνολογία;

Όχι, δεν νομίζω. Νομίζω ότι πρόσφατα αναθεωρήσαμε ορισμένα πράγματα, ώστε να λάβουμε εν μέρει υπόψη τις πολύ μεγαλύτερες γεωπολιτικές αβεβαιότητες που υπάρχουν σε όλο τον κόσμο. Δυστυχώς, ο κόσμος έχει γίνει πολύ πιο επικίνδυνος. Νομίζω ότι δεν μπορούμε πλέον να θεωρούμε δεδομένο ότι οι δημοκρατικές αξίες θα επικρατήσουν – δεν νομίζω ότι αυτό είναι καθόλου σαφές. Υπάρχουν σοβαρές απειλές. Επομένως, πιστεύω ότι πρέπει να συνεργαστούμε με τις κυβερνήσεις. Επίσης, η συνεργασία με τις κυβερνήσεις μάς επιτρέπει να συνεργαστούμε και με άλλους σημαντικούς ρυθμιζόμενους κλάδους, όπως ο τραπεζικός, ο τομέας της υγειονομικής περίθαλψης κ.λπ. Οι βασικές μας αρχές δεν έχουν αλλάξει. Το θεμελιώδες στοιχείο των αρχών μας ήταν πάντα το εξής: πρέπει να σταθμίζουμε προσεκτικά τα οφέλη, τα οποία πρέπει να υπερτερούν σημαντικά του κινδύνου βλάβης. Αυτός είναι ένας υψηλός στόχος για οτιδήποτε θέλουμε να κάνουμε. Φυσικά, πρέπει να σεβόμαστε το διεθνές δίκαιο και τα ανθρώπινα δικαιώματα – όλα αυτά εξακολουθούν να ισχύουν.

Και το άλλο που έχει αλλάξει είναι η ευρεία διαθεσιμότητα αυτής της τεχνολογίας, σωστά; Έτσι, το ανοιχτό λογισμικό, το DeepSeek, το Llama, ό,τι άλλο, μπορεί να μην είναι τόσο καλά όσο τα απόλυτα κορυφαία ιδιόκτητα μοντέλα, αλλά είναι αρκετά καλά. Και μόλις γίνει ανοιχτό λογισμικό, αυτό σημαίνει ότι ολόκληρος ο κόσμος μπορεί να το χρησιμοποιήσει για οτιδήποτε. Έτσι, σκέφτομαι αυτή την εμπορευματοποιημένη τεχνολογία με κάποια έννοια, και μετά αυτό που είναι εξατομικευμένο. Και για το εξατομικευμένο έργο, σχεδιάζουμε να εργαστούμε σε πράγματα για τα οποία είμαστε μοναδικά κατάλληλοι και καλύτεροι στον κόσμο, όπως η κυβερνοάμυνα και η βιοασφάλεια – τομείς στους οποίους πιστεύω ότι είναι πραγματικά ηθικό καθήκον μας να βοηθήσουμε, επειδή είμαστε οι καλύτεροι στον κόσμο σε αυτό. Και νομίζω ότι είναι πολύ σημαντικό για τη Δύση.

Στον κόσμο της ασφάλειας της τεχνητής νοημοσύνης γίνεται πολύς λόγος για το βαθμό στον οποίο αυτά τα συστήματα είναι πιθανό να κάνουν πράγματα όπως να επιδιώκουν την εξουσία, να είναι παραπλανητικά, να επιδιώκουν την αποδυνάμωση των ανθρώπων και να ξεφύγουν από τον έλεγχό τους. Έχετε μια ισχυρή άποψη για το αν αυτή είναι η προεπιλεγμένη πορεία ή αν πρόκειται για έναν ακραίο κίνδυνο;

Η αίσθησή μου είναι ότι οι κίνδυνοι είναι άγνωστοι. Υπάρχουν πολλοί άνθρωποι, συνάδελφοί μου, διάσημοι νικητές του βραβείου Turing, που υποστηρίζουν και τις δύο απόψεις. Νομίζω ότι η σωστή απάντηση βρίσκεται κάπου στη μέση, δηλαδή, αν κοιτάξετε τη συζήτηση, θα δείτε ότι υπάρχουν πολύ έξυπνοι άνθρωποι και στις δύο πλευρές. Αυτό που μου λέει είναι ότι δεν γνωρίζουμε ακόμα αρκετά για να ποσοτικοποιήσουμε τον κίνδυνο. Μπορεί να αποδειχθεί ότι, καθώς αναπτύσσουμε περαιτέρω αυτά τα συστήματα, είναι πολύ πιο εύκολο να διατηρήσουμε τον έλεγχο τους από ό,τι πιστεύαμε ή περιμέναμε, υποθετικά. Πολλά πράγματα έχουν εξελιχθεί έτσι. Υπάρχουν λοιπόν κάποια στοιχεία που υποδηλώνουν ότι τα πράγματα μπορεί να είναι λίγο πιο εύκολα από ό,τι πίστευαν οι πιο απαισιόδοξοι, αλλά κατά τη γνώμη μου, εξακολουθεί να υπάρχει σημαντικός κίνδυνος και πρέπει να διεξάγουμε προσεκτική έρευνα για να ποσοτικοποιήσουμε αυτόν τον κίνδυνο και, στη συνέχεια, να τον αντιμετωπίσουμε εκ των προτέρων με όσο το δυνατόν μεγαλύτερη προνοητικότητα, αντί να το κάνουμε εκ των υστέρων, κάτι που, με τεχνολογίες τόσο ισχυρές και μετασχηματιστικές, θα μπορούσε να είναι εξαιρετικά επικίνδυνο.

Τι σας κρατάει ξύπνιο τη νύχτα;

Για μένα, είναι το ζήτημα των διεθνών προτύπων και της συνεργασίας, όχι μόνο μεταξύ χωρών, αλλά και μεταξύ εταιρειών και ερευνητών, καθώς πλησιάζουμε στα τελικά στάδια της AGI. Και νομίζω ότι βρισκόμαστε στο κατώφλι αυτού. Ίσως απέχουμε πέντε έως δέκα χρόνια. Μερικοί λένε λιγότερο. Δεν θα με εξέπληττε. Είναι σαν μια κατανομή πιθανοτήτων. Αλλά, όπως και να έχει, έρχεται πολύ σύντομα. Και δεν είμαι σίγουρος ότι η κοινωνία είναι ακόμα έτοιμη για αυτό. Πρέπει να το σκεφτούμε καλά και να σκεφτούμε επίσης τα ζητήματα που ανέφερα νωρίτερα σχετικά με τον έλεγχο αυτών των συστημάτων, καθώς και την πρόσβαση σε αυτά και τη διασφάλιση ότι όλα θα πάνε καλά.

Θεωρείτε τον εαυτό σας περισσότερο επιστήμονα ή τεχνολόγο; Είστε μακριά από τη Σίλικον Βάλεϊ, εδώ στο Λονδίνο. Πώς προσδιορίζετε τον εαυτό σας;

Πρώτα απ' όλα, θεωρώ τον εαυτό μου επιστήμονα. Ο λόγος για τον οποίο κάνω όλα όσα έχω κάνει στη ζωή μου είναι η αναζήτηση της γνώσης και η προσπάθεια να κατανοήσω τον κόσμο γύρω μας. Από μικρός είμαι παθιασμένος με αυτό. Και για μένα, η κατασκευή τεχνητής νοημοσύνης είναι ο τρόπος με τον οποίο εκφράζω την προσπάθεια μου να απαντήσω σε αυτά τα ερωτήματα: πρώτα να κατασκευάσω ένα εργαλείο – το οποίο από μόνο του είναι αρκετά συναρπαστικό και αποτελεί μια δήλωση για τη νοημοσύνη και τη συνείδηση και όλα αυτά τα πράγματα που αποτελούν ήδη μερικά από τα μεγαλύτερα μυστήρια – και στη συνέχεια αυτό το εργαλείο μπορεί να έχει διπλό σκοπό, καθώς μπορεί επίσης να χρησιμοποιηθεί ως εργαλείο για τη διερεύνηση του φυσικού κόσμου που μας περιβάλλει, όπως η χημεία, η φυσική και η βιολογία. Τι πιο συναρπαστική περιπέτεια και επιδίωξη θα μπορούσε να έχει κανείς; Έτσι, βλέπω τον εαυτό μου πρώτα ως επιστήμονα και μετά ίσως ως επιχειρηματία, κυρίως επειδή αυτός είναι ο γρηγορότερος τρόπος για να κάνεις πράγματα. Και τέλος, ίσως ως τεχνολόγο-μηχανικό, γιατί τελικά δεν θέλεις απλώς να θεωρητικολογείς και να σκέφτεσαι πράγματα σε ένα εργαστήριο. Θέλεις πραγματικά να κάνεις μια πρακτική διαφορά στον κόσμο.

Θέλω να μιλήσω λίγο για τα χρονοδιαγράμματα. Ο Sam Altman και ο Dario Amodei έκαναν πρόσφατα δηλώσεις...

Πολύ σύντομα, σωστά;

Ο Altman λέει ότι αναμένει την AGI κατά τη διάρκεια της προεδρίας του Trump. Και ο Amodei λέει ότι θα μπορούσε να έρθει ήδη από το 2026.

Κοιτάξτε, εν μέρει, εξαρτάται από τον ορισμό που δίνετε στην AGI. Νομίζω ότι ο ορισμός αυτός έχει υποβαθμιστεί πολύ για διάφορους λόγους, όπως η συγκέντρωση χρημάτων — υπάρχουν διάφοροι λόγοι για τους οποίους οι άνθρωποι μπορεί να το κάνουν αυτό. Ο δικός μας ορισμός έχει παραμείνει σταθερός σε όλη τη διάρκεια: η ιδέα ότι θα έχει όλες τις γνωστικές ικανότητες που έχουν οι άνθρωποι. Η δοκιμή μου για αυτό, στην πραγματικότητα, είναι: θα μπορούσε [μια τεχνητή νοημοσύνη] να είχε καταλήξει στη γενική σχετικότητα με την ίδια ποσότητα πληροφοριών που είχε ο Αϊνστάιν το 1900; Δεν πρόκειται απλώς για την επίλυση μιας μαθηματικής υπόθεσης, αλλά για το αν μπορείς να βρεις μια αξιόλογη υπόθεση. Είμαι λοιπόν αρκετά σίγουρος ότι διαθέτουμε συστήματα που μπορούν να λύσουν σύντομα ένα από τα Βραβεία της Χιλιετίας. Αλλά θα μπορούσατε να σκεφτείτε μια σειρά υποθέσεων που να είναι εξίσου ενδιαφέρουσες;

Απ' ό,τι φαίνεται, με λίγα λόγια, είναι η διαφορά που περιγράψατε μεταξύ του να είσαι επιστήμονας και του να είσαι τεχνολόγος. Όλοι οι τεχνολόγοι λένε: είναι ένα σύστημα που μπορεί να κάνει οικονομικά πολύτιμη εργασία καλύτερα ή φθηνότερα από έναν άνθρωπο.

Αυτή είναι μια εξαιρετική διατύπωση. Ίσως γι' αυτό με συναρπάζει τόσο πολύ αυτό το κομμάτι, επειδή είναι οι επιστήμονες που πάντα θαύμαζα στην ιστορία και πιστεύω ότι είναι αυτοί που πραγματικά προωθούν τη γνώση, σε αντίθεση με όσους την κάνουν πρακτικά χρήσιμη. Και τα δύο είναι σημαντικά για την κοινωνία, προφανώς. Τόσο η μηχανική όσο και η επιστήμη. Αλλά πιστεύω ότι [στην υπάρχουσα τεχνητή νοημοσύνη] λείπει η δημιουργία υποθέσεων.

Ας γίνουμε πιο συγκεκριμένοι. Πόσο μακριά πιστεύετε ότι είμαστε από έναν αυτοματοποιημένο επιστήμονα που μπορεί να συμβάλει ουσιαστικά στην έρευνα της τεχνητής νοημοσύνης;

Πιστεύω ότι απέχουμε μερικά χρόνια. Νομίζω ότι οι βοηθοί προγραμματισμού γίνονται αρκετά καλοί. Και μέχρι το επόμενο έτος, πιστεύω ότι θα είναι πολύ καλοί. Προσπαθούμε σκληρά για αυτό. Η [Anthropic] επικεντρώνεται κυρίως σε αυτό, ενώ εμείς ασχολούμαστε περισσότερο με την επιστήμη. [Η τεχνητή νοημοσύνη] δεν είναι ακόμα τόσο καλή όσο οι καλύτεροι προγραμματιστές στο να σχεδιάζουν μια όμορφη δομή για ένα λειτουργικό σύστημα. Νομίζω ότι αυτό το κομμάτι λείπει ακόμα, και γι' αυτό πιστεύω ότι θα χρειαστούν μερικά χρόνια.

Εστιάζετε αρκετά στην πολυτροπικότητα στα μοντέλα Gemini και στη γείωση των πραγμάτων όχι μόνο στον χώρο της γλώσσας, αλλά και στον πραγματικό κόσμο. Εστιάζετε σε αυτό περισσότερο από άλλα εργαστήρια. Γιατί;

Για διάφορους λόγους. Πρώτον, πιστεύω ότι η πραγματική νοημοσύνη θα απαιτεί κατανόηση του χωροχρονικού κόσμου που μας περιβάλλει. Είναι επίσης σημαντικό για οποιαδήποτε πραγματική επιστήμη που θέλετε να ασχοληθείτε. Πίστευα επίσης ότι θα βελτίωνε τα γλωσσικά μοντέλα και νομίζω ότι βλέπουμε κάποια αποτελέσματα, επειδή τα έχετε βασίσει στο πλαίσιο του πραγματικού κόσμου. Αν και, στην πραγματικότητα, η γλώσσα έχει προχωρήσει πολύ περισσότερο από ό,τι πίστευαν ορισμένοι, και ίσως από ό,τι θα πίστευα εγώ. Και τέλος, είναι και θέμα χρήσης, γιατί έχω δύο περιπτώσεις χρήσης στο μυαλό μου στις οποίες εργαζόμαστε εντατικά. Η μία είναι η ιδέα ενός καθολικού ψηφιακού βοηθού που μπορεί να σε βοηθήσει στην καθημερινή σου ζωή, να είσαι πιο παραγωγικός και να εμπλουτίσεις τη ζωή σου. Ένας βοηθός που δεν ζει μόνο στον υπολογιστή σου, αλλά σε ακολουθεί παντού, ίσως στο τηλέφωνό σου ή στα γυαλιά σου ή σε κάποια άλλη συσκευή, και είναι εξαιρετικά χρήσιμος ανά πάσα στιγμή. Και για να λειτουργήσει αυτό, πρέπει να κατανοεί τον κόσμο γύρω σου και να επεξεργάζεται τον κόσμο γύρω σου.

Και δεύτερον, για τη ρομποτική, είναι ακριβώς αυτό που χρειάζεσαι για να λειτουργήσει η ρομποτική στον πραγματικό κόσμο. Πρέπει να κατανοεί το χωρικό πλαίσιο στο οποίο βρίσκεται. [Οι άνθρωποι είναι] πολυτροπικοί, σωστά; Λοιπόν, δουλεύουμε σε οθόνες. Έχουμε όραση. Υπάρχουν βίντεο που μας αρέσει να βλέπουμε, εικόνες που θέλουμε να δημιουργήσουμε και ήχοι που θέλουμε να ακούσουμε. Πιστεύω λοιπόν ότι ένα σύστημα τεχνητής νοημοσύνης πρέπει να αντικατοπτρίζει όλα αυτά για να αλληλεπιδρά με εμάς με τον πληρέστερο δυνατό τρόπο.

Η πρόεδρος της Signal, Meredith Whittaker, έχει ασκήσει σημαντική κριτική στον καθολικό agent που μόλις περιγράψατε, λέγοντας ότι δεν λαμβάνετε αυτή τη βοήθεια από το πουθενά. Η Google είναι μια εταιρεία ψηφιακής διαφήμισης που συλλέγει προσωπικές πληροφορίες για να προβάλλει στοχευμένες διαφημίσεις. Πώς βλέπετε τις επιπτώσεις των agent στην ιδιωτικότητα;

Η Meredith έχει δίκιο που το επισημαίνει αυτό. Μου αρέσει πολύ η δουλειά που κάνει στη Signal. Πρώτα απ' όλα, νομίζω ότι όλα αυτά θα πρέπει να είναι προαιρετικά.

Αλλά εμείς επιλέγουμε να συμμετέχουμε σε όλα τα είδη των δραστηριοτήτων. Επιλέγουμε να συμμετέχουμε στην ψηφιακή παρακολούθηση.

Έτσι, πρώτα απ' όλα, είναι δική σας επιλογή, αλλά φυσικά οι άνθρωποι θα το κάνουν επειδή είναι χρήσιμο, προφανώς. Νομίζω ότι αυτό θα λειτουργήσει μόνο αν είστε απόλυτα πεπεισμένοι ότι αυτός ο βοηθός είναι δικός σας, σωστά; Πρέπει να είναι αξιόπιστος για εσάς, γιατί για να είναι σαν ένας πραγματικός βοηθός, είναι πραγματικά χρήσιμοι όταν σας γνωρίζουν. Οι βοηθοί μου με γνωρίζουν καλύτερα από εμένα τον ίδιο, και γι' αυτό συνεργαζόμαστε τόσο καλά ως ομάδα. Νομίζω ότι αυτό είναι το είδος της χρησιμότητας που θα θέλατε από τον ψηφιακό σας βοηθό. Αλλά τότε θα πρέπει να είσαι σίγουρος ότι είναι πραγματικά απομονωμένος. Έχουμε μερικούς από τους καλύτερους ειδικούς ασφάλειας στον κόσμο που εργάζονται σε αυτά τα θέματα για να διασφαλίσουν ότι προστατεύεται η ιδιωτικότητα, ότι είναι κρυπτογραφημένα ακόμη και στους διακομιστές μας, όλα αυτά τα είδη τεχνολογιών. Εργαζόμαστε πολύ σκληρά σε αυτά, ώστε να είναι έτοιμα όταν το βοηθητικό πρόγραμμα, που ονομάζεται Project Astra για εμάς, είναι έτοιμο για την πρεμιέρα του. Πιστεύω ότι θα είναι απόφαση των καταναλωτών, θα προτιμήσουν συστήματα που προστατεύουν το απόρρητο. Και πιστεύω ότι το edge computing και τα edge models θα είναι πολύ σημαντικά και σε αυτό το σημείο, γι' αυτό και δίνουμε μεγάλη σημασία στα μικρά, πολύ αποδοτικά μοντέλα, που μπορούν να λειτουργήσουν σε μία μόνο συσκευή.

Δεν ξέρω πόσο καιρό πιστεύετε ότι θα περάσει μέχρι να δούμε σημαντικές επιπτώσεις στην αγορά εργασίας από όλα αυτά. Αλλά αν ή όταν συμβεί αυτό, θα είναι μια τεράστια πολιτική αναταραχή, σωστά; Έχετε κάποιο σχέδιο για να αντιμετωπίσετε αυτή την αναταραχή;

Μιλάω με πολλούς οικονομολόγους για αυτό το θέμα. Πρώτα απ' όλα, πιστεύω ότι πρέπει να γίνει πιο σοβαρή δουλειά από τους ειδικούς στον τομέα, τους οικονομολόγους και άλλους. Δεν είμαι σίγουρος ότι γίνεται αρκετή δουλειά σε αυτό το θέμα, όταν μιλάω με οικονομολόγους. Κατασκευάζουμε συστήματα πρακτόρων επειδή θα είναι πιο χρήσιμα. Και αυτό, πιστεύω, θα έχει κάποιο αντίκτυπο και στις θέσεις εργασίας, αν και υποψιάζομαι ότι θα δημιουργήσει και άλλες θέσεις εργασίας, νέες θέσεις που δεν υπάρχουν σήμερα, όπου θα διαχειρίζεστε μια ομάδα πρακτόρων που θα κάνουν τις βαρετές δουλειές, ίσως κάποια έρευνα στο παρασκήνιο, οτιδήποτε, αλλά εσείς θα γράφετε το τελικό άρθρο ή θα καταλήγετε στην τελική ερευνητική εργασία. Ή την ιδέα για αυτήν. Γιατί ερευνάτε αυτά τα πράγματα;

Πιστεύω λοιπόν ότι στην επόμενη φάση θα υπάρχουν άνθρωποι με υπερδυνάμεις χάρη σε αυτά τα εκπληκτικά εργαλεία, υποθέτοντας ότι θα ξέρεις πώς να τα χρησιμοποιείς, σωστά; Θα υπάρξουν λοιπόν αναταραχές, αλλά πιστεύω ότι στο τέλος θα είναι καλύτερα, θα υπάρχουν καλύτερες και πιο ικανοποιητικές θέσεις εργασίας, ενώ οι πιο βαρετές εργασίες θα εξαφανιστούν. Έτσι ήταν με την τεχνολογία στο παρελθόν. Αλλά μετά, όταν η AGI θα μπορεί να κάνει πολλά πράγματα, τότε νομίζω ότι το ερώτημα θα είναι: μπορούμε να κατανείμουμε τα κέρδη από την παραγωγικότητα δίκαια και ευρέως σε όλο τον κόσμο; Και μετά θα υπάρχει ακόμα ένα ερώτημα, αυτό του νοήματος και του σκοπού. Αυτό είναι το επόμενο φιλοσοφικό ερώτημα, για το οποίο πιστεύω ότι χρειαζόμαστε μερικούς σπουδαίους νέους φιλοσόφους να σκεφτούν σήμερα.

Όταν κάναμε την προηγούμενη συνέντευξη το 2022, μιλήσαμε λίγο για αυτό και είπατε: «Αν ζείτε σε έναν κόσμο ριζικής αφθονίας, θα πρέπει να υπάρχει λιγότερος χώρος για ανισότητα και λιγότεροι τρόποι να προκύψει. Αυτή είναι μια από τις θετικές συνέπειες της οράματος της AGI, αν πραγματοποιηθεί». Αλλά σε αυτόν τον κόσμο, θα εξακολουθούν να υπάρχουν άνθρωποι που ελέγχουν τον πλούτο και άνθρωποι που δεν έχουν αυτόν τον πλούτο, καθώς και εργαζόμενοι που μπορεί να μην έχουν πλέον δουλειά. Φαίνεται ότι το όραμα της ριζικής αφθονίας θα απαιτούσε μια μεγάλη πολιτική επανάσταση για να φτάσουμε στο σημείο όπου ο πλούτος θα αναδιανέμεται. Μπορείτε να αναπτύξετε το όραμά σας για το πώς θα συμβεί αυτό;

Δεν έχω αφιερώσει πολύ χρόνο προσωπικά σε αυτό, αν και μάλλον θα έπρεπε να το κάνω όλο και περισσότερο. Και πάλι, νομίζω ότι οι κορυφαίοι οικονομολόγοι θα πρέπει να σκεφτούν πολύ αυτό το θέμα. Νομίζω ότι η ριζοσπαστική αφθονία σημαίνει πραγματικά πράγματα όπως η επίλυση του προβλήματος της σύντηξης και/ή η ανάπτυξη βέλτιστων μπαταριών και/ή υπεραγωγών. Ας υποθέσουμε ότι έχετε λύσει και τα τρία αυτά προβλήματα με τη βοήθεια της τεχνητής νοημοσύνης. Αυτό σημαίνει ότι η ενέργεια θα έχει ουσιαστικά μηδενικό κόστος και θα είναι καθαρή και ανανεώσιμη, σωστά; Και ξαφνικά αυτό σημαίνει ότι όλα τα προβλήματα πρόσβασης στο νερό εξαφανίζονται, επειδή έχεις μονάδες αφαλάτωσης, και αυτό είναι εντάξει, επειδή είναι μόνο ενέργεια και θαλασσινό νερό. Σημαίνει επίσης ότι η παραγωγή καυσίμων για πυραύλους είναι... απλά διαχωρίζεις το υδρογόνο και το οξυγόνο από το θαλασσινό νερό, χρησιμοποιώντας παρόμοιες τεχνικές, σωστά; Έτσι, ξαφνικά, πολλά από τα πράγματα που αποτελούν τη βάση του καπιταλιστικού κόσμου δεν ισχύουν πια, επειδή η βάση του είναι το κόστος της ενέργειας, το κόστος των πόρων και η σπανιότητα των πόρων. Αλλά αν τώρα έχεις ανοίξει το διάστημα και μπορείς να εξορύξεις αστεροειδείς και όλα αυτά τα πράγματα – θα χρειαστούν δεκαετίες για να χτιστεί η υποδομή για αυτό – τότε θα πρέπει να βρισκόμαστε σε μια νέα οικονομική εποχή.

Δεν νομίζω ότι αυτό αντιμετωπίζει καθόλου το ζήτημα της ανισότητας, σωστά; Υπάρχει ακόμα πλούτος που μπορεί να αποκτηθεί και να συσσωρευτεί από την εξόρυξη αυτών των αστεροειδών. Η γη είναι πεπερασμένη.

Υπάρχουν πολλά πράγματα που είναι πεπερασμένα σήμερα, πράγμα που σημαίνει ότι τελικά είναι ένα παιχνίδι μηδενικού αθροίσματος. Αυτό που σκέφτομαι είναι ένας κόσμος όπου δεν είναι πλέον ένα παιχνίδι μηδενικού αθροίσματος, τουλάχιστον από την άποψη των πόρων. Τότε, όμως, υπάρχουν και άλλα ερωτήματα, όπως: οι άνθρωποι εξακολουθούν να θέλουν εξουσία και άλλα πράγματα; Πιθανώς. Αυτό πρέπει να αντιμετωπιστεί πολιτικά. Αλλά τουλάχιστον έχετε λύσει ένα από τα μεγαλύτερα προβλήματα, που είναι ότι, τελικά, σε έναν κόσμο με περιορισμένους πόρους όπως ο δικός μας, τα πράγματα καταλήγουν σε μηδενικό άθροισμα. Δεν είναι η μόνη πηγή, αλλά είναι μια σημαντική πηγή σύγκρουσης και μια σημαντική πηγή ανισότητας, αν το αναλύσουμε σε βάθος.

Αυτό εννοώ με τον όρο «ριζοσπαστική αφθονία». Δεν ζούμε πλέον, με ουσιαστικό τρόπο, σε έναν κόσμο με περιορισμένους πόρους και μηδενικό άθροισμα. Αλλά πιθανότατα θα χρειαστεί μια νέα πολιτική φιλοσοφία γύρω από αυτό, είμαι σίγουρος.

Φτάσαμε στη δημοκρατία στον δυτικό κόσμο, μέσω του Διαφωτισμού, σε μεγάλο βαθμό επειδή οι πολίτες είχαν τη δύναμη να αρνηθούν την εργασία τους και να απειλήσουν να ανατρέψουν το κράτος, σωστά; Αν φτάσουμε στην AGI, φαίνεται ότι χάνουμε και τα δύο αυτά πράγματα, και αυτό μπορεί να είναι κακό για τη δημοκρατία.

Ίσως. Εννοώ, ίσως πρέπει να εξελιχθούμε σε κάτι άλλο καλύτερο, δεν ξέρω. Υπάρχουν και κάποια προβλήματα με τη δημοκρατία. Δεν είναι καθόλου πανάκεια. Νομίζω ότι ήταν ο Τσώρτσιλ που είπε ότι είναι η λιγότερο χειρότερη μορφή διακυβέρνησης, κάτι τέτοιο. Ίσως υπάρχει κάτι καλύτερο. Μπορώ να σας πω τι θα συμβεί τεχνολογικά. Νομίζω ότι αν το κάνουμε σωστά, θα καταλήξουμε σε ριζική αφθονία. Αν διορθώσουμε μερικά από τα προβλήματα των ριζικών κόμβων, όπως τα αποκαλώ. Και μετά υπάρχει το ζήτημα της πολιτικής φιλοσοφίας. Νομίζω ότι αυτό είναι ένα από τα πράγματα που οι άνθρωποι υποτιμούν. Νομίζω ότι θα χρειαστούμε μια νέα φιλοσοφία για το πώς να ζούμε.

Σχετικές ειδήσεις

• Το ChatGPT απέκτησε μία συνήθεια που… φρικάρει τους χρήστες
• Η τεχνητή νοημοσύνη «φαντάστηκε» την πρώτη μέρα του Πάπα Φραγκίσκου στον παράδεισο - Το viral βίντεο
• Δεν ήξερα ότι το ChatGPT λέει και το φλιτζάνι…