Τζέφρι Χίντον: Ποιος είναι ο «Νονός της Τεχνητής Νοημοσύνης» - Γιατί στρέφεται εναντίον του A.I.
Το σύγχρονο θαύμα της τεχνολογίας, η «τεχνητή νοημοσύνη» είναι πιθανό να αλλάξει ριζικά τους ρυθμούς ζωής στο μέλλον, σε βαθμό μάλιστα που το ανθρώπινο ον να μην μπορεί να παρέμβει - Τον κώδωνα του κινδύνου κρούει μία προσωπικότητα που έχει χαρακτηριστεί από πολλούς ως ο «Νονός της τεχνητής νοημοσύνης».
Θύελλα αντιδράσεων έχει ξεσηκώσει η παραίτηση του Τζέφρι Χίντον από την Google, του ανθρώπου που θεωρείται «ο νονός της τεχνητής νοημοσύνης (AI)», προειδοποιώντας για τους αυξανόμενους κινδύνους από τις εξελίξεις στον τομέα.
Σύμφωνα με πληροφορίες του BBC, ο Δρ. Χίντον ανακοίνωσε την παραίτησή του με μια δήλωση στους New York Times, λέγοντας ότι τώρα μετανιώνει για τη δουλειά του. Μεταξύ άλλων τόνισε ότι ορισμένοι από τους κινδύνους των chatbots της τεχνητής νοημοσύνης είναι «αρκετά τρομακτικοί» και πρόσθεσε ότι «αυτή τη στιγμή, δεν είναι πιο έξυπνα από εμάς, αυτό μπορώ να το πω. Αλλά νομίζω ότι σύντομα μπορεί να γίνουν».
Η πρωτοποριακή έρευνα του Τζέφρι Χίντον για τη βαθιά μάθηση και τα νευρωνικά δίκτυα άνοιξε το δρόμο για τα τρέχοντα συστήματα AI όπως το ChatGPT. Όμως ο Βρετανο-Καναδός γνωστικός ψυχολόγος και επιστήμονας υπολογιστών είπε στο BBC ότι το chatbot θα μπορούσε σύντομα να ξεπεράσει το επίπεδο πληροφοριών που κατέχει ένας ανθρώπινος εγκέφαλος.
«Αυτή τη στιγμή, αυτό που βλέπουμε είναι ότι οι εξελίξεις όπως το μοντέλο γλώσσας GPT-4- επισκιάζουν ένα άτομο στο βαθμό των γενικών γνώσεων που έχει και το επισκιάζουν κατά πολύ. Από άποψη συλλογισμού, δεν είναι τόσο καλό, αλλά το κάνει ήδη ο απλός συλλογισμός. Και δεδομένου του ρυθμού προόδου, αναμένουμε ότι τα πράγματα θα βελτιωθούν αρκετά γρήγορα. Επομένως, πρέπει να ανησυχούμε για αυτό».
Στο άρθρο των New York Times, ο Δρ. Χίντον αναφέρθηκε σε «κακούς ανθρώπους» που θα προσπαθούσαν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για «κακά πράγματα». Όταν του ζητήθηκε από το BBC να δώσει περισσότερες λεπτομέρειες σχετικά με αυτό, απάντησε: «Αυτό είναι απλώς ένα είδος χειρότερου σεναρίου, ένα είδος εφιαλτικού σεναρίου».
«Έχω καταλήξει στο συμπέρασμα ότι το είδος της νοημοσύνης που αναπτύσσουμε είναι πολύ διαφορετικό από τη νοημοσύνη που έχουμε. Είμαστε βιολογικά συστήματα και αυτά είναι ψηφιακά συστήματα. Και η μεγάλη διαφορά είναι ότι με τα ψηφιακά συστήματα, έχουν πολλά αντίγραφα του ίδιου συνόλου βαρών, του ίδιου μοντέλου του κόσμου. Και όλα αυτά τα αντίγραφα μπορούν να μάθουν χωριστά, αλλά να μοιράζονται τη γνώση τους αμέσως. Έτσι είναι σαν να είχες 10.000 άτομα και όποτε ένα άτομο μάθαινε κάτι, όλοι το γνώριζαν αυτόματα. Και έτσι αυτά τα chatbots μπορούν να γνωρίζουν πολύ περισσότερα από οποιοδήποτε άτομο», πρόσθεσε.
Ο Δρ. Χίντον είπε επίσης ότι υπήρχαν αρκετοί άλλοι λόγοι για να παραιτηθεί από τη δουλειά του. «Ο ένας είναι ότι είμαι 75. Άρα ήρθε η ώρα να αποσυρθώ. Ο άλλος είναι ότι πραγματικά θέλω να πω μερικά καλά πράγματα για την Google. Και είναι πιο αξιόπιστα αν δεν εργάζομαι για την Google».
Τόνισε ότι δεν ήθελε να επικρίνει την Google και ότι ο τεχνολογικός γίγαντας ήταν «πολύ υπεύθυνος». Σε δήλωσή του, ο επικεφαλής επιστήμονας της Google, Τζεφ Ντιν είπε: «Παραμένουμε δεσμευμένοι σε μια υπεύθυνη προσέγγιση για την τεχνητή νοημοσύνη. Μαθαίνουμε συνεχώς να κατανοούμε τους αναδυόμενους κινδύνους, ενώ παράλληλα καινοτομούμε με τόλμη».
Τζέφρι Χίντον: «Έλον Μασκ, Μπέρνι Σάντερς και Λευκός Οίκος ζητούν τη βοήθειά μου»
Ο Δρ. Τζέφρι Χίντον δέχθηκε αιτήματα βοήθειας από τον Αμερικανό γερουσιαστή Μπέρνι Σάντερς, τον μεγιστάνα της Tesla και του Twitter Έλον Μασκ, ακόμη και τον Λευκό Οίκο, λέει, λίγες μέρες μετά την αποχώρησή του από την Google για να προειδοποιήσει τον κόσμο για τον κίνδυνο της ψηφιακής νοημοσύνης.
Το 2018, ο 75χρονος Χίντον κέρδισε την υψηλότερη διάκριση στην επιστήμη των υπολογιστών, το βραβείο Turing για την εργασία του στη «βαθιά μάθηση», μαζί με τον Yann Lecun της Meta και τον Yoshua Bengio του Πανεπιστημίου του Μόντρεαλ.
Η τεχνολογία, η οποία τώρα στηρίζει την επανάσταση της τεχνητής νοημοσύνης, προέκυψε ως αποτέλεσμα των προσπαθειών του Χίντον να κατανοήσει τον ανθρώπινο εγκέφαλο, προσπάθειες που τον έπεισαν ότι οι ψηφιακοί εγκέφαλοι θα μπορούσαν να αντικαταστήσουν τους βιολογικούς.
«Η κυβέρνηση των ΗΠΑ έχει αναπόφευκτα πολλές ανησυχίες σχετικά με την εθνική ασφάλεια. Και τείνω να διαφωνώ μαζί τους. Για παράδειγμα, είμαι βέβαιος ότι το υπουργείο Άμυνας θεωρεί ότι τα μόνα ασφαλή χέρια για αυτό το θέμα είναι το υπουργείο Άμυνας των ΗΠΑ, η μόνη ομάδα ανθρώπων που πραγματικά χρησιμοποιεί πυρηνικά όπλα», είπε στον Guardian.
«Είμαι σοσιαλιστής. Νομίζω ότι η ιδιωτική ιδιοκτησία των μέσων ενημέρωσης και των "μέσου υπολογισμού" δεν είναι καλή. Ο λόγος που δεν είμαι τόσο αισιόδοξος είναι ότι δεν γνωρίζω παραδείγματα πιο έξυπνων πραγμάτων που ελέγχονται από λιγότερο έξυπνα πράγματα», πρόσθεσε ο Χίντον.
«Αν δείτε τι κάνει η Google στο πλαίσιο ενός καπιταλιστικού συστήματος, συμπεριφέρεται τόσο υπεύθυνα όσο θα περίμενε κανείς να κάνει. Αλλά αυτό δεν σημαίνει ότι προσπαθεί να μεγιστοποιήσει τη χρησιμότητα για όλους τους ανθρώπους: είναι νομικά υποχρεωμένη να μεγιστοποιήσει τη χρησιμότητα για τους μετόχους της, και αυτό είναι πολύ διαφορετικό». Ο Χίντον δέχεται αιτήματα για να μιλήσει κάθε δύο λεπτά από τότε που μίλησε δημόσια τη Δευτέρα για τους φόβους του, προειδοποιώντας ότι η πρόοδος της τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει στο τέλος του πολιτισμού μέσα σε 20 χρόνια.
Τζέφρι Χίντον: «Τα μοντέλα που φτιάχνουμε είναι καλύτερα από τον εγκέφαλο»
Όταν του ζητούν συγκεκριμένες συμβουλές απαντά ότι «δεν έχει λόγια». «Δεν είμαι άνθρωπος της πολιτικής», λέει. «Είμαι απλώς κάποιος που συνειδητοποιεί ξαφνικά ότι υπάρχει ο κίνδυνος να συμβεί κάτι πολύ κακό. Μακάρι να είχα μια ωραία λύση, όπως: "Απλώς σταματήστε να καίτε άνθρακα, και θα είστε εντάξει". Αλλά δεν μπορώ να δω μια απλή λύση όπως αυτή».
Το 2022, η ταχεία πρόοδος στα μοντέλα τεχνητής νοημοσύνης έπεισε τον Χίντον να λάβει στα σοβαρά την απειλή ότι η «ψηφιακή νοημοσύνη» θα μπορούσε μια μέρα να αντικαταστήσει την ανθρωπότητα. «Τα τελευταία 50 χρόνια, προσπαθώ να φτιάξω μοντέλα υπολογιστών που να μπορούν να μάθουν πράγματα παρόμοια με τον τρόπο που τα μαθαίνει ο εγκέφαλος, προκειμένου να καταλάβω καλύτερα πώς μαθαίνει πράγματα ο εγκέφαλος. Αλλά πολύ πρόσφατα, αποφάσισα ότι ίσως αυτά τα μεγάλα μοντέλα είναι στην πραγματικότητα πολύ καλύτερα από τον εγκέφαλο», ισχυρίζεται ο Χίντον.
«Πρέπει να το σκεφτούμε πολύ τώρα και αν μπορούμε να κάνουμε κάτι. Ο λόγος που δεν είμαι τόσο αισιόδοξος είναι ότι δεν γνωρίζω παραδείγματα πιο έξυπνων πραγμάτων που ελέγχονται από λιγότερο έξυπνα πράγματα. Πρέπει να φανταστείς κάτι που είναι πιο έξυπνο από εμάς στον ίδιο βαθμό που είμαστε πιο έξυπνοι από έναν βάτραχο. Είναι πολύ καλό να λέμε: "Λοιπόν, μην τους συνδέετε στο διαδίκτυο", αλλά όσο μας μιλούν, μπορούν να μας κάνουν να κάνουμε πράγματα».
Ακόμη και εκτός του υπαρξιακού κινδύνου, ο Χίντον έχει άλλες ανησυχίες για την ταχεία ανάπτυξη της ισχύος των μοντέλων AI, επικαλούμενος την επιρροή του υποστηρικτή της Cambridge Analytica Robert Mercer στις πολιτικές εκστρατείες και στις δύο πλευρές του Ατλαντικού. «Ο Μπομπ Μέρσερ και ο Πίτερ Μπράουν, όταν εργάζονταν στην IBM στη μετάφραση, κατάλαβαν τη δύναμη της ύπαρξης πολλών δεδομένων. Χωρίς τον Μπομπ Μέρσερ, ο Τραμπ μπορεί να μην είχε ακόμη εκλεγεί».
«Κόκκινη σημαία» οι αυταρχικές κυβερνήσεις
Οι αυταρχικές κυβερνήσεις, λέει ο «νονός» της τεχνητής νοημοσύνης, είναι η μεγαλύτερη «κόκκινη σημαία» που υποδηλώνει ότι η ανθρωπότητα δεν θα μπορέσει να αντιμετωπίσει τους κινδύνους της νέας αυτής τεχνολογίας πριν να είναι πολύ αργά.
«Αυτά τα πράγματα βοηθούν τις αυταρχικές κυβερνήσεις στην καταστροφή της αλήθειας ή στη χειραγώγηση των εκλογέων. Και το να αντιμετωπίσουμε αυτές τις απειλές, σε μια κατάσταση όπου οι Αμερικανοί δεν μπορούν καν να συμφωνήσουν να μην δώσουν όπλα σε εφήβους, αυτό δεν είναι δύσκολο να το σκεφτείς», ανέφερε ο Χίντον.
«Στο Ουβάλντε, 21 πολίτες δολοφονήθηκαν το 2022 σε ένα δημοτικό σχολείο στο Τέξας, υπήρχαν 200 αστυνομικοί που δεν τολμούσαν να περάσουν από μια πόρτα επειδή ο τύπος από την άλλη πλευρά είχε ένα όπλο και πυροβολούσε παιδιά. Κι όμως, δεν μπορούν να αποφασίσουν να μην απαγορεύσουν τα όπλα επίθεσης. Επομένως, ένα εντελώς δυσλειτουργικό πολιτικό σύστημα όπως αυτό, δεν είναι το σωστό σύστημα για να αντιμετωπίσουμε αυτές τις απειλές», κατέληξε ο Χίντον στον Guardian.
Προειδοποιήσεις από ανθρώπους της AI: «Η τεχνητή νοημοσύνη θέλει έλεγχο»
Αξίζει να σημειωθεί ότι τον Μάρτιο, μια ανοιχτή επιστολή -που συνυπέγραψαν δεκάδες άνθρωποι στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Έλον Μασκ– ζητούσε να σταματήσει η ανάπτυξη πιο προηγμένων εκδόσεων του ChatGPT, ώστε να μπορούν να σχεδιαστούν ισχυρά μέτρα ασφαλείας.
Ο Γιόσουα Μπέντζιο, ένας άλλος «νονός» της τεχνητής νοημοσύνης, ο οποίος μαζί με τον Δρ. Χίντον και τον Γιαν Λεκούν κέρδισαν το βραβείο Turing 2018 για το έργο τους στη βαθιά μάθηση, υπέγραψε επίσης την επιστολή. Ο κ. Μπέντζιο επισήμανε ότι λόγω της «απροσδόκητης επιτάχυνσης στα συστήματα τεχνητής νοημοσύνης "πρέπει να κάνουμε ένα βήμα πίσω"».
Ο Δρ. Χίντον, από την πλευρά του, τόνισε στο BBC ότι «βραχυπρόθεσμα η τεχνητή νοημοσύνη θα αποφέρει πολύ περισσότερα οφέλη παρά κινδύνους, άρα δεν νομίζω ότι πρέπει να σταματήσουμε την ανάπτυξη». Συμπλήρωσε ότι «ο διεθνής ανταγωνισμός καθιστά εξαιρετικά δύσκολο το φρένο, άρα ακόμα κι αν όλοι στις ΗΠΑ σταματούσαν να το αναπτύσσουν, η Κίνα θα έπαιρνε απλώς ένα μεγάλο προβάδισμα».
Σε δική του δήλωση, ο επικεφαλής επιστήμονας της Google, Τζεφ Ντιν, διαβεβαίωσε: «Παραμένουμε δεσμευμένοι σε μια υπεύθυνη προσέγγιση για την τεχνητή νοημοσύνη. Μαθαίνουμε συνεχώς να κατανοούμε τους αναδυόμενους κινδύνους, ενώ παράλληλα καινοτομούμε με τόλμη».
Υπενθυμίζεται ότι τα chatbot AI είναι μόνο μια πτυχή της τεχνητής νοημοσύνης, ακόμα κι αν είναι τα πιο δημοφιλή αυτή τη στιγμή. Το AI βρίσκεται πίσω από τους αλγόριθμους που υπαγορεύουν στις πλατφόρμες τι βίντεο παρακολουθούμε. Μπορεί να χρησιμοποιηθεί σε προσλήψεις για να φιλτράρει τις αιτήσεις εργασίας, από ασφαλιστές για τον υπολογισμό των ασφαλίστρων, μπορεί να προβεί μέχρι και σε ιατρικές διαγνώσεις.
Αυτό που βλέπουμε τώρα είναι η άνοδος του AGI –τεχνητής γενικής νοημοσύνης– που μπορεί να εκπαιδευτεί για να κάνει πολλά πράγματα μέσα σε μια αποστολή. Για παράδειγμα, το ChatGPT μπορεί να προσφέρει μόνο απαντήσεις κειμένου σε ένα ερώτημα, αλλά οι δυνατότητες, όπως βλέπουμε, είναι ατελείωτες.
Ο ρυθμός της επιτάχυνσης της τεχνητής νοημοσύνης έχει εκπλήξει ακόμη και τους δημιουργούς του. Έχει εξελιχθεί δραματικά από τότε που ο Δρ. Χίντον δημιούργησε ένα πρωτοποριακό νευρωνικό δίκτυο ανάλυσης εικόνας το 2012.
Το αφεντικό της Google, Σουντάρ Πιτσάι, είπε σε μια συνέντευξή του, ότι ακόμη και ο ίδιος δεν καταλάβαινε πλήρως όλα όσα έκανε το chatbot AI, Bard.
Το BBC στο άρθρο του για τον «νονό» της τεχνητής νοημοσύνης καταλήγει, σημειώνοντας ότι «αυτή τη στιγμή βρισκόμαστε σε ένα τρένο που κινείται με ταχύτητα και υπάρχει ανησυχία ότι μια μέρα θα αρχίσει να χτίζει τις δικές του γραμμές».
Τεχνητή νοημοσύνη: «Χτυπά» τους εργαζόμενους
Καμπανάκι κρούει η έκθεση της Goldman Sachs, η οποία αναφέρει ότι η τεχνητή νοημοσύνη θα μπορούσε στο μέλλον να αντικαταστήσει το 1/4 των εργαζομένων σε ΗΠΑ και Ευρώπη, αλλά μπορεί επίσης να οδηγήσει στην έκρηξη της παραγωγικότητας και στη δημιουργία νέων θέσεων.
Η έκθεση σημειώνει ότι ο αντίκτυπος της τεχνητής νοημοσύνης θα διαφέρει σε διάφορους τομείς. Το 46% των εργασιών στα διοικητικά και το 44% στα νομικά επαγγέλματα θα μπορούσαν να αυτοματοποιηθούν, αλλά μόνο το 6% στις κατασκευές και το 4% στη συντήρηση.
Ωστόσο, περίπου το 7% των Aμερικανών βρίσκονται σε θέσεις εργασίας όπου τουλάχιστον το 50% των καθηκόντων τους θα μπορούσαν να εκτελεστούν από την τεχνητή νοημοσύνη και πιθανότατα κινδυνεύουν να χάσουν την δουλειά τους.
«Το μόνο πράγμα για το οποίο είμαι σίγουρος είναι ότι δεν υπάρχει τρόπος να γνωρίζουμε πόσες θέσεις εργασίας θα αντικατασταθούν από την τεχνητή νοημοσύνη», δήλωσε στο BBC News ο Καρλ Μπένεντικτ Φρέι, διευθυντής του Πανεπιστημίου της Οξφόρδης. «Αυτό που κάνει το ChatGPT, για παράδειγμα, είναι να επιτρέπει σε περισσότερους ανθρώπους με μέτριες δεξιότητες γραφής να παράγουν δοκίμια και άρθρα. Επομένως, οι δημοσιογράφοι θα αντιμετωπίσουν μεγαλύτερο ανταγωνισμό, ο οποίος θα οδηγήσει σε μείωση των μισθών», πρόσθεσε.
Για παράδειγμα, η τεχνολογία GPS και πλατφόρμες όπως η Uber μείωσαν τους μισθούς των οδηγών ταξί καθώς ξαφνικά η γνώση των δρόμων έγινε ευκολότερη αλλά δεν μείωσε τον αριθμό τους.
Σύμφωνα με έρευνα που επικαλείται η έκθεση, το 60% των εργαζομένων ασκεί επαγγέλματα που δεν υπήρχαν το 1940. Ωστόσο, άλλες έρευνες δείχνουν ότι η τεχνολογική αλλαγή από τη δεκαετία του 1980 έχει εκτοπίσει τους εργαζόμενους περισσότερο από ό,τι έχει δημιουργήσει θέσεις εργασίας.
Και αν η γενεσιουργός τεχνητή νοημοσύνη είναι όπως οι προηγούμενες εξελίξεις της τεχνολογίας της πληροφορίας, καταλήγει η έκθεση, θα μπορούσε να μειώσει την απασχόληση βραχυπρόθεσμα.
Ποιος είναι ο Τζέφρι Χίντον
Ο Τζέφρι Χίντον γεννήθηκε στο Λονδίνο το 1947 και έλαβε το διδακτορικό του στην τεχνητή νοημοσύνη από το Πανεπιστήμιο του Εδιμβούργου το 1978.
Είναι δισέγγονος της μαθηματικού Μαίρη Έβερεστ Μπουλ και του επιστήμονα Τζορτζ Μπουλ, το έργο του οποίου έθεσε τα θεμέλια της σύγχρονης επιστήμης των υπολογιστών.
Ο Χίντον μετακόμισε από τις ΗΠΑ στον Καναδά εν μέρει λόγω απογοήτευσης από την πολιτική της εποχής του Ρόναλντ Ρίγκαν και αποδοκιμασίας της στρατιωτικής χρηματοδότησης της τεχνητής νοημοσύνης.
Στον Καναδά συνίδρυσε το Vector Institute for Artificial Intelligence, ένα ερευνητικό ινστιτούτο που επικεντρώνεται στην προώθηση της τεχνητής νοημοσύνης.
Το 2012 μαζί με δύο μεταπτυχιακούς φοιτητές του από το Πανεπιστήμιο του Τορόντο δημιούργησαν την τεχνολογία που έβαλε τα θεμέλια για την τεχνητή νοημοσύνη, όπως την γνωρίζουμε σήμερα. Εκείνη την εποχή, ο Χίντον και οι δύο φοιτητές του δημιούργησαν μέσω μιας startup, της DNNresearch, ένα νευρωνικό δίκτυο που μπορούσε να αναλύσει χιλιάδες φωτογραφίες και να μάθει να αναγνωρίζει κοινά αντικείμενα, όπως λουλούδια, σκύλους και αυτοκίνητα.
H Google ξόδεψε 44 εκατομμύρια δολάρια για να εξαγοράσει την startup που δημιούργησε ο Χίντον, και πάνω στα θεμέλια αυτού του συστήματος, έχτισε όλο και πιο ισχυρές τεχνολογίες, όπως τα νέα chatbots, το «ChatGPT» και το «Google Bard».
Το 2018 ο Χίντον και οι δύο συνεργάτες του έλαβαν το βραβείο «Turing», το οποίο συχνά αποκαλείται «το βραβείο Νόμπελ της Πληροφορικής», για το έργο τους πάνω στα νευρωνικά δίκτυα.
Σχετικές ειδήσεις
Τεχνητή νοημοσύνη σε ρόλο «Εξολοθρευτή»: Πώς μπορεί να απειλήσει την ανθρωπότητα
Η τεχνητή νοημοσύνη τελικά μας απειλεί; Οι εκκλήσεις του Μασκ και ο κίνδυνος για την ανθρωπότητα
ChatGPT: Η πιο «ανθρώπινη» μηχανή κρύβει παγίδες - Expert της Microsoft εξηγεί τι να προσέχουμε
SOS από τον «νονό» της τεχνητής νοημοσύνης: «Τα chatbot θα γίνουν σύντομα πιο έξυπνα από εμάς»
