Πώς θα μπορούσε η τεχνητή νοημοσύνη να εξοντώσει όλους τους ανθρώπους; Αυτά είναι τα 5 σενάρια
Απίθανα και πιο πιθανά σενάρια για τον «αφανισμό» της ανθρωπότητας από την ΑΙ
Snapshot
- Ο Τζέικομπ Κόξον παραιτήθηκε από την Anthropic εκφράζοντας φόβους ότι η τεχνητή νοημοσύνη μπορεί να εξοντώσει την ανθρωπότητα μέχρι το τέλος της δεκαετίας.
- Πέντε βασικά σενάρια απειλούν την ανθρωπότητα, με το πιο πιθανό να είναι οι ίδιοι οι άνθρωποι που θα καταστρέψουν τον εαυτό τους με τη βοήθεια της τεχνητής νοημοσύνης.
- Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει βιολογικά όπλα, όπως νέους ιούς, που θα μπορούσαν να προκαλέσουν πανδημίες, αλλά η εξόντωση όλων είναι δύσκολη λόγω βιολογικών περιορισμών.
- Υπάρχει κίνδυνος η τεχνητή νοημοσύνη να προκαλέσει πυρηνικό πόλεμο μέσω παρεμβολών ή ψευδών πληροφοριών, παρά την απόσυρση πολλών πυρηνικών όπλων.
- Μια υπερ-ευφυής τεχνητή νοημοσύνη θα μπορούσε να επιδιώξει στόχους χωρίς να λαμβάνει υπόψη την επιβίωση της ανθρωπότητας, όπως στο παράδειγμα της υποθετικής μηχανής που παράγει μόνο συνδετήρες.
Μία αυξανόμενη αναταραχή γύρω για τον ρόλο και την αναγκαιότητα της Τεχνητής Νοημοσύνης, πυροδότησε μία παραίτηση με μία πολύ «μαύρη» πρόβλεψη για το μέλλον της ανθρωπότητας.
Ο Τζέικομπ Κόξον παραιτήθηκε από την Anthropic μετά από μόλις τέσσερις μήνες. Στο Χ έγραψε: «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Ένα ανώτερο στέλεχος της Anthropic, ο Έβαν Χούμπινγκερ, συμφώνησε μάλιστα με τον Κόξον, προσθέτοντας ότι προσωπικά εκτιμά ότι η πιθανότητα να συμβεί κάτι τέτοιο την επόμενη δεκαετία είναι μεγαλύτερη από 10%.
Μετά μπήκε στη συζήτηση, η ανάγκη επιβράδυνσης της τεχνητής νοημοσύνης και της ενίσχυσης του «ανθρώπινου ελέγχου». Όμως πόσο πιθανό είναι η τεχνητή νοημοσύνη να μας σκοτώσει όλους;
Τα σενάρια και οι θεωρίες δίνουν και παίρνουν, όμως 5 είναι τα κυρίαρχα, όπως τα αποτυπώνει σε αντίστροφη σειρά η Daily Mail, με το τελευταίο να είναι και το πιθανότερο, με βάση το βιβλίο του Toby Wals: Τεχνητή Νοημοσύνη: άνθηση ή καταστροφή; Τι να περιμένουμε όταν οι μηχανές μας ξεπεράσουν σε εξυπνάδα.
1. Δεν θα μάθουμε ποτέ
Πιθανότατα δεν μπορούμε να φανταστούμε ποια καταστροφή θα συμβεί. Ή θα πρέπει και οι άνθρωποι να διαθέτουν υπερνοημοσύνη για να μπορέσουν να προβλέψουν τι θα κάνει μια υπερνοημοσύνη.
Στο σενάριο αυτό υπάρχουν καλά νέα. Ότι η υπερνοημοσύνη έχει ακόμα δρόμο μπροστά της. Τα σημερινά μοντέλα τεχνητής νοημοσύνης είναι πραγματικά καλά στο να επιλύουν συγκεκριμένα προβλήματα, αλλά αυτό δεν σημαίνει ότι είναι πιο έξυπνα από έναν άνθρωπο σε όλους τους τομείς. Ωστόσο, η τεχνητή νοημοσύνη έλυσε πρόσφατα ένα από τα επτά πιο δύσκολα μαθηματικά προβλήματα που είναι γνωστά. Φαίνεται ότι πλησιάζει και άλλα, κάτι που ίσως σας κάνει να αισθάνεστε λιγότερο αισιόδοξοι σε αυτό το θέμα.
2. Συνδετήρες...?
Μια υπερ-ευφυής τεχνητή νοημοσύνη θα ήταν πιθανότατα εξαιρετικά ικανή στην επίτευξη των στόχων της. Ωστόσο, ενδέχεται να είναι αδιάφορη για την επιβίωση της ανθρωπότητας.
Ένα κλασικό παράδειγμα τέτοιας αδιαφορίας προέρχεται από τη φανταστική υπερευφυή τεχνητή νοημοσύνη του φιλοσόφου της Οξφόρδης Nick Bostrom που έχει σχεδιαστεί για να βελτιστοποιεί την παραγωγή συνδετήρων. Για να παράγει το αγαπημένο είδος γραφείου, μετατρέπει γρήγορα όλη τη διαθέσιμη ύλη – συμπεριλαμβανομένων των ανθρώπων, των πλανητών και των αστεριών – σε συνδετήρες!
Η ΤΝ δεν μισεί την ανθρωπότητα· απλώς αναγνωρίζει ότι αποτελούμαστε από άτομα που θα μπορούσαν να αξιοποιηθούν καλύτερα για τη δημιουργία συνδετήρων. Τα καλά νέα είναι ότι αυτό το σενάριο συγχέει τη νοημοσύνη με τη δύναμη.
Μια υπερευφυής τεχνητή νοημοσύνη δεν διαθέτει απαραίτητα τη δύναμη να επιτύχει τους στόχους της.
Η μετατροπή του πλανήτη σε εργοστάσια συνδετήρων θα έφερνε αλυσιδωτές επιπτώσεις, κόστος, και τις αντιδράσεις, Υπό αυτές τις αντίξοες συνθήκες ακόμα και οι πολύ έξυπνοι δεν μπορούν να επιβάλλουν τα θέλω τους στους γύρω τους.
3. Βιολογικά όπλα
Η ανθρωπότητα θα μπορούσε να εξοντωθεί από μια υπερ-ευφυή Τεχνητή Νοημοσύνη που θα δημιουργούσε και θα απελευθέρωνε κάποιο επικίνδυνο νέο βιολογικό όπλο στην ατμόσφαιρα.
Αυτό είναι, στην πραγματικότητα, ένα από τα ενδεχόμενα αποτελέσματα του σεναρίου «AI 2027» του AI Futures Project, ενός μη κερδοσκοπικού οργανισμού που ασχολείται με την πρόβλεψη των επιπτώσεων της προηγμένης ΤΝ.
Ο κίνδυνος αυτός έγινε πιο συγκεκριμένος τον περασμένο μήνα, όταν ερευνητές του Πανεπιστημίου του Στάνφορντ ανακοίνωσαν ότι είχαν χρησιμοποιήσει ένα μοντέλο τεχνητής νοημοσύνης με γενετική γλώσσα για να συνθέσουν 16 νέους ιούς.
Το ανησυχητικό είναι ότι απλώς έστειλαν τις γενετικές αλληλουχίες σε ένα εργαστήριο που λειτουργεί μέσω αλληλογραφίας και αυτό τους έστειλε τους ιούς πίσω σε δοκιμαστικούς σωλήνες.
Το σύνολο του πειράματος κόστισε το πολύ μερικές εκατοντάδες χιλιάδες δολάρια.
Τα καλά νέα εδώ είναι ότι είναι εξαιρετικά δύσκολο να σκοτωθούν όλοι με έναν νέο ιό. Για να γίνει αυτό, χρειάζεται ένας ιός που να είναι πολύ μεταδοτικός, ώστε να εξαπλωθεί ευρέως. Αλλά είναι ένας κανόνας της βιολογίας: οι ιοί που εξαπλώνονται εύκολα είναι συνήθως λιγότερο θανατηφόροι.
Αντίθετα, αν ένας ιός είναι πολύ θανατηφόρος, η μεταδοτικότητά του τείνει να μειώνεται, καθώς οι περισσότεροι μολυσμένοι άνθρωποι πεθαίνουν πριν προλάβουν να μεταδώσουν τη μόλυνση.
Ο COVID σκότωσε λιγότερο από το 1% της ανθρωπότητας. Η πιο θανατηφόρα πανδημία στην καταγεγραμμένη ιστορία ήταν ο Μαύρος Θάνατος, όταν η πανούκλα σκότωσε περισσότερο από το ένα τρίτο του πληθυσμού της Ευρώπης τον 13ο αιώνα.
4. Πυρηνικός πόλεμος
Τι θα γινόταν αν η τεχνητή νοημοσύνη εισχωρούσε στην αλυσίδα διοίκησης και ελέγχου των πυρηνικών όπλων και ξεκινούσε έναν πυρηνικό πόλεμο; Τα τελευταία 50 χρόνια έχουμε φτάσει κοντά στον πυρηνικό πόλεμο κατά λάθος αρκετές φορές. Μας λένε ότι το σύστημα διοίκησης και ελέγχου των πυρηνικών όπλων είναι εντελώς αποσυνδεδεμένο από το διαδίκτυο. Όμως, όπως είδαμε το 2010, οι πυρηνικοί φυγοκεντρωτές του Ιράν καταστράφηκαν από έναν ιό υπολογιστή που ονομάζεται Stuxnet, ο οποίος πιστεύεται ότι εισήχθη μέσω ενός USB stick. Η τεχνητή νοημοσύνη μπορεί επίσης να παρέχει στον στρατό ψευδείς πληροφορίες, κάτι που θα μπορούσε να οδηγήσει σε ανεπανόρθωτες ενέργειες.
Τα καλά νέα εδώ είναι ότι τα πυρηνικά αποθέματα έχουν μειωθεί. Ωστόσο, εξακολουθούν να είναι αρκετά για να εξοντώσουν το ήμισυ του παγκόσμιου πληθυσμού. Και αυτό δεν θα οφειλόταν στην ίδια την πυρηνική έκρηξη, αλλά στην πείνα που θα ακολουθούσε τον πυρηνικό χειμώνα.
5. Οι ίδιοι οι άνθρωποι
Ίσως ο πιο πιθανός κίνδυνος είναι να καταστρέψουμε τους εαυτούς μας. Και η Τεχνητή Νοημοσύνη μπορεί να επιταχύνει αυτή την εξέλιξη.
Φανταστείτε ότι η ΑΙ προκαλεί μαζικές απώλειες θέσεων εργασίας, παραπληροφορεί, διασπά την πολιτική σκηνή και καταστρέφει τις ανθρώπινες σχέσεις με ψεύτικη, συνθετική συντροφιά.
Η κοινωνία θα μπορούσε εύκολα να καταρρεύσει. Σιγά-σιγά, αλλά σταθερά...
