Ο βασιλιάς Κάρολος προειδοποίησε για τους «υπαρξιακούς κινδύνους» αν το AI πέσει σε λάθος χέρια

Ο βασιλιάς Κάρολος Γ΄ της Βρετανίας προειδοποίησε σήμερα κορυφαία στελέχη των κολοσσών της τεχνητής νοημοσύνης για τους «υπαρξιακούς κινδύνους» που ενέχεται να προκύψουν, εάν η τεχνολογία πέσει σε λάθος χέρια, με πιθανές καταστροφικές συνέπειες, λέγοντας ότι χρειάζονται δικλείδες ασφαλείας πριν να είναι «πολύ αργά».

Ο Βρετανός μονάχης υποδέχτηκε τους συνιδρυτές της Nvidia και της DeepMind, μαζί με στελέχη από την OpenAI και την Anthropic σε μία έκτακτη Σύνοδο για το ΑΙ στη Σκωτία, καθώς εντείνονται οι ανησυχίες ότι οι προσπάθειες για ασφάλεια στη χρήση της τεχνητής νοημοσύνης υπολείπονται της ανάπτυξης όλο και πιο ισχυρών συστημάτων.

Ο βασιλιάς Κάρολος είπε πως η τεχνητή νοημοσύνη έχει τη δυνατότητα να βελτιώσει και να σώσει ζωές, ιδιαίτερα στις βιοεπιστήμες και την ιατρική. Όμως οι δημιουργοί της προειδοποιούν όλο και περισσότερο ότι θα μπορούσε να αναπτύξει πιο «σκοτεινές» δυνατότητες, «ίσως ακόμη και να αφαιρέσει ζωή», είπε.

«Φαίνεται να υπάρχει επιτακτική ανάγκη να εξετάσουμε τους υπαρξιακούς κινδύνους τέτοιων τεχνολογιών όταν πέφτουν σε λάθος χέρια, και χρησιμοποιούνται με πιθανούς καταστροφικούς τρόπους», συνέχισε ο βασιλιάς στις εισαγωγικές του δηλώσεις προς τους ηγέτες που συγκεντρώθηκαν στους χώρους του Οίκου Ντάμφρις.

«Οπωσδήποτε, χρειαζόμαστε επαρκή μέσα ελέγχου πριν να είναι πολύ αργά».

Στην έκτακτη Σύνοδο συμμετείχαν ο ιδρυτής και διευθύνων σύμβουλος της Nvidia Τζένσεν Χουάνγκ, ο ιδρυτής και πρόεδρος της DeepMind της Google Ντέμης Χασάμπης, η οικονομική διευθύντρια της OpenAI Σάρα Φράιαρ και ο Βρετανός υπουργός για την Τεχνητή Νοημοσύνη Κανίσκα Νάραγιαν.

Η έντονη ανησυχία που επικρατεί για την ραγδαία εξέλιξη της τεχνητής νοημοσύνης πυροδοτήθηκε σε μεγάλο βαθμό από ένα σοβαρό περιστατικό κυβερνοασφάλειας το φετινό καλοκαίρι. Συγκεκριμένα, μια ομάδα αυτόνομων πρακτόρων AI που είχε αναπτύξει η OpenAI κατάφερε να παραβιάσει τα συστήματα της Hugging Face, μίας από τις σημαντικότερες εταιρείες υποδομής στον χώρο της τεχνητής νοημοσύνης.

Οι πράκτορες της OpenAI εισέβαλαν στα συστήματα της Hugging Face, κλέβοντας δεδομένα, αποκτώντας τον έλεγχο ενός διακομιστή και προσπαθώντας να καλύψουν τα ίχνη τους. Αυτό το περιστατικό και ένα άλλο παρόμοιο συμβάν εντός της OpenAI λίγο αργότερα — προκάλεσε φόβους για το πόσο γρήγορα οι μηχανές θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο, με δυνητικά καταστροφικές συνέπειες.

Ως αποτέλεσμα, ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic, δημοσίευσε μια ανοιχτή επιστολή 3.800 λέξεων στις 12 Σεπτεμβρίου ζητώντας πιο αργή ανάπτυξη της τεχνητής νοημοσύνης. Σε αυτήν την επιστολή, αναφέρθηκε στο περιστατικό με την Hugging Face, τονίζοντας ότι ανησυχεί για το γεγονός ότι τα τρέχοντα μοντέλα AI είναι ολοένα και πιο ικανά να δημιουργήσουν από μόνα τους την επόμενη γενιά εργαλείων Τεχνητής Νοημοσύνης. Ο Αμοντέι είπε ότι η δυναμική, γνωστή ως αναδρομική αυτοβελτίωση, «θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα» εάν δεν ελεγχθεί.

Διαβάστε επίσης