Έκτακτη Σύνοδος για την ΑΙ στη Σκωτία: Ο Βασιλιάς Κάρολος Συγκαλεί τους «γίγαντες» του κλάδου
Καθώς αυξάνεται ο συναγερμός για την τεχνητή νοημοσύνη, το Παλάτι του Μπάκιγχαμ ανακοίνωσε ότι ο βασιλιάς Κάρολος θα συναντηθεί με στελέχη του κλάδου για να διερευνήσει πώς η νέα τεχνολογία μπορεί να χρησιμοποιηθεί για καλό σκοπό.
Snapshot
- Ο βασιλς Κάρολος΄ συγκαλεί έκτακτη σύνοδο στη Σκωτία με ηγέτες εταιρειών τεχνητής νοημοσύνης για να συζητήσουν την ασφαλή και ωφέλιμη ανάπτυξη της τεχνολογίας.
- Η σύνοδος πραγματοποιείται εν μέσω αυξανόμενων ανησυχιών για την ταχεία και ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης και τους κινδύνους που αυτή ενέχει.
- Πρόσφατα περιστατικά κυβερνοασφάλειας, όπως η επίθεση αυτόνομων πρακτόρων AI στα συστήματα της Hugging Face, έχουν εντείνει τους φόβους για την απώλεια ανθρώπινου ελέγχου στα συστήματα AI.
- Ο διευθύνων σύμβουλος της Anthropic κάλεσε σε πιο αργή και ελεγχόμενη ανάπτυξη της τεχνητής νοημοσύνης, τονίζοντας τον κίνδυνο της αναδρομικής αυτοβελτίωσης που μπορεί να ξεπεράσει την ανθρώπινη κατανόηση και έλεγχο.
- Στη σύνοδο θα συμμετάσχουν εκπρόσωποι κυβερνήσεων, φιλανθρωπικών οργανισμών και κορυφαίων εταιρειών AI, με στόχο την προώθηση κοινών κατευθυντήριων γραμμών για την ανάπτυξη της τεχνολογίας.
Ο βασιλιάς Κάρολος Γ΄ της Βρετανίας θα συναντηθεί με ηγέτες μεγάλων εταιρειών τεχνητής νοημοσύνης αυτή την εβδομάδα στη Σκωτία, εν μέσω αυξανόμενων φόβων ότι η ταχεία και ανεξέλεγκτη ανάπτυξη της τεχνολογίας θα μπορούσε να οδηγήσει σε παγκόσμια καταστροφή. Ο μονάρχης θα συγκαλέσει ηγέτες από εταιρείες όπως οι Nvidia, Google, DeepMind, OpenAI και Anthropic, καθώς και κυβερνητικούς αξιωματούχους και άλλα στελέχη, «για να συζητήσουν πώς η Τεχνητή Νοημοσύνη μπορεί να αναπτυχθεί με τρόπους που ωφελούν την κοινωνία», σύμφωνα με ανακοίνωση των Ανακτόρων του Μπάκιγχαμ.
Θα συναντηθούν στο Ayrshire, στη νοτιοδυτική Σκωτία, στο Dumfries House, έδρα του φιλανθρωπικού οργανισμού King's Foundation.Η συγκέντρωση πραγματοποιείται καθώς άτομα που γνωρίζουν την Τεχνητή Νοημοσύνη και διευθύνοντες σύμβουλοι στις πιο ισχυρές εταιρείες του κλάδου έχουν εκφράσει ανησυχία σχετικά τα νέα ψηφιακά εργαλεία και την ταχύτητα ανάπτυξής τους. Κάποιοι έχουν ζητήσει να δημιουργηθούν κοινές κατευθυντήριες γραμμές και ένας σκόπιμα πιο αργός ρυθμός προόδου, ώστε να διασφαλιστεί ότι οι άνθρωποι μπορούν να συμβαδίσουν. Η συνάντηση του Καρόλου για την τεχνητή νοημοσύνη θα διερευνήσει πώς η τεχνολογία μπορεί να χρησιμοποιηθεί για καλό, για την «ενδυνάμωση των κοινοτήτων και τη βελτίωση των ζωών», ανέφερε η δήλωση των Ανακτόρων του Μπάκιγχαμ.
Το παλάτι δεν ανέφερε ποιοι θα εκπροσωπήσουν τις εταιρείες τεχνητής νοημοσύνης που αναφέρονται στην ανακοίνωσή του, και οι Anthropic, DeepMind, Google και Nvidia δεν απάντησαν αμέσως σε αιτήματα για σχολιασμό που να επιβεβαιώνουν τη συμμετοχή τους. Η OpenAI δήλωσε ότι η Sarah Friar, οικονομική διευθύντρια της εταιρείας, θα δώσει το παρών.
Η έντονη ανησυχία που επικρατεί για την ραγδαία εξέλιξη της Τεχνητής Νοημοσύνης πυροδοτήθηκε σε μεγάλο βαθμό από ένα σοβαρό περιστατικό κυβερνοασφάλειας το φετινό καλοκαίρι. Συγκεκριμένα, μια ομάδα αυτόνομων πρακτόρων AI που είχε αναπτύξει η OpenAI κατάφερε να παραβιάσει τα συστήματα της Hugging Face, μίας από τις σημαντικότερες εταιρείες υποδομής στον χώρο της Τεχνητής Νοημοσύνης.
Οι πράκτορες της OpenAI εισέβαλαν στα συστήματα της Hugging Face, κλέβοντας δεδομένα, αποκτώντας τον έλεγχο ενός διακομιστή και προσπαθώντας να καλύψουν τα ίχνη τους. Αυτό το περιστατικό και ένα άλλο παρόμοιο συμβάν εντός της OpenAI λίγο αργότερα — προκάλεσε φόβους για το πόσο γρήγορα οι μηχανές θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο, με δυνητικά καταστροφικές συνέπειες.
Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic, δημοσίευσε μια ανοιχτή επιστολή 3.800 λέξεων το Σάββατο ζητώντας πιο αργή ανάπτυξη της Τεχνητής Νοημοσύνης. Εκτός από το hack του Hugging Face, ανέφερε ως ανησυχία το γεγονός ότι τα τρέχοντα μοντέλα Τεχνητής Νοημοσύνης είναι ολοένα και πιο ικανά να δημιουργήσουν την επόμενη γενιά εργαλείων Τεχνητής Νοημοσύνης. Ο Αμοντέι είπε ότι η δυναμική, γνωστή ως αναδρομική αυτοβελτίωση, «θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα» εάν δεν ελεγχθεί.
Η συνάντηση μεταξύ του Καρόλου και των ηγετών της Τεχνητής Νοημοσύνης θα διευκολυνθεί από έναν βρετανικό μη κερδοσκοπικό οργανισμό, το Ίδρυμα Ditchley, και θα συμμετάσχει η Kανίσκα Νάραγιαν, υπουργός της Βρετανίας για την Τεχνητή Νοημοσύνη, σύμφωνα με το Παλάτι του Μπάκιγχαμ. Θα παραστούν επίσης εκπρόσωποι φιλανθρωπικών οργανισμών που ίδρυσε ο βασιλιάς, συμπεριλαμβανομένου του King's Trust, ενός φιλανθρωπικού οργανισμού για νέους, και της Πρωτοβουλίας για τις Βιώσιμες Αγορές, ενός δικτύου παγκόσμιων διευθύνοντων στελεχών.
Το δοκίμιο του Αμοντέι το Σάββατο — το οποίο έκανε τον γύρο του διαδικτύου — έλαβε υποστήριξη από άλλους επικεφαλής εταιρειών τεχνητής νοημοσύνης , συμπεριλαμβανομένων του Σαμ Άλτμαν της OpenAI και του Έλον Μασκ της xAI, η οποία αποτελεί μέρος της SpaceX, της εταιρείας πυραύλων και δορυφόρων του Mασκ. Ο Αμοντέι κάλεσε τις εταιρείες τεχνητής νοημοσύνης και τις ρυθμιστικές αρχές σε όλο τον κόσμο να συνεργαστούν σε μια προσεκτική προσέγγιση για την ανάπτυξη της τεχνολογίας και πρότεινε το δικό του σχέδιο τριών βημάτων.
Δημοσιεύθηκε λίγες μόλις ημέρες αφότου ο Τζέικομπ Κόξον, ένας μηχανικός της Anthropic που εργαζόταν προηγουμένως για την OpenAI, παραιτήθηκε από τη δουλειά του και δήλωσε στα μέσα κοινωνικής δικτύωσης ότι οι εταιρείες ισχυρίζονται ότι ανησυχούν για την ταχεία ανάπτυξη, αλλά παρόλα αυτά κατευθύνονται προς «υπεράνθρωπα συστήματα που μπορούν να χακάρουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα από τη μια μέρα στην άλλη και να αποκτήσουν πραγματική δύναμη και πόρους».
