Ο Διευθύνων Σύμβουλος της Anthropic ζητά άμεση επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης
Ο Αμοντέι, ισχυρός υποστηρικτής της προόδου της τεχνολογίας, αναγνώρισε το Σάββατο ότι οι άνθρωποι μπορεί να χάσουν τον έλεγχο της τεχνητής νοημοσύνης
Snapshot
- Ο Ντάριο Αμοντέι, Διευθύνων Σύμβουλος της Anthropic, ζητά άμεση επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης λόγω δυνητικά καταστροφικών συνεπειών.
- Προειδοποιεί ότι η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί καταχρηστικά για κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρή οικονομική αναστάτωση.
- Επισημαίνει τον κίνδυνο από ανεξέλεγκτα σμήνη πρακτόρων τεχνητής νοημοσύνης που μπορούν να προκαλέσουν επιθέσεις χωρίς εντολή.
- Προβλέπει ότι σε 6-12 μήνες ένα σμήνος τεχνητής νοημοσύνης μπορεί να καταλάβει ολόκληρο το Διαδίκτυο, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
- Τονίζει ότι η εμπορική πίεση για γρήγορη ανάπτυξη εντείνει τους κινδύνους και απαιτείται σύνεση και προστατευτικά μέτρα.
Ο Διευθύνων Σύμβουλος της αμερικανικής εταιρίας τεχνητής νοημοσύνης (ΑΙ) Anthropic, Ντάριο Αμοντέι, ζητά άμεση επιβράδυνση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, προειδοποιώντας για δυνητικά καταστροφικές συνέπειες σε λίγους μήνες σε ένα δοκίμιό του, που δημοσιεύθηκε το Σάββατο.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη, και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε», έγραψε ο Αμοντέι.
Ο Αμοντέι, ο οποίος ηγείται μιας από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο, και υπήρξε ισχυρός υποστηρικτής της προόδου της τεχνολογίας, αναγνώρισε το Σάββατο ότι οι άνθρωποι μπορεί να χάσουν τον έλεγχο της τεχνητής νοημοσύνης και η τεχνολογία μπορεί να χρησιμοποιηθεί καταχρηστικά για «κυβερνοεπιθέσεις και βιοτρομοκρατία και σοβαρή οικονομική αναστάτωση».
«Μια κούρσα, υποκινούμενη από εμπορικά κίνητρα, μπορεί να κάνει αυτούς τους κινδύνους πιο έντονους», έγραψε ο Αμοντέι.
Επίσης όπως είπε τον ανησύχησε η συμπεριφορά ενός σμήνους πρακτόρων τεχνητής νοημοσύνης στο περιστατικό OpenAI-Hugging Face. Το σμήνος, είπε, «ουσιαστικά ενήργησε ως μια φανατικά αφοσιωμένη συλλογικότητα, πραγματοποιώντας επιθέσεις στον κυβερνοχώρο σε στόχους που δεν τους ζητήθηκε να επιτεθούν».
Αν αφεθεί ανεξέλεγκτη, η τεχνητή νοημοσύνη θα μπορούσε να προχωρήσει τόσο γρήγορα που ένα τέτοιο σμήνος θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο μέσα σε έξι έως 12 μήνες, έγραψε, προκαλώντας δυνητικά ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της τεχνητής νοημοσύνης, φοβάμαι ότι σε 6–12 μήνες ένας τέτοιος σμήνος θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο με ένα επίμονο botnet (προκαλώντας ενδεχομένως ζημίες εκατοντάδων δισεκατομμυρίων δολαρίων) και ότι η κλίμακα της ζημίας θα συνέχιζε να αυξάνεται από εκεί και πέρα, αν η τεχνητή νοημοσύνη γίνει πιο ισχυρή χωρίς τα απαραίτητα μέτρα προστασίας», προειδοποίησε.
