CNN: Παραλίγο να ξεκινήσει πόλεμος ΗΠΑ - Κίνας έπειτα από λάθος έκθεση πληροφοριών της ΑΙ

Snapshot

• Ψευδής έκθεση πληροφοριών, συνταγμένη με τη βοήθεια τεχνητής νοημοσύνης, οδήγησε τον αμερικανικό στρατό σε σχεδόν στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου.
• Η αναφορά περιείχε λάθος πληροφορίες για το φορτίο του πλοίου, που θεωρήθηκε ότι περιείχε εξαρτήματα πυρηνικών όπλων.
• Η επιχείρηση αναχαιτισμού ματαιώθηκε μετά από πιο προσεκτική εξέταση της αναφοράς και τον εντοπισμό της ανακρίβειας.
• Το περιστατικό υπογραμμίζει τους κινδύνους από την ανεπαρκή επαλήθευση πληροφοριών που παράγονται με χρήση τεχνητής νοημοσύνης στον στρατό.
• Οι ΗΠΑ επιταχύνουν την ενσωμάτωση της τεχνητής νοημοσύνης στις ένοπλες δυνάμεις, παρά τις ελλείψεις σε ενιαία πρότυπα και την πιθανότητα σοβαρών λαθών.

Snapshot powered by AI

Κίνας και ΗΠΑ έφτασαν μία ανάσα πριν την στρατιωτική σύρραξη όταν μία ψευδής έκθεση πληροφοριών που είχε συντάξει η Τεχνητή Νοημοσύνη σήμανε συναγερμό στον αμερικανικό στρατό.

Η αναφορά των μυστικών υπηρεσιών, η οποία κυκλοφόρησε στο αμερικανικό στρατό την περασμένη Άνοιξη, εν μέσω του πολέμου με το Ιράν, προκάλεσε αμέσως ανησυχία. Ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα ενός προγράμματος πυρηνικών όπλων.

Ο αμερικανικός στρατός ανέλαβε δράση με σχέδια να αναχαιτίσει το πλοίο, σύμφωνα με τέσσερις πηγές. Σύμφωνα με δύο από τις πηγές, ένοπλοι στρατιώτες των ΗΠΑ ετοιμάζονταν να επιβιβαστούν στο πλοίο. Στρατιωτικά αεροσκάφη βρίσκονταν στον αέρα, ανέφεραν δύο πηγές.

Λίγο πριν από την προγραμματισμένη επιχείρηση, όμως, οι αξιωματούχοι εξέτασαν πιο προσεκτικά την έκθεση που είχε συντάξει ένας αναλυτής της Διοίκησης Ειδικών Επιχειρήσεων και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI). Είδαν ότι ένα chatbot που είχε χρησιμοποιήσει ο αναλυτής είχε προσδιορίσει λάθος φορτίο το οποίο μετέφερε το πλοίο.

Η έκθεση, σύμφωνα με μία πηγή ήταν «εντελώς ψευδής». Ωστόσο, «παραλίγο να ξεκινήσει πόλεμος», ανέφερε η πηγή. Οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού σκάφους θα μπορούσε να οδηγήσει σε μια κλιμάκωση που θα κατέληγε σε ένοπλη σύγκρουση μεταξύ των δύο χωρών.

Σε ολόκληρο το αμερικανικό στρατό και την κοινότητα πληροφοριών, οι αξιωματούχοι πιέζουν για την ενσωμάτωση της τεχνητής νοημοσύνης σε σχεδόν κάθε πτυχή της εργασίας τους, από την ανάλυση των τεράστιων όγκων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για επιθέσεις, έως πιο καθημερινές εφαρμογές όπως η διαχείριση του προϋπολογισμού και των αλυσίδων εφοδιασμού.

Ωστόσο, το συγκεκριμένο περιστατικό υπογραμμίζει τους σοβαρούς κινδύνους που ενέχει η χρήση αυτής της ισχυρής, νέας τεχνολογίας για τον προσδιορισμό στόχων εν μέσω πολέμου. Οι αναλυτές φοβούνται εδώ και καιρό ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε καταστροφική εσφαλμένη εκτίμηση, εάν τα κράτη βασίζονται σε ανεπαρκή ή αλλοιωμένα δεδομένα.

Κάτι τέτοιο θα μπορούσε να οδηγήσει τις Ηνωμένες Πολιτείες να ανοίξουν πυρ εναντίον ενός κινεζικού πλοίου με βάση ανακριβείς πληροφορίες. Στη συγκεκριμένη περίπτωση, ο αναλυτής ρώτησε ένα chatbot σχετικά με ορισμένες πληροφορίες που αφορούσαν το φορτωτικό δελτίο του πλοίου και προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού των ΗΠΑ, με έδρα τη Χαβάη. Δεν ήταν σαφές αν το chatbot ήταν μία τεχνολογία που διατείθεται εμπορικά ή αναπτύχθηκε αποκλειστικά και μόνο για τις ανάγκες της αμερικανικής κυβέρνησης.

«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών προϊόντων με μια μικρή αλλαγή στην εμφάνιση», δήλωσε ένας πρώην ανώτερος αξιωματούχος των ΗΠΑ που είναι εξοικειωμένος με τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούν οι στρατιωτικοί και οι αναλυτές πληροφοριών.

Το chatbot συνδύασε πληροφορίες ανοιχτού κώδικα με μυστικές πληροφορίες από σήματα που διαθέτει η κυβέρνηση και κατέληξε στο καθοριστικό συμπέρασμα σχετικά με το φορτίο που μετέφερε το πλοίο. Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την τεχνητή νοημοσύνη για να συγκεντρώσει τα ευρήματα σε μια τυπική αναφορά πληροφοριών και την έδωσε στους ανωτέρους του.

Ταχεία υιοθέτηση της ΑΙ στον πόλεμο

Αξιωματούχοι αναφέρουν ότι οι ΗΠΑ δεν έχουν την πολυτέλεια να μείνουν πίσω στην ενσωμάτωση της τεχνητής νοημοσύνης στις Ένοπλες Δυνάμεις καθώς κάποια μέρα ενδέχεται να χρειαστεί να αντιμετωπίσουν την Κίνα ή κάποιον άλλο αντίπαλο. Τον περασμένο Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης» του υπουργείου του, σε μια προσπάθεια να επιταχυνθεί η χρήση της τεχνητής νοημοσύνης από τις ένοπλες δυνάμεις.

Η στρατηγική προωθεί την ευρεία χρήση της τεχνητής νοημοσύνης σε ολόκληρο το στρατό. Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, όπως ανέφεραν πολλοί Αμερικανοί αξιωματούχοι, καθώς διαφορετικά τμήματα της κυβέρνησης χρησιμοποιούν διαφορετικά εργαλεία σύμφωνα με διαφορετικές εντολές και πρότυπα ασφάλειας. Δεν υπάρχει ένα ενιαίο σύνολο προτύπων για τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από αυτά τα εργαλεία.

Το πλήθος των διαφορετικών συστημάτων τεχνητής νοημοσύνης που αναπτύσσονται από διάφορα τμήματα του στρατού και της κοινότητας πληροφοριών σημαίνει ότι η σχετική αξιοπιστία και λειτουργικότητά τους ποικίλλουν σημαντικά.

Το περιστατικό με το κινεζικό πλοίο υπογραμμίζει, όμως, έναν διαφορετικό και πιο άμεσο κίνδυνο: οι άνθρωποι να λαμβάνουν καταστροφικές αποφάσεις με βάση ανακριβείς ή παραπλανητικές πληροφορίες που παράγονται από την ΑΙ ή άλλα αυτοματοποιημένα συστήματα. Πηγές ανέφεραν ότι ο αμερικανικός στρατός στρέφεται ραγδαία προς την ΑΙ για να βοηθήσει στον προσδιορισμό στόχων, έναν τομέα που ενέχει τον προφανή κίνδυνο φονικών λαθών.

«Η χρήση της τεχνητής νοημοσύνης στον εντοπισμό στόχων είναι σίγουρα κάτι που κερδίζει έδαφος και δεν υπάρχουν ουσιαστικές κατευθυντήριες οδηγίες για το πώς η συμμετοχή ενός ανθρώπου στη διαδικασία θα αποτρέψει τις απώλειες αμάχων ή την αδελφοκτονία», δήλωσε μια άλλη πηγή.

Το είδος της «ψευδαίσθησης» που προκάλεσε το εργαλείο που χρησιμοποίησε ο αναλυτής στην συγκεκριμένη περίπτωση δεν αποτελεί μεμονωμένο περιστατικό στην κοινότητα των μυστικών υπηρεσιών, από τη στιγμή που αυτά τα εργαλεία άρχισαν να διαδίδονται ευρέως σε ολόκληρη την κυβέρνηση, σύμφωνα με μία από τις πηγές.

Για ορισμένους παλαιότερους αξιωματούχους των υπηρεσιών πληροφοριών — ακόμη και για εκείνους που υποστηρίζουν γενικά τη χρήση της τεχνητής νοημοσύνης στο στρατό — η τεχνητή νοημοσύνη έχει ασκήσει πίεση στους αναλυτές να παράγουν και να διαδίδουν πληροφορίες ταχύτερα, ανοίγοντας έτσι το δρόμο για λάθη. Ιδιαίτερα οι νεότεροι αναλυτές, σύμφωνα με αρκετές πηγές, είναι εξοικειωμένοι με αυτά τα εργαλεία και πιο πιθανό να τα εμπιστεύονται χωρίς κριτική σκέψη. «Η τεχνητή νοημοσύνη σου επιτρέπει να καταλήξεις πιο γρήγορα σε μια λανθασμένη ιδέα», ανέφερε μία από τις πηγές.

Διαβάστε επίσης