Ιρανοί χρησιμοποίησαν ΑΙ και πέτυχαν να περάσουν ψευδείς ειδήσεις σε αμερικανικά ΜΜΕ
Με νέα, πολύ εξελιγμένα εργαλεία διεξάγεται ο πόλεμος της προπαγάνδας
Snapshot
- Ιρανοί πράκτορες χρησιμοποίησαν μοντέλα τεχνητής νοημοσύνης της OpenAI για να δημιουργήσουν ψεύτικα άρθρα και προφίλ δημοσιογράφων που επικρίνουν τον πόλεμο των ΗΠΑ κατά του Ιράν.
- Περίπου δώδεκα μέσα ενημέρωσης σε όλο τον κόσμο δημοσίευσαν περίπου 100 άρθρα από επτά ψεύτικους δημοσιογράφους, σύμφωνα με ανακοίνωση της OpenAI.
- Η OpenAI απαγόρευσε τη χρήση του ChatGPT σε φαρσί για την τροποποίηση άρθρων και τη δημιουργία σχολίων στα μέσα κοινωνικής δικτύωσης.
- Τα ψεύτικα άρθρα δημοσιεύτηκαν κυρίως σε μέσα με μεγάλο αριθμό ακολούθων, όπως το Middle East Monitor, ενώ μεγάλα αμερικανικά ΜΜΕ δεν συμμετείχαν.
- Δεν είναι σαφές αν η επιχείρηση προπαγάνδας συνδέεται με το ιρανικό καθεστώς ή αν πρόκειται για εμπορικό παράγοντα που διεξάγει εκστρατεία επιρροής επί πληρωμή.
Χρήστες στο Ιράν χρησιμοποίησαν μοντέλα Τεχνητής Νοημοσύνης της OpenAI και δημιούργησαν ψεύτικα άρθρα που επικρίνουν τον πόλεμο των ΗΠΑ κατά της Τεχεράνης και ψεύτικα προφίλ δημοσιογράφων προκειμένου να περάσουν οι ψευδείς ειδήσεις στα αμερικανικά ΜΜΕ.
Την είδηση για την δράση των Ιρανών ανακοίνωσε η OpenAI. Περίπου δώδεκα μέσα ενημέρωσης σε όλο τον κόσμο δημοσίευσαν περίπου 100 άρθρα από επτά ψεύτικους δημοσιογράφους, ανέφερε η OpenAI σε ανάρτηση στο blog της.
Η εταιρεία ανέφερε ότι απαγόρευσε σε λογαριασμούς του ChatGPT που χρησιμοποιούσαν το εργαλείο τεχνητής νοημοσύνης στα φαρσί για να τροποποιούν άρθρα και συντακτικές προτάσεις, καθώς και για να δημιουργούν σχόλια στα μέσα κοινωνικής δικτύωσης.
Ορισμένα από τα άρθρα που δημιουργήθηκαν με τη βοήθεια της τεχνητής νοημοσύνης είχαν προκλητικούς τίτλους, όπως «ο πόλεμος με το Ιράν και η κατάρρευση της ηθικής αξιοπιστίας της Δύσης».
Ένας από τους ψεύτικους λογαριασμούς που χρησιμοποιούσαν οι Ιρανοί και εμφάνιζε έναν ανύπαρκτο δημοσιογράφο
Η ανακοίνωση δείχνει πώς ακόμη και η τεχνητή νοημοσύνη χρησιμοποιείται για την προπαγάνδα κατά τη διάρκεια ενός πολέμου. Σύμφωνα με το CNN, κανένα από τα μεγάλα αμερικανικά ΜΜΕ δεν είναι στη λίστα με αυτά που δημοσίευσαν τα ψευδή άρθρα των Ιρανών. Ωστόσο τα ΜΜΕ που έκαναν αναδημοσιεύσεις έχουν μεγάλο αριθμό ακολούθων στα μέσα κοινωνικής δικτύωσης.
Για παράδειγμα το Middle East Monitor, που εδρεύει στο Λονδίνο, έχει σχεδόν δύο εκατομμύρια ακόλουθους στο Facebook.Ο Νταούντ Αμπντουλάχ, διευθυντής του Middle East Monitor, δήλωσε στο CNN ότι θα εξετάσει τα άρθρα που επισήμανε η OpenAI και θα «λάβει τα κατάλληλα μέτρα».Σύμφωνα με την OpenAI δεν είναι ξεκάθαρο ποιοι ακριβώς ήταν πίσω από την επιχείρηση προπαγάνδας από το Ιράν και αν συνδέεται με το ιρανικό καθεστώς.
«Η συνολική δραστηριότητα φαινόταν να συνάδει με έναν εμπορικό παράγοντα που διεξάγει μια εκστρατεία επιρροής επί πληρωμή, αλλά δεν είμαστε σε θέση να προσδιορίσουμε τον συγκεκριμένο εμπλεκόμενο παράγοντα», τόνισε η εταιρεία τεχνητής νοημοσύνης. Μετά τη δημοσίευση των άρθρων, οι Ιρανοί πράκτορες ζήτησαν από το ChatGPT να δημιουργήσει σχόλια που θα μπορούσαν να δημοσιεύσουν στα κοινωνικά δίκτυα, προσποιούμενοι ότι προέρχονταν από άτομα που αντιδρούσαν στα άρθρα, σύμφωνα με την OpenAI.
Αναρτηση στο Facebook από μια τοπική σελίδα ειδήσεων των ΗΠΑ, στην οποία κοινοποιείται ένα άρθρο που δημιουργήθηκε στο πλαίσιο της ιρανικής επιχείρησης προπαγάνδας και τα σχόλια που ακολούθησαν από τους Ιρανούς από ψεύτικους λογαριασμούς
«Είναι αξιοσημείωτο το γεγονός ότι οι Ιρανοί κατάφεραν να προωθήσουν το περιεχόμενό τους σε πραγματικά μέσα ενημέρωσης, διευρύνοντας έτσι την πιθανή εμβέλεια της εκστρατείας τους», δήλωσε η Τζέσικα Μπραντ, η οποία διηύθυνε το Κέντρο Εξωτερικής Κακόβουλης Επιρροής του Γραφείου του Διευθυντή Εθνικών Πληροφοριών —το οποίο έχει πλέον κλείσει— από το 2023 έως το 2025.
