Ψεύτικα AI βίντεο «χρησιμοποιούν» άτομα με σύνδρομο Down για εμπορική εκμετάλλευση

Βίντεο που εμφανίζουν άτομα με σύνδρομο Down να ζητούν από το κοινό να στηρίξει τις μικρές τους επιχειρήσεις, συγκεντρώνουν εκατομμύρια προβολές στα κοινωνικά δίκτυα. Ωστόσο, πολλά από αυτά είναι ψεύτικα και έχουν δημιουργηθεί με τεχνητή νοημοσύνη.

Οι αναρτήσεις προωθούν προϊόντα όπως φωτιστικά από ρητίνη, πλεκτές τσάντες και χειροποίητα κεραμικά σχέδια, εντασσόμενες σε μια ευρύτερη τάση χρήσης περιεχομένου που παράγεται από AI για την πρόκληση συναισθηματικής ανταπόκρισης και την ενίσχυση των πωλήσεων. Συχνά αξιοποιούν την εικόνα ατόμων με αναπηρίες ή άλλων κοινωνικών ομάδων που θεωρούνται ευάλωτες, όπως ηλικιωμένοι ή Αφροαμερικανοί.

Αυτή η πρακτική αναπαράγει αρνητικά στερεότυπα και βλάπτει τόσο την καθημερινότητα όσο και τις επαγγελματικές δραστηριότητες πραγματικών ανθρώπων, σύμφωνα με οργανώσεις και ερευνητές.

Σε πλατφόρμες όπως το TikTok, το YouTube και το Instagram, οι ψηφιακοί χαρακτήρες ισχυρίζονται ότι δέχονται εκφοβισμό επειδή πωλούν χειροποίητες κατασκευές, ενώ, στα βίντεο περιλαμβάνονται προσβλητικά σχόλια και χαρακτηρισμοί για τα άτομα με αναπηρίες.

Ο Νέιθαν Ρόου, διευθυντής προγραμμάτων της οργάνωσης Down Syndrome International, τόνισε ότι τα βίντεο ενισχύουν το στερεότυπο πως τα άτομα με σύνδρομο Down πρέπει να αντιμετωπίζονται με οίκτο. Ακόμη, είπε ότι «εκμεταλλεύονται ανθρώπους που έχουν μία συμπονετική, ίσως και πατερναλιστική αντίληψη για το σύνδρομο Down».

Οι λογαριασμοί που δημοσιεύουν το περιεχόμενο, παραπέμπουν συχνά σε αμφιβόλου αξιοπιστίας ηλεκτρονικά καταστήματα. Σε μία περίπτωση, οι υποτιθέμενες «πεντάστερες αξιολογήσεις» περιείχαν ακριβώς το ίδιο κείμενο.

Ορισμένα κεραμικά προϊόντα είχαν αρχικά παρουσιαστεί από πραγματικούς δημιουργούς, πριν χρησιμοποιηθούν χωρίς άδεια. Παράλληλα, σχέδιο πλεκτής τσάντας που εμφανιζόταν ως χειροποίητο, βρέθηκε να πωλείται μέσω της πλατφόρμας Shein, σύμφωνα με έρευνα του AFP.

Ο Ρόου υποστήριξε ότι τα ψεύτικα βίντεο επισκιάζουν τις αναρτήσεις πραγματικών επιχειρηματιών με σύνδρομο Down, στερώντας τους πιθανές πωλήσεις και ευκαιρίες προβολής. «Υπάρχουν πολλοί ταλαντούχοι άνθρωποι με σύνδρομο Down που δημιουργούν πραγματικά προϊόντα. Ωστόσο, τέτοιου είδους περιεχόμενο ενισχύει την αντίληψη ότι δεν μπορούν να το κάνουν και ότι όλα είναι αποτέλεσμα τεχνητής νοημοσύνης», σημείωσε.

Η Down Syndrome International έχει ήδη διαμαρτυρηθεί στη Meta για τη διακίνηση σεξουαλικοποιημένων deepfake βίντεο με άτομα με σύνδρομο Down, γεγονός που οδήγησε στην αφαίρεση πολλών αναρτήσεων. Ωστόσο, ο Ρόου θεωρεί ότι οι πλατφόρμες κοινωνικής δικτύωσης πρέπει να αναλάβουν πιο ενεργό ρόλο στην αποτροπή της διάδοσης τέτοιου περιεχομένου.

Οι κανονισμοί του TikTok απαγορεύουν παραπλανητικές ή χειριστικές πρακτικές, καθώς και περιεχόμενο που προωθεί διακρίσεις, ενώ, αντίστοιχες πολιτικές εφαρμόζει και το YouTube.

Παρ’ ότι αρκετά από τα βίντεο έχουν πλέον αφαιρεθεί, άλλοι λογαριασμοί εξακολουθούν να δημοσιεύουν παρόμοιο περιεχόμενο, οδηγώντας τους χρήστες σε ηλεκτρονικά καταστήματα. «Όσοι βρίσκονται πίσω από αυτές τις πρακτικές ενδιαφέρονται μόνο για το κέρδος και αδιαφορούν για τη ζημιά που προκαλούν», συμπλήρωσε ο Ρόου.

«Η παραγωγή τους είναι εξαιρετικά εύκολη»

Ο Τζέρεμι Καράσκο, συνιδρυτής της ερευνητικής εταιρείας τεχνητής νοημοσύνης Riddance, εκτιμά ότι η πληθώρα λογαριασμών που προωθούν παρόμοιο περιεχόμενο αποδεικνύει πως η μέθοδος αποφέρει οικονομικά οφέλη.

«Υπάρχουν πολλαπλές αποτυχίες σε επίπεδο συστήματος που επιδεινώνουν το πρόβλημα», υπογράμμισε, επισημαίνοντας ότι τα συγκεκριμένα βίντεο δημιουργούνται πολύ εύκολα και είναι δύσκολο να εντοπιστούν εγκαίρως.

Όπως ανέφερε, υπάρχουν αμέτρητα βίντεο ψεύτικων χαρακτήρων με σύνδρομο Down, ενώ, οι ίδιοι λογαριασμοί έχουν χρησιμοποιήσει στο παρελθόν ψηφιακούς ηλικιωμένους χαρακτήρες για την προώθηση πανομοιότυπων προϊόντων.