Fake news: «SOS» από τους ειδικούς - Οι πολίτες δεν αναγνωρίζουμε πια την ίδια πραγματικότητα
Η Madeleine de Cock Buning είναι καθηγήτρια στο Ευρωπαϊκό Πανεπιστημιακό Ινστιτούτο της Φλωρεντίας και στο Πανεπιστήμιο της Ουτρέχτης, ενώ προεδρεύει του Συμβουλευτικού Συμβουλίου του Ευρωπαϊκού Παρατηρητηρίου Ψηφιακών Μέσων (EDMO). Με μακρά εμπειρία στο δίκαιο των μέσων ενημέρωσης, στη ρύθμιση των ψηφιακών πλατφορμών και στην ευρωπαϊκή πολιτική για την παραπληροφόρηση, βρέθηκε στην Αθήνα για το Athens Democracy Forum, που πραγματοποιήθηκε στην Αθήνα από τις 29 Σεπτεμβρίου έως την 1η Οκτωβρίου, σε συνεργασία του Democracy & Culture Foundation με τους The New York Times.
Στη συνέντευξή της στο Newsbomb, επισημαίνει ότι οι πλατφόρμες δεν μπορούν να αντιμετωπίζονται ως ουδέτεροι χώροι διαλόγου. Ζητά ρυθμίσεις για τον «εθιστικό σχεδιασμό» των social media, όπως το ατελείωτο scrolling, η αυτόματη αναπαραγωγή και οι αδιάκοπες προτάσεις περιεχομένου, με ιδιαίτερη μέριμνα για την προστασία των παιδιών και των εφήβων.
Παράλληλα, θέτει ως προϋπόθεση για μια ασφαλή επαλήθευση ηλικίας την αυστηρή προστασία της ιδιωτικότητας: να επιβεβαιώνεται δηλαδή μόνο ότι ένας χρήστης έχει την απαιτούμενη ηλικία, χωρίς οι πλατφόρμες να αποκτούν πρόσβαση σε ονόματα, ημερομηνίες γέννησης, έγγραφα ταυτοποίησης ή ευαίσθητα βιομετρικά δεδομένα.
Η ίδια προειδοποιεί ότι η εξάπλωση της παραγωγικής τεχνητής νοημοσύνης και των deepfakes μπορεί να οδηγήσει όχι μόνο στην αποδοχή ψευδών πληροφοριών, αλλά και σε κάτι πιο επικίνδυνο: στην αμφισβήτηση ακόμη και των αληθινών στοιχείων. «Όταν οτιδήποτε μπορεί να παραποιηθεί, ο καθένας μπορεί να απορρίπτει πραγματικά αποδεικτικά στοιχεία ως “ψεύτικα”», σημειώνει.
Τέλος, υπογραμμίζει ότι η προστασία των ανηλίκων και η ποιότητα του δημόσιου διαλόγου δεν μπορούν να αντιμετωπίζονται ως κόστος για τις εταιρείες τεχνολογίας. «Είναι το τίμημα του δικαιώματος να δραστηριοποιείσαι στις κοινωνίες μας», αναφέρει χαρακτηριστικά.
Διαβάστε τη συνέντευξη:
Newsbomb: Έχετε εργαστεί επί πολλά χρόνια στο σημείο όπου συναντώνται το δίκαιο των μέσων ενημέρωσης, η ψηφιακή πολιτική και η διακυβέρνηση των πλατφορμών. Ποια θεωρείτε σήμερα ως τη σημαντικότερη και πιο επείγουσα απειλή που συνιστούν τα μέσα κοινωνικής δικτύωσης για τη δημοκρατία: η παραπληροφόρηση, η πόλωση, οι ξένες παρεμβάσεις ή η απώλεια εμπιστοσύνης στους θεσμούς;
Madeleine de Cock Buning: Δεν νομίζω ότι χρειάζεται να επιλέξουμε. Η παραπληροφόρηση, η πόλωση και οι ξένες παρεμβάσεις είναι τα όπλα. Η απώλεια εμπιστοσύνης είναι το τραύμα στο οποίο στοχεύουν, αλλά και αυτό που επιτρέπει στα όπλα να λειτουργήσουν.
Αν πρέπει να κατονομάσω ένα πράγμα, είναι το εξής: χάνουμε ένα κοινό σύνολο πραγματικών δεδομένων. Η δημοκρατία δεν χρειάζεται όλοι να συμφωνούμε. Χρειάζεται, όμως, να διαφωνούμε για την ίδια πραγματικότητα. Όταν οι άνθρωποι σταματούν να εμπιστεύονται τα δικαστήρια, την επιστήμη και τη δημοσιογραφία, τότε όλα τα υπόλοιπα γίνονται ευκολότερα προς χειραγώγηση.
Πράγματι όπως λέτε, πολλοί επικριτές υποστηρίζουν ότι οι πλατφόρμες δεν είναι απλώς ουδέτεροι χώροι δημόσιου διαλόγου, καθώς οι αλγόριθμοί τους σχεδιάζονται για να μεγιστοποιούν την προσοχή και την αλληλεπίδραση. Πρέπει η Ευρωπαϊκή Ένωση να ρυθμίσει χαρακτηριστικά «εθιστικού σχεδιασμού», όπως το ατελείωτο scrolling, η αυτόματη αναπαραγωγή και τα συστήματα συστάσεων, ειδικά για τους ανηλίκους;
Ναι. Το ατελείωτο scrolling, η αυτόματη αναπαραγωγή και οι αδιάκοπες προτάσεις έχουν σχεδιαστεί ώστε να μας κρατούν στην οθόνη όσο το δυνατόν περισσότερο. Τα παιδιά είναι εκείνα που μπορούν λιγότερο να αντισταθούν σε αυτά.
Η Ευρώπη τώρα κινείται. Στην ομιλία της για την Κατάσταση της Ένωσης, στις 16 Σεπτεμβρίου, η πρόεδρος φον ντερ Λάιεν είπε ότι η Ευρώπη δεν χρειάζεται να αποδέχεται εθιστικά χαρακτηριστικά. Την επόμενη ημέρα, η Επιτροπή πρότεινε το EU Kids Act. Τα παιδιά κάτω των 13 ετών δεν θα έχουν λογαριασμούς στα μέσα κοινωνικής δικτύωσης. Από τα 13 έως τα 15, θα μπορούν να έχουν μόνο έναν περιορισμένο λογαριασμό, που θα δημιουργείται από γονέα, με μέγιστη χρήση μία ώρα την ημέρα. Από τα 15, θα έχουν δικό τους λογαριασμό, αλλά με ασφαλέστερο σχεδιασμό.
Αυτό είναι ένα σημαντικό βήμα. Όμως, τα ηλικιακά όρια από μόνα τους δεν επαρκούν. Ένας έφηβος δεν αποκτά ανοσία στο ατελείωτο scrolling την ημέρα των 15ων γενεθλίων του. Αυτό που πραγματικά χρειάζεται να αλλάξει είναι ο ίδιος ο σχεδιασμός. Γι’ αυτό και η Ευρωπαϊκή Πράξη για την Ψηφιακή Δικαιοσύνη, που αναμένεται πριν από το τέλος του έτους, είναι εξίσου σημαντική.
Πράγματι, η επαλήθευση ηλικίας παρουσιάζεται ολοένα και περισσότερο ως λύση για την προστασία των παιδιών στο διαδίκτυο. Ωστόσο μπορεί να καταστεί αποτελεσματική χωρίς να δημιουργεί νέους κινδύνους για την ιδιωτικότητα, την επιτήρηση και τη συλλογή ευαίσθητων προσωπικών δεδομένων;
Ναι, εάν γίνει με τον σωστό τρόπο. Στόχος είναι να αποδεικνύεται ότι είσαι αρκετά μεγάλος ηλικιακά. Δεν είναι να αποδεικνύεται ποιος είσαι.
Η ΕΕ έχει αναπτύξει τη δική της εφαρμογή ελέγχου ηλικίας ακριβώς με αυτή τη λογική. Η εφαρμογή επιβεβαιώνει στην πλατφόρμα μόνο ένα πράγμα: «αυτό το πρόσωπο είναι άνω των 15 ετών». Η πλατφόρμα δεν βλέπει ποτέ το όνομά σου, την ημερομηνία γέννησής σου ή την ταυτότητά σου. Και κανείς δεν μπορεί να παρακολουθήσει ποιους ιστότοπους επισκέφθηκες.
Η ανησυχία μου αφορά την πρόχειρη εναλλακτική: να ανεβάζεις το διαβατήριό σου σε κάθε εφαρμογή ή να επιτρέπεις σε ιδιωτικές εταιρείες να σαρώνουν το πρόσωπό σου. Αυτό δημιουργεί τεράστιες συλλογές ευαίσθητων δεδομένων, οι οποίες μπορεί να παραβιαστούν ή να χρησιμοποιηθούν καταχρηστικά.
Το σύστημα πρέπει να είναι πραγματικά ιδιωτικό. Δεν πρέπει να αποκλείει παιδιά ή οικογένειες που δεν έχουν εύκολη πρόσβαση σε ψηφιακή ταυτότητα.
Ως πρόεδρος του Συμβουλευτικού Συμβουλίου του Ευρωπαϊκού Παρατηρητηρίου Ψηφιακών Μέσων, πώς αξιολογείτε την ικανότητα της Ευρώπης να αντιμετωπίζει συντονισμένες εκστρατείες παραπληροφόρησης; Αρκούν οι σημερινοί κανόνες και οι μηχανισμοί επαλήθευσης γεγονότων ή η αντίδραση παραμένει αργή και κατακερματισμένη;
Η Ευρώπη είναι πολύ καλύτερα προετοιμασμένη σε σχέση με λίγα χρόνια πριν. Το 2018 προήδρευσα της ομάδας εμπειρογνωμόνων της Ευρωπαϊκής Επιτροπής για τα fake news, η οποία έθεσε τις βάσεις για τη σημερινή μας προσέγγιση. Έκτοτε, η Ευρώπη έχει αναπτύξει πραγματικά εργαλεία. Η Πράξη για τις Ψηφιακές Υπηρεσίες καθιστά τις μεγάλες πλατφόρμες νομικά υπεύθυνες για τον τρόπο με τον οποίο διαχειρίζονται αυτούς τους κινδύνους. Μέσω του Ευρωπαϊκού Παρατηρητηρίου Ψηφιακών Μέσων, ερευνητές και οργανισμοί επαλήθευσης γεγονότων συνεργάζονται πλέον σε κάθε χώρα της ΕΕ. Και από πέρυσι, η Ευρωπαϊκή Ασπίδα για τη Δημοκρατία προσέθεσε ένα σχέδιο κρίσης για μεγάλες επιθέσεις.
Όμως, εξακολουθούμε να είμαστε πολύ αργοί. Μια συντονισμένη εκστρατεία εξαπλώνεται μέσα σε ώρες. Ο εντοπισμός και η αντίδρασή μας χρειάζονται μία ημέρα ή και περισσότερο.
Λείπουν τρία πράγματα. Οι ερευνητές χρειάζονται ταχύτερη πρόσβαση στα δεδομένα των πλατφορμών. Οι χώρες χρειάζεται να συνεργάζονται πέρα από σύνορα και γλώσσες. Και οι οργανισμοί επαλήθευσης γεγονότων και η ποιοτική δημοσιογραφία χρειάζονται σταθερή χρηματοδότηση. Η επαλήθευση γεγονότων έρχεται πάντοτε μετά τη ζημιά· πρέπει να προλαβαίνουμε περισσότερο τις εξελίξεις. Η μακροπρόθεσμη προστασία προέρχεται από πολίτες που γνωρίζουν πώς λειτουργεί η χειραγώγηση και από τη μείωση της κερδοφορίας της χειραγώγησης.
Η παραγωγική τεχνητή νοημοσύνη και τα deepfakes καθιστούν πολύ ευκολότερη την παραγωγή πειστικών ψευδών εικόνων, βίντεο και ηχητικών αρχείων. Μπαίνουμε λοιπόν όπβε λέτε σε μια εποχή κατά την οποία οι πολίτες δεν θα μπορούν πλέον να εμπιστεύονται όσα βλέπουν και ακούνε στο διαδίκτυο; Και ποια πρέπει να είναι η πρώτη γραμμή άμυνας;
Ο κίνδυνος δεν είναι μόνο ότι θα πιστεύουμε τα deepfakes. Είναι ότι θα σταματήσουμε να πιστεύουμε οτιδήποτε, ακόμη και ό,τι είναι αληθινό. Όταν οτιδήποτε μπορεί να παραποιηθεί, ο καθένας μπορεί να απορρίπτει πραγματικά αποδεικτικά στοιχεία ως «ψεύτικα».
Άρα, η πρώτη γραμμή άμυνας είναι να δείχνουμε από πού προέρχεται το περιεχόμενο. Το περιεχόμενο που παράγεται από τεχνητή νοημοσύνη θα πρέπει να επισημαίνεται σαφώς. Από τον Αύγουστο, αυτό αποτελεί νομική υποχρέωση στην Ευρώπη βάσει της Πράξης για την Τεχνητή Νοημοσύνη. Οι κανόνες υπάρχουν πλέον. Το ζητούμενο είναι αν εφαρμόζονται.
Χρειαζόμαστε επίσης πλατφόρμες που ενεργούν γρήγορα σε ευαίσθητες περιόδους, όπως οι εκλογές. Και ο καθένας από εμάς μπορεί να μάθει να ρωτά όχι μόνο «είναι αυτό αληθινό;», αλλά και «ποιος ωφελείται εάν το πιστέψω;».
Υπάρχει πάντως μια δύσκολη ισορροπία ανάμεσα στην αντιμετώπιση επιβλαβούς περιεχομένου και τη διαφύλαξη της ελευθερίας της έκφρασης. Πού πρέπει να χαράσσουν οι δημοκρατικές κοινωνίες αυτή τη γραμμή και ποιος πρέπει τελικά να έχει την αρμοδιότητα να λαμβάνει αυτές τις αποφάσεις: οι πλατφόρμες, οι ανεξάρτητες ρυθμιστικές αρχές, τα δικαστήρια ή οι κυβερνήσεις;
Η γραμμή πρέπει να βρίσκεται ανάμεσα σε αυτό που είναι παράνομο και σε αυτό που είναι επιβλαβές, αλλά νόμιμο. Ό,τι είναι παράνομο εκτός διαδικτύου, όπως οι απειλές ή η υποκίνηση σε βία, πρέπει να αντιμετωπίζεται και στο διαδίκτυο, βάσει του νόμου και με δίκαιες διαδικασίες.
Το περιεχόμενο που είναι επιβλαβές αλλά νόμιμο δεν πρέπει να απαγορεύεται από τις κυβερνήσεις. Αντίθετα, θα πρέπει να ρυθμίσουμε τα συστήματα που το διαδίδουν.
Κάθε φορέας έχει τον ρόλο του. Τα κοινοβούλια θεσπίζουν τους κανόνες. Ανεξάρτητες ρυθμιστικές αρχές, όχι οι κυβερνήσεις, εποπτεύουν τις πλατφόρμες. Τα δικαστήρια έχουν τον τελικό λόγο σε ατομικές υποθέσεις. Οι πλατφόρμες πρέπει να λειτουργούν εντός αυτών των κανόνων και οι χρήστες να μπορούν να αμφισβητούν τις αποφάσεις τους. Το χειρότερο αποτέλεσμα θα ήταν οποιοδήποτε από τα δύο άκρα: είτε να αποφασίζουν οι πολιτικοί τι επιτρέπεται να λέμε είτε να το αποφασίζουν οι τεχνολογικές εταιρείες χωρίς κανείς να τις λογοδοτεί.
Συνδυάζετε την ακαδημαϊκή και πολιτική εργασία με υψηλόβαθμη εμπειρία στον κλάδο των μέσων ενημέρωσης και του streaming. Ποια συγκεκριμένη ευθύνη πρέπει να αναλάβουν οι μεγάλες εταιρείες τεχνολογίας και περιεχομένου για την προστασία των νεαρών χρηστών και τη διαφύλαξη της ποιότητας του δημόσιου διαλόγου, πέρα από εθελοντικούς κώδικες και δημόσιες δηλώσεις;
Η ευθύνη πρέπει να είναι ενσωματωμένη στο σύστημα. Για τους νεαρούς χρήστες, αυτό σημαίνει ασφάλεια ήδη από τον σχεδιασμό. Στις πλατφόρμες κοινωνικής δικτύωσης, οι ασφαλέστερες ρυθμίσεις πρέπει να είναι ενεργοποιημένες εξ ορισμού. Τα χαρακτηριστικά που έχουν κατασκευαστεί για να κρατούν τα παιδιά προσκολλημένα πρέπει να είναι απενεργοποιημένα. Και πρέπει να υπάρχει ουσιαστική εποπτεία του περιεχομένου σε κάθε ευρωπαϊκή γλώσσα, συμπεριλαμβανομένων των ελληνικών. Το Kids Act κινείται προς αυτή την κατεύθυνση: οι μεγάλες πλατφόρμες θα πρέπει να αποδεικνύουν ότι οι υπηρεσίες τους είναι ασφαλείς προτού τεθούν σε λειτουργία.
Οι εταιρείες κοινωνικής δικτύωσης πρέπει να ανοίξουν τα συστήματά τους σε ανεξάρτητους ελέγχους και να δίνουν στους ερευνητές πρόσβαση στα δεδομένα τους. Με αυτόν τον τρόπο, οι ισχυρισμοί τους μπορούν να ελέγχονται και να μη γίνονται απλώς πιστευτοί.
Οι ιστορίες μπορούν, επιπλέον, να ανοίξουν συζητήσεις που οι νόμοι αδυνατούν να ανοίξουν. Μια σειρά όπως το Adolescence έδειξε πώς ένα τηλεοπτικό δράμα μπορεί να κάνει γονείς, σχολεία και πολιτικούς να συζητήσουν για όσα αντιμετωπίζουν τα παιδιά στο διαδίκτυο.
Η προστασία των νέων ανθρώπων και της ποιότητας του δημόσιου διαλόγου δεν πρέπει να θεωρείται κόστος. Είναι το τίμημα του δικαιώματος να δραστηριοποιείσαι στις κοινωνίες μας.
