«Μπλόκο» στις συζητήσεις περί αυτοκτονίας με ανηλίκους βάζει στα chatbot της η Meta

Περισσότερα μέτρα ασφαλείας, συμπεριλαμβανομένου του αποκλεισμού της δυνατότητας να συζητούν με έφηβους για αυτοκτονία, αυτοτραυματισμό και διατροφικές διαταραχές θα εισαγάγει στα chatbots τεχνητής νοημοσύνης (AI) η Meta.

Η απόφαση της εταιρείας έρχεται δύο εβδομάδες έπειτα από την έναρξη έρευνας από έναν γερουσιαστή των ΗΠΑ σχετικά με τον τεχνολογικό κολοσσό, καθώς σημειώσεις σε ένα έγγραφο που διέρρευσε υποδείκνυαν ότι τα προϊόντα AI της εταιρείας μπορούσαν να έχουν «αισθησιακές» συνομιλίες με εφήβους.

Η εταιρεία χαρακτήρισε τις σημειώσεις, τις οποίες απέκτησε το Reuters, ως εσφαλμένες και ασυμβίβαστες με τις πολιτικές της, οι οποίες απαγορεύουν οποιοδήποτε περιεχόμενο που σεξουαλικοποιεί παιδιά.

Ωστόσο, η εταιρεία τώρα δηλώνει ότι θα κάνει τα chatbots της να κατευθύνουν τους εφήβους σε εξειδικευμένες πηγές, αντί να συζητούν μαζί τους ευαίσθητα θέματα όπως η αυτοκτονία.

«Από την αρχή ενσωματώσαμε μέτρα προστασίας για τους εφήβους στα προϊόντα τεχνητής νοημοσύνης μας, συμπεριλαμβανομένου του σχεδιασμού τους ώστε να ανταποκρίνονται με ασφάλεια σε προτροπές σχετικά με αυτοτραυματισμό, αυτοκτονία και διατροφικές διαταραχές», δήλωσε εκπρόσωπος της Meta.

Η εταιρεία ανακοίνωσε την Παρασκευή στο τεχνολογικό περιοδικό TechCrunch ότι θα προσθέσει περισσότερα μέτρα προστασίας στα συστήματά της «ως επιπλέον προφύλαξη» και θα περιορίσει προσωρινά τα chatbots με τα οποία μπορούν να αλληλεπιδρούν οι έφηβοι.

Ωστόσο, ο Andy Burrows, επικεφαλής του ιδρύματος Molly Rose Foundation, δήλωσε ότι ήταν «σοκαριστικό» το γεγονός ότι η Meta είχε διαθέσει chatbots στο κοινό που ενδεχομένως θα μπορούσαν να εκθέσουν ανηλίκους σε κίνδυνο.

«Ενώ τα πρόσθετα μέτρα ασφαλείας είναι ευπρόσδεκτα, θα πρέπει να πραγματοποιούνται αυστηρές δοκιμές ασφαλείας πριν από τη διάθεση των προϊόντων στην αγορά και όχι εκ των υστέρων, όταν έχει ήδη προκληθεί βλάβη», δήλωσε.

«Η Meta πρέπει να δράσει γρήγορα και αποφασιστικά για να εφαρμόσει ισχυρότερα μέτρα ασφαλείας για τα chatbots τεχνητής νοημοσύνης και οι αρχές πρέπει να είναι έτοιμες να διερευνήσουν εάν αυτές οι ενημερώσεις δεν καταφέρνουν να προστατεύσουν τα παιδιά».

Η Meta δήλωσε ότι οι ενημερώσεις των συστημάτων τεχνητής νοημοσύνης της βρίσκονται σε εξέλιξη. Ήδη τοποθετεί τους χρήστες ηλικίας 13 έως 18 ετών σε «λογαριασμούς εφήβων» στο Facebook, το Instagram και το Messenger, με ρυθμίσεις περιεχομένου και απορρήτου που στοχεύουν να τους προσφέρουν μια ασφαλέστερη εμπειρία.

Τον Απρίλιο, η εταιρεία δήλωσε στο BBC ότι αυτά θα επιτρέπουν επίσης στους γονείς και τους κηδεμόνες να βλέπουν με ποια chatbots τεχνητής νοημοσύνης έχουν μιλήσει τα παιδιά τους τις τελευταίες επτά ημέρες.

Ανησυχίες για την ασφάλεια

Οι αλλαγές έρχονται εν μέσω ανησυχιών για την πιθανότητα τα chatbots τεχνητής νοημοσύνης να παραπλανήσουν νέους ή ευάλωτους χρήστες.

Ένα ζευγάρι από την Καλιφόρνια μήνυσε πρόσφατα την OpenAI, δημιουργό του ChatGPT, για τον θάνατο του έφηβου γιου τους, ισχυριζόμενο ότι το chatbot της εταιρείας τον ενθάρρυνε να αυτοκτονήσει.

Η αγωγή ασκήθηκε μετά την ανακοίνωση της εταιρείας τον περασμένο μήνα για αλλαγές που αποσκοπούν στην προώθηση μιας πιο υγιούς χρήσης του ChatGPT.

«Η τεχνητή νοημοσύνη μπορεί να φαίνεται πιο προσωπική και με καλύτερη ανταπόκριση από τις προηγούμενες τεχνολογίες, ειδικά για ευάλωτα άτομα που βιώνουν ψυχική ή συναισθηματική οδύνη», ανέφερε η εταιρεία σε ανάρτησή της.

Εν τω μεταξύ, το Reuters ανέφερε την Παρασκευή ότι τα εργαλεία τεχνητής νοημοσύνης της Meta, που επιτρέπουν στους χρήστες να δημιουργούν chatbots, είχαν χρησιμοποιηθεί από ορισμένους - συμπεριλαμβανομένου ενός υπαλλήλου της Meta - για να δημιουργήσουν ερωτικά προκλητικά chatbots «παρωδίες» γυναικών διασημοτήτων.

Μεταξύ των chatbots διασημοτήτων που είδε το πρακτορείο ειδήσεων ήταν μερικά που χρησιμοποιούσαν την ομοιότητα της καλλιτέχνιδας Taylor Swift και της ηθοποιού Scarlett Johansson.

Το Reuters ανέφερε ότι τα avatar «συχνά επέμεναν ότι ήταν οι πραγματικοί ηθοποιοί και καλλιτέχνες» και «τακτικά έκαναν σεξουαλικές προτάσεις» κατά τη διάρκεια των εβδομάδων που τα δοκίμασε.

Ανέφερε επίσης ότι τα εργαλεία της Meta επέτρεπαν τη δημιουργία chatbots που υποδύονταν διάσημα παιδιά ηθοποιούς και, σε μία περίπτωση, δημιούργησαν μια φωτορεαλιστική εικόνα ενός ανήλικου σταρ χωρίς μπλούζα.

Αρκετά από τα εν λόγω chatbots αφαιρέθηκαν αργότερα από τη Meta, σύμφωνα με το πρακτορείο.

«Όπως και άλλοι, επιτρέπουμε τη δημιουργία εικόνων που περιέχουν δημόσια πρόσωπα, αλλά οι πολιτικές μας αποσκοπούν στην απαγόρευση γυμνών, οικείων ή σεξουαλικά προκλητικών εικόνων», δήλωσε εκπρόσωπος της Meta.

Διαβάστε επίσης