Η Φλόριντα ζητά να απαγορευτεί στην OpenAI να αναπτύσσει μοντέλα AI χωρίς εξωτερική εποπτεία

Snapshot

• Η πολιτεία της Φλόριντα κατηγορεί την OpenAI ότι παραπλάνησε τις αρχές σχετικά με την ασφάλεια του ChatGPT και ότι έχει βλάψει παιδιά, παρέχοντας πληροφορίες που οδήγησαν σε επιθέσεις και αυτοτραυματισμούς.
• Ο γενικός εισαγγελέας της Φλόριντα ζήτησε να απαγορευτεί στην OpenAI η ανάπτυξη νέων μοντέλων AI χωρίς εξωτερική εποπτεία και να περιοριστεί η πρόσβαση ανηλίκων στο ChatGPT.
• Η OpenAI έχει διακόψει προσωρινά την εκπαίδευση των πιο προηγμένων μοντέλων της μέχρι να εφαρμοστούν πρόσθετες δικλίδες ασφαλείας και δηλώνει πρόθεση συνεργασίας με τις αρχές.
• Η αγωγή της Φλόριντα βασίζεται και σε μαρτυρίες πρώην υπαλλήλου και μέλους διοικητικού συμβουλίου της OpenAI που ζητούν την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης λόγω κινδύνων.
• Η OpenAI αρνείται την ευθύνη για περιστατικά βίας που συνδέονται με το ChatGPT, επισημαίνοντας ότι παρέχει πληροφορίες διαθέσιμες στο διαδίκτυο και συνεχίζει να βελτιώνει τα μέτρα ασφαλείας της.

Snapshot powered by AI

Ο γενικός εισαγγελέας της Φλόριντα ζήτησε σήμερα από έναν δικαστή να απαγορεύσει στην OpenAI να αναπτύσσει νέα μοντέλα τεχνητής νοημοσύνης χωρίς εξωτερική εποπτεία, στο πλαίσιο μιας αγωγής σε βάρος της εταιρείας με την κατηγορία ότι βλάπτει τα παιδιά.

Τον Ιούνιο, η πολιτεία των ΗΠΑ κατηγόρησε την OpenAI ότι παραπλάνησε τις αρχές σε ό,τι αφορά την ασφάλεια της πλατφόρμας ChatGPT και υποστήριξε ότι έχει βλάψει παιδιά παρέχοντας πληροφορίες σε άτομα που στη συνέχεια διέπραξαν επιθέσεις με όπλα, έδωσε οδηγίες σε άλλους για να βλάψουν τον εαυτό τους ή προκάλεσε εθισμό σε νέους χρήστες.

Ο γενικός εισαγγελέας της Φλόριντα, Τζέιμς Αθμάιερ, ζήτησε επίσης από το δικαστήριο να διατάξει την OpenAI να κρατήσει τους ανηλίκους μακριά από το ChatGPT και να απαγορεύσει στην εταιρεία να προσδίδει «ανθρώπινα χαρακτηριστικά» στην πλατφόρμα συνομιλίας της.

Από την πλευρά του, ο Ντριου Πουζατέρι, εκπρόσωπος Τύπου της OpenAI, δήλωσε σε ανακοίνωσή του ότι η εταιρεία έχει διακόψει προσωρινά την εκπαίδευση των πιο «έξυπνων» μοντέλων της και δεν θα τη συνεχίσει έως ότου εφαρμοστούν πρόσθετες δικλίδες ασφαλείας.

«Οι κυβερνήσεις διαδραματίζουν σημαντικό ρόλο στον καθορισμό ισχυρών προτύπων ασφαλείας για την τεχνητή νοημοσύνη και δεσμευόμαστε να συνεργαστούμε με τη Φλόριντα και άλλες πολιτείες για την προώθηση ρεαλιστικών πολιτικών που θα ισχύουν για ολόκληρη τη βιομηχανία AI και όχι μόνο για μία εταιρεία», είπε.

Στην δικογραφία, αναφέρονται και πρόσφατα σχόλια ενός πρώην υπαλλήλου της OpenAI και ενός μέλους του διοικητικού συμβουλίου της, οι οποίοι υποστηρίζουν ότι η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να επιβραδυνθεί και θα μπορούσε να οδηγήσει την ανθρωπότητα στην καταστροφή της.

«Οι εναγόμενοι ισχυρίζονται ότι δεν μπορούν να σταματήσουν να προχωρούν ακάθεκτοι στις προσπάθειές τους που ενδέχεται να καταστρέψουν τον πολιτισμό, εκτός εάν εξαναγκαστούν να το πράξουν από την κυβέρνηση», έγραψε η πολιτεία της Φλόριντα στη δικογραφία της Δευτέρας. «Έχουν ζητήσει από την κυβέρνηση να τους δέσει στο κατάρτι».

Ο Τζέιμς Αθμάιερ, που είναι Ρεπουμπλικάνος, είναι ο πρώτος γενικός εισαγγελέας πολιτείας που στρέφεται εναντίον της OpenAI για τον αντίκτυπό της στους νέους χρήστες. Η εταιρεία αντιμετωπίζει επίσης αγωγές από ιδιώτες και οικογένειες που λένε ότι το ChatGPT οδήγησε ανθρώπους να βλάψουν τον εαυτό τους ή άλλους.

Αφορμή για την αγωγή αυτήν ήταν μια επίθεση με πυροβολισμούς στο πανεπιστήμιο του Ταλαχάσι πέρυσι και διάφορα περιστατικά σε άλλες πολιτείες, όπου το ChatGPT φέρεται να παρείχε πληροφορίες σε άτομα που στη συνέχεια διέπραξαν βιαιοπραγίες. Η εταιρεία έχει αρνηθεί ότι φέρει ευθύνη σε αυτές τις περιπτώσεις. Έχει δηλώσει ότι το chatbot παρέχει πληροφορίες που είναι ευρέως διαθέσιμες στο διαδίκτυο και ότι συνεχίζει να ενημερώνει τα εργαλεία ασφαλείας της.

Διαβάστε επίσης