AI και στη δικαστική αίθουσα - Δικηγόρος στις ΗΠΑ υπέβαλε έγγραφα με καταθέσεις ανύπαρκτων μαρτύρων
Δικηγόρος θα πληρώσει πρόστιμο επειδή υπέβαλε έγγραφα με καταθέσεις ανύπαρκτων μαρτύρων, επινοημένων από το ChatGPT
Snapshot
- Δικηγόρος στις ΗΠΑ τιμωρήθηκε με πρόστιμο 5.000 δολαρίων και πειθαρχικά μέτρα για την υποβολή εγγράφων με καταθέσεις ανύπαρκτων μαρτύρων που δημιούργησε το ChatGPT.
- Το Ανώτατο Δικαστήριο του Νέου Μεξικού έκρινε τον δικηγόρο ένοχο για ασέβεια επειδή δεν επαλήθευσε την αλήθεια των στοιχείων που κατέθεσε.
- Ο δικηγόρος χρησιμοποίησε το ChatGPT για σύνοψη της δίκης, αλλά δεν αντιλήφθηκε τις ανακριβείς πληροφορίες που παρήγαγε η Τεχνητή Νοημοσύνη.
- Πολλοί δικηγόροι έχουν δεχθεί πειθαρχικές κυρώσεις λόγω χρήσης Τεχνητής Νοημοσύνης χωρίς τον απαραίτητο έλεγχο των εγγράφων που υπέβαλαν στα δικαστήρια.
- Η υπόθεση αφορά την έφεση για καταδίκη σε ισόβια κάθειρξη άνδρα που δηλώνει αθώος για φόνο, με νέα δικηγόρο να έχει διοριστεί πρόσφατα.
Ένας συνήγορος υπεράσπισης που κατέθεσε έφεση στην καταδίκη του πελάτη του για φόνο, υπέβαλε ένα κείμενο που περιείχε κατασκευασμένες καταθέσεις αστυνομικών και ανύπαρκτων μαρτύρων, τους οποίους «επινόησε» το ChatGPT της OpenAI, σύμφωνα με το Ανώτατο Δικαστήριο του Νέου Μεξικού των ΗΠΑ.
Το Ανώτατο Δικαστήριο επέβαλε πρόστιμο στον δικηγόρο, τον Στίβεν Άαρονς, και τον έκρινε ένοχο για ασέβεια ενώπιον του, επειδή δεν φρόντισε να εξακριβώσει την αλήθεια των γραφομένων στο αίτημά του. Ο δικηγόρος ισχυρίστηκε ότι ετοίμασε το κείμενο με τη βοήθεια του προγράμματος Τεχνητής Νοημοσύνης.
Το αίτημα έφεσης περιείχε «ψευδείς μαρτυρίες από εξ ολοκλήρου επινοημένους μάρτυρες», σημείωσε το δικαστήριο, τονίζοντας ότι ο δικηγόρος επέδειξε «αδιαφορία» απέναντι στον πελάτη του. Του επέβαλε πρόστιμο ύψους 5.000 δολαρίων και θα τον παραπέμψει στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου.
Ο Άαρονς είπε στο πρακτορείο Reuters ότι χρησιμοποίησε το ChatGPT για να κάνει μια σύνοψη της δίκης όταν συμφώνησε να αναλάβει την έφεση, πέρυσι, και δεν αντιλήφθηκε πόσο μεγάλες ήταν οι «παραισθήσεις» της ΤΝ.
«Έχω μετανοήσει αλλά διατηρώ την ελπίδα ότι το πειθαρχικό συμβούλιο θα λάβει υπόψη του ότι ήταν ένα ειλικρινές λάθος», είπε. «Είναι ένα μάθημα που έγινε πάθημα για όλους τους επαγγελματίες που βασίζονται σε αυτή την ισχυρή αλλά μερικές φορές ασταθή τεχνολογία».
Η OpenAI δεν απάντησε στο αίτημα για κάποιο σχόλιο.
Το τελευταίο διάστημα πολλοί πολιτειακοί και ομοσπονδιακοί δικαστές έχουν επιβάλει πειθαρχικά μέτρα σε δικηγόρους επειδή υπέβαλαν έγγραφα που συνέταξαν με τη βοήθεια εργαλείων της ΤΝ χωρίς να τα ελέγξουν. Ορισμένοι δικαστές έχουν επίσης επικριθεί επειδή χρησιμοποίησαν ΤΝ. Δεκάδες δικηγόροι υπόκεινται σε κυρώσεις επειδή υπέβαλαν έγγραφα στα οποία η ΤΝ παρερμήνευε τον νόμο.
Ο Άαρονς, που διατηρεί ιδιωτικό γραφείο στη Σάντα Φε, είχε αναλάβει την έφεση του Όσκαρ Ρενέ Σαντοβάλ, ο οποίος έχει δηλώσει αθώος για τη δολοφονία της μητέρας των παιδιών του. Πέρυσι ωστόσο κρίθηκε ένοχος και καταδικάστηκε σε ισόβια κάθειρξη. Η έφεση εκκρεμεί και στις αρχές Σεπτεμβρίου διορίστηκε νέα δικηγόρος του, η δημόσια συνήγορος η Κιμ Τσάβες Κουκ.
Τον περασμένο μήνα το Ανώτατο Δικαστήριο διέταξε τον Άαρονς να εξηγήσει πώς το κατασκευασμένο υλικό, που περιείχε επινοημένες δηλώσεις ότι «ο δράστης φορούσε σκούρο παντελόνι και λευκό μπλουζάκι» συμπεριλήφθηκε στην έφεσή του. Ο δικηγόρος απάντησε ότι τροφοδότησε το ChatGPT με απομαγνητοφωνημένες καταθέσεις και άλλο υλικό, υποθέτοντας ότι θα δημιουργούσε μια «ακριβή σύνοψη» της πρώτης δίκης. Οι δικαστές δεν πείστηκαν ότι ο Άαρονς αγνοούσε ότι η ΤΝ μπορεί να κάνει λάθη. «Βλέπετε ειδήσεις; Ακούτε ραδιόφωνο; Διαβάζετε οτιδήποτε για όσα συμβαίνουν στον κόσμο; Επειδή το πρόβλημα με τους δικηγόρους που βασίζονται στις παραισθήσεις της ΤΝ είναι στα πρωτοσέλιδα σε καθημερινή βάση», είπε η δικαστής Σ. Σάνον Μπέικον.
