Ρώτησε το ChatGPT πώς να μειώσει το αλάτι - 3 μήνες αργότερα, νοσηλεύτηκε με ψύχωση

Ένας 60χρονος άνδρας που ήθελε να κάνει τη διατροφή του πιο υγιεινή κατέληξε να νοσηλευτεί με παράνοια και παραισθήσεις, αφότου αντικατέστησε το επιτραπέζιο αλάτι με βρωμιούχο νάτριο για 3 μήνες.

Η ασυνήθιστη περίπτωση, που δημοσιεύτηκε στο Annals of Internal Medicine: Clinical Cases, απεικονίζει τόσο ένα σπάνιο σύνδρομο δηλητηρίασης όσο και ένα σύγχρονο πρόβλημα: την λήψη αποφάσεων με βάση πληροφορίες υγείας από ένα chatbot τεχνητής νοημοσύνης.

Τι συνέβη αφού ο άνδρας ρώτησε το ChatGPT για το αλάτι;

Σύμφωνα με τη σχετική δημοσίευση, ο 60χρονος είχε αρχίσει να ανησυχεί για τις επιπτώσεις στην υγεία από το χλωριούχο νάτριο, δηλαδή το γνωστό μας επιτραπέζιο αλάτι. Αντί απλώς να μειώσει το νάτριο, αποφάσισε να διεξάγει ένα «προσωπικό πείραμα» με στόχο την εξάλειψη του χλωριούχου νατρίου από τη διατροφή του. Αργότερα είπε στους γιατρούς ότι είχε συμβουλευτεί το ChatGPT και από την απάντηση που αυτό του έδωσε, εκείνος κατάλαβε ότι το βρωμιούχο νάτριο θα μπορούσε να υποκαταστήσει το χλωριούχο νάτριο.

Έτσι, αγόρασε βρωμιούχο νάτριο στο διαδίκτυο και το χρησιμοποίησε αντί για χλωριούχο νάτριο για περίπου 3 μήνες. Είναι σημαντικό ότι η ιατρική ομάδα δεν είδε ποτέ την αρχική συνομιλία του 60χρονου στο ChatGPT, επομένως δεν μπόρεσε να επαληθεύσει την ακριβή ερώτηση ή απάντηση. Όταν αργότερα δοκίμασαν το ChatGPT 3.5 με παρόμοιες ερωτήσεις, το μοντέλο ανέφερε και πάλι ως “λύση” το βρωμιούχο νάτριο και δεν παρείχε καμία συγκεκριμένη προειδοποίηση κατά της κατάποσης του.

Το πρόβλημα δεν ήταν κάποια προφανώς παράλογη πραγματική δήλωση του ChatGPT. Το βρωμιούχο νάτριο μπορεί να υποκαταστήσει το χλωριούχο νάτριο σε ορισμένα χημικά πλαίσια. Η επικίνδυνη αποτυχία της Τεχνητής Νοημοσύνης στην εν λόγω περίπτωση ήταν το πλαίσιο της συμβουλής: μια χημικά εύλογη απάντηση έγινε ιατρικά επικίνδυνη, διότι δεν προέβλεψε το ChatGPT ότι στον πραγματικό κόσμο ένας άνθρωπος μπορεί να την ερμηνεύσει ως διατροφική συμβουλή.

Γιατί το βρωμιούχο νάτριο οδήγησε τον 60χρονο στην ψύχωση;

Ο άνδρας ανέπτυξε βρωμισμό, ένα τοξικό σύνδρομο που προκαλείται από την υπερβολική έκθεση σε βρωμιούχο νάτριο. Τα άλατα βρωμιούχου νατρίου χρησιμοποιούνταν κάποτε σε ηρεμιστικά και αντισπασμωδικά φάρμακα, αλλά η χρόνια έκθεση μπορεί να επηρεάσει το νευρικό σύστημα και να προκαλέσει:

• κόπωση
• κακό συντονισμό
• σύγχυση
• διέγερση
• παραισθήσεις
• παραληρητικές ιδέες
• ψύχωση

Το βρωμιούχο νάτριο είναι χημικά παρόμοιο με το χλωριούχο νάτριο (αλάτι) και μπορεί να επηρεάσει τις διαδικασίες στις οποίες συμμετέχει κανονικά το αλάτι, συμπεριλαμβανομένης της νευρωνικής σηματοδότησης. Συσσωρεύεται επίσης με επαναλαμβανόμενη έκθεση.

Ο ασθενής ανέφερε αϋπνία, κόπωση, υπερβολική δίψα και προβλήματα συντονισμού, εκτός από παράνοια και παραισθήσεις, και οι γιατροί παρατήρησαν επίσης δερματικές αλλαγές συμβατές με τοξικότητα από βρωμιούχο νάτριο.

ΠΡΟΣΟΧΗ: Η εν λόγω περίπτωση ΔΕΝ πρέπει να συγχέεται με ισχυρισμούς ότι καθαυτή η συνομιλία με ένα chatbot τεχνητής νοημοσύνης προκάλεσε άμεσα ψύχωση. Οι γιατροί απέδωσαν τα ψυχιατρικά συμπτώματα σε δηλητηρίαση από βρωμιούχο νάτριο μετά από μήνες κατάποσης.

Πώς ανακάλυψαν οι γιατροί τη δηλητηρίαση;

Όταν ο άνδρας έφτασε στο τμήμα επειγόντων περιστατικών νοσοκομείου, πίστευε ότι ο γείτονάς του τον δηλητηρίαζε. Οι αρχικές εξετάσεις αίματος φάνηκαν να δείχνουν εξαιρετικά υψηλό χλώριο, ωστόσο άλλα ευρήματα δεν ταίριαζαν με τη συνηθισμένη υπερχλωραιμία.

Οι γιατροί τελικά αναγνώρισαν την ψευδοϋπερχλωραιμία: το βρωμιούχο νάτριο μπορεί να επηρεάσει ορισμένες εργαστηριακές μεθόδους που χρησιμοποιούνται για τη μέτρηση του χλωριούχου νατρίου, κάνοντας το χλώριο να φαίνεται ψευδώς αυξημένο. Μια συγκεκριμένη εξέταση βρωμιούχου νατρίου έδειξε συγκέντρωση περίπου 230 φορές πάνω από το φυσιολογικό εύρος, υποστηρίζοντας τη διάγνωση για βρωμισμό.

Ο 60χρονος παρέμεινε στο νοσοκομείο για τρεις εβδομάδες για παρακολούθηση και αναπλήρωση ηλεκτρολυτών. Η επιδείνωση της παράνοιας και των παραισθήσεων οδήγησε σε ακούσια ψυχιατρική κράτηση και θεραπεία με φάρμακα. Η κατάστασή του βελτιώθηκε, το αντιψυχωσικό φάρμακο διακόπηκε και παρέμεινε σταθερός κατά την παρακολούθηση δύο εβδομάδες μετά το εξιτήριο.

Η μείωση του αλατιού σημαίνει ότι πρέπει να εξαλείψετε το χλωριούχο νάτριο;

Όχι. Η συμβουλή των ειδικών για τον περιορισμό του αλατιού στοχεύει γενικά στην μείωση της υπερβολικής πρόσληψης νατρίου και όχι στην εξάλειψη του χλωριούχου νατρίου από το σώμα.

Το χλωριούχο νάτριο είναι ένας απαραίτητος ηλεκτρολύτης, που εμπλέκεται στην ισορροπία υγρών, την αρτηριακή πίεση και την οξεοβασική ισορροπία. Τυχόν διατροφικές αλλαγές, που έχουν σχεδιαστεί για την απομάκρυνση ενός απαραίτητου θρεπτικού συστατικού, θα πρέπει να συζητούνται με έναν επαγγελματία υγείας και όχι να αυτοσχεδιάζονται με χημικά υποκατάστατα.

Μπορούμε να εμπιστευτούμε πληροφορίες υγείας που παράγονται από την Τεχνητή Νοημοσύνη;

Τα εργαλεία Τεχνητής Νοημοσύνης μπορούν να βοηθήσουν παράθεση και εξήγηση/ερμηνεία ιατρικών πληροφοριών, αλλά αν και οι απαντήσεις τους ακούγονται εύλογες, μπορεί να στερούνται συχνά ενός γενικού πλαισίου περί χρήσης και εφαρμογής τους στην πραγματική ζωή, κάτι που είναι καίριας σημασίας.

Σε αυτήν την περίπτωση, οι συγγραφείς προειδοποίησαν ότι η Τεχνητή Νοημοσύνη μπορεί να διαδώσει πληροφορίες και συμβουλές χωρίς πλαίσιο χρήσης/εφαρμογής τους και σημείωσαν ότι ένας άνθρωπος επαγγελματίας υγείας θα ήταν απίθανο να προτείνει το βρωμιούχο νάτριο ως διαιτητικό υποκατάστατο του χλωριούχου νατρίου.

Συμπέρασμα

Η υπόθεση είναι εντυπωσιακή όχι επειδή ο βρωμισμός είναι συχνός, αλλά επειδή ένα απλό ερώτημα διατροφής οδήγησε σε ένα επικίνδυνο πείραμα με μια τοξική ένωση. Το ευρύτερο μάθημα είναι σαφές: ποτέ μην καταναλώνετε μια χημική ουσία ή μην αλλάζετε ουσιαστικά ένα απαραίτητο θρεπτικό συστατικό, επειδή μια απάντηση ή αποτέλεσμα αναζήτησης της Τεχνητής Νοημοσύνης λέει ότι δύο ουσίες μπορούν να «αντικαταστήσουν» η μία την άλλη.

Η χημική ομοιότητα δεν είναι η ίδια με τη διατροφική ασφάλεια.

Πηγές:

• livescience.com (1)
• livescience.com (2)
• nih.gov
• clevelandclinic.org