Νέα επιστημονική μελέτη προειδοποιεί για τους κινδύνους που συνοδεύουν τη χρήση του ChatGPT ως πηγής ιατρικών πληροφοριών, εστιάζοντας στην υπόθεση ενός άνδρα που εκδήλωσε μία σπάνια πάθηση, αφού ακολούθησε τις συμβουλές του chatbot σχετικά με τη διακοπή χρήσης αλατιού στη διατροφή του
Νέα επιστημονική μελέτη προειδοποιεί για τους κινδύνους που συνοδεύουν τη χρήση του ChatGPT ως πηγής ιατρικών πληροφοριών, εστιάζοντας στην υπόθεση ενός άνδρα που εκδήλωσε μία σπάνια πάθηση, αφού ακολούθησε τις συμβουλές του chatbot σχετικά με τη διακοπή χρήσης αλατιού στη διατροφή του.
Σύμφωνα με άρθρο που δημοσιεύτηκε στο Annals of Internal Medicine, ένας 60χρονος ανέπτυξε βρωμισμό (τοξικότητα βρωμιδίου), με αφορμή μία συνομιλία του με το ChatGPT. Το σύνδρομο, στις αρχές του 20ού αιώνα, είχε συνδεθεί με ψυχιατρικά ζητήματα.
Ο ασθενής δήλωσε στους γιατρούς ότι, αφού ενημερώθηκε για τις αρνητικές επιπτώσεις του χλωριούχου νατρίου, του κοινού αλατιού, ζήτησε από το ChatGPT να του υποδείξει πώς θα μπορούσε να το αφαιρέσει από τη διατροφή του.
Στη συνέχεια, επί τρεις μήνες, κατανάλωνε βρωμιούχο νάτριο, παρότι είχε διαβάσει ότι η αντικατάσταση αυτής της ουσίας γίνεται συνήθως για άλλους σκοπούς, όπως ο καθαρισμός. Το βρωμιούχο νάτριο χρησιμοποιούνταν ως ηρεμιστικό στις αρχές του 20ού αιώνα.
Οι συγγραφείς του άρθρου, από το Πανεπιστήμιο της Ουάσιγκτον στο Σιάτλ, σημείωσαν ότι η υπόθεση αναδεικνύει «πώς η χρήση τεχνητής νοημοσύνης μπορεί να συμβάλει στην εμφάνιση ανεπιθύμητων επιπτώσεων στην υγεία, που θα μπορούσαν να έχουν αποφευχθεί».
Οι επιστήμονες δεν είχαν πρόσβαση στο αρχείο συνομιλιών του ασθενούς με το chatbot, αλλά όταν οι ίδιοι ρώτησαν το ChatGPT, έλαβαν αντίστοιχη απάντηση, που δεν συνοδευόταν από σχετική προειδοποίηση για τις πιθανές επιπτώσεις στην υγεία.
Οι ερευνητές προειδοποίησαν ότι το ChatGPT και άλλες εφαρμογές τεχνητής νοημοσύνης μπορούν να δώσουν επιστημονικά ανακριβείς απαντήσεις, αφού αδυνατούν να συζητήσουν με κριτική σκέψη τα στοιχεία.
Η OpenAI ανακοίνωσε την προηγούμενη εβδομάδα την αναβάθμιση του chatbot, υποστηρίζοντας ότι ένα από τα μεγαλύτερα πλεονεκτήματά του είναι η παροχή πληροφοριών για την υγεία. Τόνισε ότι το μοντέλο GPT-5 θα απαντά καλύτερα σε ιατρικά ερωτήματα και θα είναι πιο προσεκτικό στην επισήμανση πιθανών ανησυχιών που αφορούν σοβαρά σωματικά ή ψυχικά προβλήματα. Ωστόσο, η εταιρεία υπογράμμισε πως το σύστημα δεν υποκαθιστά τις επαγγελματικές ιατρικές υπηρεσίες, τονίζοντας πως το σύστημα δεν προορίζεται για διάγνωση ή προτάσεις θεραπείας.
Το άρθρο, που δημοσιεύθηκε πριν από την κυκλοφορία του GPT-5, αναφέρει ότι ο ασθενής πιθανόν χρησιμοποίησε παλαιότερη έκδοση του μεγάλου γλωσσικού μοντέλου. Αν και αναγνωρίζει ότι η τεχνητή νοημοσύνη μπορεί να λειτουργήσει ως γέφυρα μεταξύ επιστημόνων και κοινού, προειδοποιεί πως ενέχει τον κίνδυνο διάδοσης πληροφοριών που παρουσιάζονται αποσπασματικά, συμπληρώνοντας πως ένας γιατρός θα ήταν απίθανο να προτείνει το βρωμιούχο νάτριο ως υποκατάστατο του επιτραπέζιου αλατιού.
Οταν ο άνδρας εμφανίστηκε στο νοσοκομείο, εξέφρασε την υποψία πως τον «δηλητηρίαζε ο γείτονάς του» και ανέφερε πολλαπλούς διατροφικούς περιορισμούς. Παρά τη δίψα του, αρνήθηκε πεισματικά να πιει το νερό που του προσφέρθηκε. Μία ημέρα μετά την εισαγωγή, επιχείρησε να φύγει από το νοσοκομείο παρά την αντίθετη γνώμη των γιατρών και οι γιατροί διέγνωσαν ψύχωση. Αργότερα παρουσίασε και άλλα συμπτώματα ενδεικτικά βρωμισμού, όπως η ακμή στο πρόσωπο, η υπερβολική δίψα και η αϋπνία.
Πηγή Guardian
