Chat GPT e salute: “L’IA non darà più pareri su temi medici o legali”
ChatGPT, il chatbot sviluppato da OpenAI, è nato con l’obiettivo di fornire risposte rapide a qualsiasi domanda.
Non sorprende quindi che molti utenti lo consultino anche per ottenere consigli medici o legali.
Tuttavia, secondo una ricerca riportata da Il Messaggero, l’utilizzo dell’intelligenza artificiale nel campo delle diagnosi mediche presenta ancora margini di errore significativi:
“Uno studio pubblicato sull’European Journal of Pathology ha rivelato che i chatbot di intelligenza artificiale utilizzati in ambito medico commettono errori in circa il 70% dei casi.”
Ciò dimostra che l’affidabilità di questi strumenti, seppur avanzati, deve ancora migliorare. Persino in un contesto medico-scientifico controllato, l’IA può produrre valutazioni errate.
“Il chatbot ha sbagliato la diagnosi di un carcinoma cutaneo e ha confuso due diversi tipi di tumore al seno, citando anche fonti inesistenti ma credibili.”
Immaginiamo, dunque, cosa può accadere nel caso di un uso privato e non supervisionato, come per la lettura di referti o per l’autovalutazione di sintomi.
Un eccesso di fiducia nella tecnologia può portare alla creazione di false convinzioni e di miti pericolosi per la salute.
Stando a quanto riportato da Skuola.net:
“L’IA non darà più pareri su temi medici o legali. Se hai bisogno di una consulenza seria, ti inviterà a rivolgerti a un medico o a un avvocato. E non è tutto: è stato imposto un blocco totale sull’analisi delle immagini mediche, come raggi X o TAC.”
In futuro, potrebbero essere limitati anche gli ambiti legati alla salute mentale, poiché molti utenti utilizzano ChatGPT come se fosse uno psicologo.
Gam Medical (centro psicologico e psichiatrico specializzato in salute mentale) mette in guardia da tre rischi principali:
- Risposte inadeguate in situazioni delicate.
- Rinforzo di comportamenti disfunzionali.
- Assenza di responsabilità clinica e tutela della privacy.
È importante ricordare che non esistono tecnologie buone o cattive, ma è l’uso che se ne fa a determinare gli esiti. Nel caso della salute, la regola resta una sola: affidarsi sempre a un medico o a uno specialista qualificato.