
24/07/2025
𝔻𝕒𝕝 𝔻𝕠𝕥𝕥. 𝔾𝕠𝕠𝕘𝕝𝕖 ... 𝕒𝕝 𝔻𝕠𝕥𝕥. ℂ𝕙𝕒𝕥𝔾ℙ𝕋
Sapevo che prima o poi un Paziente avrebbe espresso le sue preoccupazioni sul responso di un sito di 𝑰𝒏𝒕𝒆𝒍𝒍𝒊𝒈𝒆𝒏𝒛𝒂 𝑨𝒓𝒕𝒊𝒇𝒊𝒄𝒊𝒂𝒍𝒆 (𝑰𝑨) al quale aveva sottoposto i suoi esami.
Le statistiche ci dicono che è una pratica sempre più comune: il 77% degli Italiani hanno consultato almeno una volta l’IA per interrogativi a carattere medico, anche se solo un terzo ammette di aver compreso la risposta. Proprio questo è il punto: come tutti gli strumenti estremamente potenti, l’IA va maneggiata con cura e solo da utenti formati nel suo campo di applicazione. Ammetto tranquillamente di utilizzarla regolarmente per chiarire dubbi o farmi un’idea su una diagnosi difficile, ma utilizzo un chatbot che richiede registrazione con prova di appartenenza alla classe medica e soprattutto indica le fonti dalle quali trae le sue informazioni, così da avere la possibilità di valutarle criticamente.
E poi c’è un altro enorme problema, noto con il nome di “data poisoning” (avvelenamento dei dati): esso consiste nell’introduzione volontaria, ad opera di hackers, di informazioni erronee o manipolate nelle enormi banche dati da cui l’IA deriva il suo nutrimento, in modo da ottenere delle risposte che sono delle vere e proprie 𝘧𝑎𝘬𝑒 𝑛𝘦𝑤𝘴, in genere indirizzate in una specifica direzione (ad esempio propaganda no-vax, negazionismo climatico, pratiche mediche non validate, ecc…).
Uno studio pubblicato qualche settimana fa dimostra che è estremamente facile ottenere questo risultato con i più diffusi chatbots: quello che funziona meglio si lascia ingannare “solo” nel 50% dei tentativi. È ovvio che solo la reale competenza (somma di scienza ed esperienza) nella materia trattata può permettere all’utilizzatore di comprendere l’inganno.
𝑵𝒂𝒕𝒖𝒓𝒂𝒍𝒎𝒆𝒏𝒕𝒆 𝒏𝒖𝒍𝒍𝒂 𝒗𝒊𝒆𝒕𝒂 𝒅𝒊 𝒓𝒊𝒄𝒐𝒓𝒓𝒆𝒓𝒆 𝒂 𝒒𝒖𝒆𝒔𝒕𝒊 𝒔𝒊𝒔𝒕𝒆𝒎𝒊 𝒑𝒆𝒓 𝒔𝒐𝒅𝒅𝒊𝒔𝒇𝒂𝒓𝒆 𝒖𝒏𝒂 𝒄𝒖𝒓𝒊𝒐𝒔𝒊𝒕𝒂̀ 𝒊𝒏 𝒂𝒎𝒃𝒊𝒕𝒐 𝒔𝒄𝒊𝒆𝒏𝒕𝒊𝒇𝒊𝒄𝒐, 𝒍𝒆𝒕𝒕𝒆𝒓𝒂𝒓𝒊𝒐, 𝒓𝒊𝒄𝒓𝒆𝒂𝒕𝒊𝒗𝒐...𝒎𝒂 𝒒𝒖𝒂𝒏𝒅𝒐 𝒔𝒊 𝒕𝒓𝒂𝒕𝒕𝒂 𝒅𝒆𝒍𝒍𝒂 𝒗𝒐𝒔𝒕𝒓𝒂 𝒔𝒂𝒍𝒖𝒕𝒆 𝒊𝒍 𝒑𝒓𝒊𝒎𝒐 𝒓𝒆𝒇𝒆𝒓𝒆𝒏𝒕𝒆 𝒆̀ 𝒔𝒆𝒎𝒑𝒓𝒆 𝒖𝒏 𝑴𝒆𝒅𝒊𝒄𝒐 𝒗𝒆𝒓𝒐!
..e per saperne di più:
https://pubmed.ncbi.nlm.nih.gov/40550134/
https://makingpharmaindustry.it/supply-chain-2/sicurezza-e-privacy/data-poisoning-una-minaccia-per-la-ricerca-e-la-salute/