Med-PaLM 2 è il nuovo software di intelligenza artificiale specializzato nel campo medico che, secondo il Wall Street Journal, Google starebbe testando dallo scorso aprile all’interno delle strutture degli Ospedali di Ricerca Mayo Clinic, negli Stati Uniti. La notizia viene in realtà dalla rivista scientifica Nature, che ha pubblicato un articolo sulla valutazione delle capacità del nuovo strumento AI in ambito medico e clinico. Gli autori di Google Research, assicurano che il nuovo chatbot potrebbe diventare “un valido supporto per medici e professionisti sanitari”. Il modello linguistico di grandi dimensioni Med-PaLM nasce dall’ottimizzazione di PaLM e della sua variante Flan-PaLM. Secondo i risultati dell’analisi, un gruppo di medici ha giudicato scientificamente valido solo il 61,9% delle risposte in formato esteso fornite da Flan-PaLM, rispetto al 92,6% delle risposte elaborate da Med-PaLM, percentuale del tutto analoga alle risposte generate da veri medici (92,9%). Analogamente, il 29,7% delle risposte Flan-PaLM è stato valutato come potenzialmente in grado di comportare esiti dannosi, contro il 5,8% per Med-PaLM, in linea con i possibili risvolti negativi delle risposte fornite da medici (6,5%).
Le potenzialità dei modelli AI in ambito medico sarebbero in particolare legate alle grandi capacità di archiviazione e consultazione in grado di facilitare recupero di conoscenze in supporto a decisioni e valutazioni cliniche. Tuttavia sono diversi i limiti che i modelli attuali evidenziano. Come riporta l’AGI, sono ancora numerosi i test necessari per lo sviluppo di tali strumenti nella pratica clinica. Alcuni studi hanno anzi fatto emergere i rischi potenziali che questi tool di AI specializzata avrebbero nel generare “disinformazione medica” o “aumentare pregiudizi che potrebbero esacerbare le disparità di salute”.