Che cosa succede se un radiologo viene ingannato da un hacker, che è riuscito a modificare le immagini diagnostiche? L’altra faccia della medaglia dell’intelligenza artificiale applicata al settore medico.
Un giovedì mattina a inizio primavera un radiologo osserva attentamente le lastre dei 33 suoi pazienti, alla ricerca di tracce di tumori ai polmoni. Difficile però immaginare che le radiografie toraciche che ha di fronte non siano quelle originali ottenute ai raggi X, bensì il frutto di un accurato processo di fotoritocco, peraltro eseguito alla perfezione grazie all’intelligenza artificiale.

Non è fantascienza. Risale allo scorso maggio la notizia, confermata e dettagliata in un paper scientifico scritto in prima persona da un team anglo-giapponese, di un massiccio cyber-attacco in cui gli hacker hanno modificato immagini diagnostiche anche tridimensionali, riuscendo a ingannare i radiologi nel 98% dei casi. In alcune lastre era stato aggiunto un tumore, in altre invece era stata fatta sparire del tutto una neoplasia esistente. Il segreto del successo dell’attacco è stato inserire il malware nel punto giusto, ovvero nel sistema di trasmissione dei dati tra l’apparecchiatura diagnostica e il computer del medico, in modo che né il tecnico né il tecnico radiologo potessero accorgersi che qualcosa stava andando storto. Un sistema automatizzato basato su una rete neurale ha fatto il resto.

Al posto del tumore al polmone, lo stesso sistema avrebbe permesso di creare fratture fantasma, nascondere una potenziale infezione, accentuare un’artrite o far sparire un problema cardiaco diagnosticabile da quella stessa immagine. E se ipotizziamo che un team di hacker possa dedicarsi ai deepfake sanitari (una tecnica che consiste nel sovrapporre immagini con l’intelligenza artificiale per crearne di false), gli obiettivi possono essere infiniti: dalle frodi assicurative agli attacchi terroristici, fino all’omicidio mirato e premeditato.

A gennaio di quest’anno, in Usa, i ricercatori del settore Health di Google hanno annunciato che la loro intelligenza artificiale può battere, con una percentuale di pochi punti di distanza, un radiologo nell’accuratezza delle diagnosi di tumori alla mammella. Le critiche a questo risultato non sono state risparmiate, soprattutto perché – sostengono i radiologi – oggi la vera sfida non risiede nell’identificare le masse tumorali, ma nel definire quanto siano insidiose e a quale stadio di progressione della malattia corrispondano.

Controversie a parte, l’ingresso del digitale nella sanità è qualcosa che sta già abbondantemente avvenendo, ma non sappiamo ancora quale impatto avrà sulla nostra salute. La disruption dovuta all’intelligenza artificiale ha ancora esiti incerti, e l’unico evento sicuro è che stravolgerà l’intera architettura del sapere sanitario.

Il cambiamento però è già in atto perché abbiamo di fatto raccolto un’enorme mole di dati sanitari, ma il loro uso è potenzialmente nullo per le difficoltà di collegarli tra loro ed elaborarli con strumenti adeguati. Le strutture sanitarie si stanno gradualmente dotando di sistemi e risorse specializzate per l’analisi dei dati e il machine learning ma rimane alta la difficoltà di integrare i sistemi, collegare i risultati per ricavarne qualcosa di utile. In parallelo il concetto stesso di malattia, nonché il ventaglio delle patologie e dei trattamenti, sta diventando molto più complesso e articolato e con la popolazione che invecchia sempre di più il quadro risulta ulteriormente complicato.
Quali sono gli impatti di queste trasformazioni sul settore professionale degli operatori sanitari? L’incontro tra intelligenza artificiale, genomica e pratica clinica, genera la richiesta di nuove figure professionali, con personale specializzato nel valutare se il contenuto dei big data raccolti sia clinicamente rilevante o meno. Inoltre il trattamento dei dati apre nuovi scenari sul piano bioetico e legale, soprattutto perché è presente un vuoto normativo su questi temi.

Lasciando per un momento da parte le previsioni sugli sviluppi tecnologici, c’è da considerare il ruolo delle normative sanitarie dove tutto è regolato da certificazioni e procedure stringenti ed è anche su questi aspetti più formali che si gioca la partita. Già nei prossimi due o tre anni sentiremo sempre più pressante la necessità di avere figure cliniche e ricercatori più specializzati e formati in ambito tecnologico.

The post Quando la lastra è un deepfake appeared first on Wired.



Leggi l’articolo su wired.it