Qual è il ruolo che l’AI dovrebbe svolgere nella sanità?

Qual è il ruolo che l'Intelligenza Artificiale dovrebbe svolgere nella sanità?

Sull’uso del machine learning nell’assistenza sanitaria e lo scandalo dell’IA di United Healthcare

Qualcuno di voi potrebbe sapere che sono una sociologa di formazione – per essere precisi, ho studiato sociologia medica alla scuola di specializzazione. Questo significa che mi sono concentrata su come le persone e i gruppi interagiscono con la malattia, la medicina, le istituzioni sanitarie e concetti e idee legate alla salute.

Insegnavo agli studenti universitari che si preparavano a entrare nel campo dell’assistenza sanitaria su queste questioni quando ero un professore a contratto, e penso che sia davvero importante che le persone che diventano i nostri operatori sanitari abbiano una visione delle modalità in cui il nostro stato sociale, economico e razziale interagisce con la nostra salute. Ogni persona malata non è uguale, e apprezzare questo è necessario prima di poter offrire un’assistenza di alta qualità alle persone.

Spiego tutto ciò solo per dare un po’ di contesto al mio punto di vista sull’argomento di oggi: le applicazioni del machine learning nell’assistenza sanitaria. Ho un po’ aspettato di parlarne perché è un argomento così vasto, ma alcune recenti segnalazioni giornalistiche mi hanno spinto a iniziare. È probabile che ne parlerò di più in futuro.

Sulla vita e la morte

Uno dei motivi per cui trovo così difficile parlare dell’uso del ML nel settore medico è perché i rischi di fallimento sono così catastrofici. Se sbaglio a prevedere la data di arrivo sbagliata per il pacchetto di calzini che hai ordinato online, il peggiore degli scenari possibili è che hai i piedi freddi per uno o due giorni. Se un modello di apprendimento automatico commette un errore in un contesto sanitario, i rischi possono arrivare fino alla perdita di vite umane o alla perdita di qualità della vita in modo molto reale.

• Combina più adattatori LoRA per Llama 2
• Operazionalizzare la valutazione di LLM su larga scala utilizzando i servizi Amazon SageMaker Clarify e MLOps
• Evitare il sovradattamento nelle reti neurali un approfondimento

Se un modello di apprendimento automatico commette un errore in un contesto sanitario, i rischi possono arrivare fino alla perdita di vite umane o alla perdita di qualità della vita in modo molto reale.

Certo, i nostri operatori sanitari sono già consapevoli di questo rischio nel loro lavoro quotidiano e imparano a conviverci. Ma in generale, gli scienziati dei dati e gli sviluppatori di modelli di apprendimento automatico non sono abituati a pensare agli esiti dei modelli con questo tipo di rischi. Nell’esempio di un modello di classificazione, una parte rilevante del compito è stimare il costo di ciò che chiamiamo Falsi Positivi e Falsi Negativi: fondamentalmente, quale conseguenza negativa avverrà quando prevediamo un evento che in realtà non si verifica (FP) o quando prevediamo che non si verifichi un evento ma in realtà si verifica (FN). In altri tipi di modelli, dedichiamo anche tempo a considerare il costo di un modello che fa una previsione molto diversa dal valore desiderato o da ciò che realmente accade. Il filo conduttore comune è che i modelli hanno SEMPRE un certo grado di errore inevitabile, anche l’IA generativa. Come ho già detto molte volte in passato, gli output del modello si basano in qualche modo su probabilità e lasciano aperta la possibilità che si verifichino errori (comportamenti indesiderati).

Ma cosa significano i costi di un Falso Positivo o un Falso Negativo, o qualche altro tipo di errore, in un contesto sanitario? Se non era ancora ovvio, il denaro è solo una piccola parte dell’errore potenziale dei modelli, nell’assistenza sanitaria o anche in altri settori. La perdita di denaro dovrebbe essere una bassa priorità rispetto a “perdita di vita” o “perdita della capacità di vivere in modo indipendente”. Sebbene il nostro sistema legale cerchi di assegnare valori monetari a queste cose, per i casi giudiziari in cui vengono assegnati danni, non è la stessa cosa, soprattutto quando si tratta della TUA vita o della tua qualità di vita.

United Healthcare

L’esempio recentemente riportato di come United Healthcare abbia usato il machine learning nella loro pratica mette in luce quanto le cose vadano male quando “il denaro” ha una priorità maggiore rispetto alla “vita” nelle decisioni di cura sanitaria. Non ha molto a che fare con il modello, perché è possibile insegnare a un modello a dare priorità a migliori esiti sanitari se si vuole.

Purtroppo, il nostro sistema sanitario gestisce due priorità in competizione: la qualità dell’assistenza e il profitto. Rigetto categoricamente l’idea che queste possano coesistere pacificamente, poiché sono sempre in tensione, ma il sistema americano si basa comunque su questa base discutibile. Questo è ciò che è importante tenere a mente mentre si parla di cosa faceva (fa?) UHC e perché.

Cosa stava facendo UHC (quasi universalmente considerata la peggiore compagnia assicurativa sanitaria negli Stati Uniti per quanto riguarda il pagamento effettivo delle cure)? Ecco cosa:

• La persona ha pagato le premesse e ha fatto tutto il necessario affinché la copertura venisse fornita;
• La persona diventa anziana e/o malata e ha bisogno di cure ospedaliere per recuperare da una malattia o da un infortunio;
• Il modello di UHC fornisce le caratteristiche generali del caso e del paziente, e predice quanto tempo potrebbe richiedere il recupero. Questa previsione indica un periodo di cure sostanzialmente più breve rispetto a quanto consigliato dal medico;
• UHC si affida al modello anziché al medico e si rifiuta di pagare per il periodo di cure più lungo, cacciando il paziente dalla struttura di cura prima che si sia ripreso.

Molti medici e studiosi del sistema sanitario parlano di come le compagnie assicurative sanitarie si dedicano a “fare medicina senza licenza” quando mettono in discussione le opinioni mediche informate dei medici sulle cure necessarie ai pazienti, e questo rientra proprio in quel tipo di comportamento. Come dovremmo chiamarlo quando il personale di UHC (con il sostegno di un modello) sta modificando il percorso delle cure per un paziente?

Ma questo non è nuovo, e in realtà, le compagnie assicurative non hanno bisogno di un modello che supporti le loro scelte per mettere in discussione le opinioni dei medici. Questo è comune e accade ogni giorno nel nostro sistema di assicurazione sanitaria, sotto forma di cose come le autorizzazioni preliminari. Le compagnie assicurative sosterranno di avere altri medici in servizio che prendono la decisione finale, quindi il concetto di “fare medicina senza licenza” non si applica, ma gli incentivi evidenti per questi medici sono a favore della compagnia assicurativa, non del paziente. Puoi essere certo che quei medici non raccomandino mai cure più costose per i pazienti rispetto ai medici curanti principali.

Applicazione dell’apprendimento automatico

Quindi, perché il comportamento di UHC è notizia adesso? E cosa ha a che fare con l’apprendimento automatico? Il modello di UHC che determina la durata ottimale delle cure post acute per questi anziani è stato sviluppato da un’azienda chiamata naviHealth, specializzata proprio in questi casi. Dopo aver letto il loro sito web, posso dedurre che naviHealth trovi modi per ridurre il tempo che gli anziani trascorrono nelle strutture di cura. Ci sono anche alcuni elementi legati alla gestione dei casi che possono offrire, come la consulenza con i pazienti prima che vengano mandati a casa. Una cosa che certamente affermano sul loro sito web è che possono offrire “significativi risparmi di costi” alle compagnie assicurative.

Ma il punto è che questo modello, “nH Predict”, sosteneva di poter stabilire la durata ottimale del soggiorno del paziente in una struttura di cura al di fuori della propria abitazione, presumibilmente per ottenere migliori risultati in termini di cure, mentre in realtà le soglie del modello erano impostate in modo tale che queste previsioni non fossero allineate agli esiti delle cure, ma piuttosto ai risparmi di costi.

Per dirla in altre parole: se permetti a un paziente di restare in ospedale o in una struttura di riabilitazione, ma è pronto ad andare a casa in anticipo e lo fa, allora è fantastico. Nessuno vuole stare in ospedale più a lungo del necessario (hai mai provato il cibo?). Questo è un risparmio di costi che potresti ottenere offrendo cure di alta qualità, la gestione dei casi descritta e altri servizi utili, mentre il paziente riceve le cure necessarie. Ma ciò che ha fatto UHC è stato rifiutare di pagare per far rimanere i pazienti in ospedale, quindi sono stati cacciati e mandati a casa che fossero pronti o meno.

Ciò che ha fatto UHC invece è stato risparmiare sui costi non offrendo questi servizi e preparando i pazienti per lasciare l’ospedale in anticipo, ma rifiutando di pagare per far restare i pazienti in ospedale, quindi sono stati cacciati e mandati a casa che fossero pronti o meno.

Come i modelli apprendono sulle cure

Voglio chiarire che questo non è stato “intelligenza artificiale fuori controllo”, ma esseri umani che prendono decisioni antietiche e utilizzano l’apprendimento automatico per sviare le responsabilità. Se vuoi cacciare gli anziani dall’ospedale, senza tener conto delle conseguenze sulla loro vita o sulla loro salute, allora puoi farlo se sei un’assicurazione negli Stati Uniti oggi. Non hai bisogno di un modello che ti dia il permesso. Ma penso che UHC abbia capito che se avessero avuto un modello che forniva queste raccomandazioni che i revisori umani avrebbero potuto solo apporre un timbro, allora sarebbero stati coperti, perché le persone presumono che i modelli abbiano una certa accuratezza indipendente. Dopotutto, il modello non sta guardando l’importo delle cure!

Ma ricorda che il modello è solo un tentativo di unire i pattern in un linguaggio matematico riproducibile e non controlla le informazioni che gli fornisci o la domanda che gli insegni a rispondere. Nel caso di creazione di un modello per prevedere il numero di giorni di degenza ospedaliera, ecco come procedere.

• Raccogli un ampio set di dati dei file dei pazienti passati in cui qualcuno è stato ferito o ammalato, è entrato in ospedale, ha avuto cure riabilitative da ricovero e ha avuto un esito (migliorati, dovuto tornare in ospedale o deceduti)
• Trasforma questi file in dati numerici. Pensali come righe di un foglio di calcolo, iniziando a raccogliere informazioni come l’età del paziente, la gravità dell’infortunio iniziale, dati sulla storia medica del paziente, se hanno altre malattie (diabete, malattie cardiache, demenza, ecc.). Questi diventeranno i dati di addestramento. È importante includere A. quanti giorni di riabilitazione il paziente ha avuto in ospedale e B. qual è stato l’esito.
• Ora devi formulare la domanda. Un modo per modellare l’addestramento in questo caso potrebbe essere: “Tra i pazienti con buoni esiti, tenendo conto di tutte le caratteristiche dei loro casi, quanti giorni di riabilitazione hanno avuto?” E poi potresti confrontarlo con “Tra i pazienti con esiti negativi, tenendo conto di tutte le caratteristiche dei loro casi, quanti giorni di riabilitazione hanno avuto?”. Questo è solo un modo ipotetico di formulazione, potrebbero essercene molti altri per porre la domanda e quindi unire i dati di addestramento.

Cosa otterrai alla fine per ogni paziente è una stima di quanti giorni di riabilitazione sarebbero appropriati per un buon risultato. Potresti ottenere un intervallo, o una probabilità di un buon esito basata su un numero di giorni, e se aumenti i giorni fino a un certo punto, aumenti la probabilità, e se superi un certo punto, inizia a diventare rischioso di nuovo.

Tieni presente che i giorni di riabilitazione non sono indipendenti da tutto il resto che sta accadendo: potresti avere infezioni, complicazioni o altre malattie in gioco che significano che è necessario un lungo soggiorno in ospedale, non per motivi felici (guarigione) ma per motivi sfortunati (malattie aggiuntive). Quindi stare troppo a lungo in ospedale è anche potenzialmente un male, ma a causa di una ragione non correlata ai giorni di permanenza. Pensate all’ordine temporale per capire dove potrebbe essere in gioco la causalità.

Utilizzo dei risultati del modello

Quindi abbiamo un modello e se gli forniamo le informazioni che abbiamo su un paziente, ci darà una stima di quanto lungo potrebbe essere il periodo di riabilitazione da ricovero se questa persona otterrà un buon esito. La domanda molto pertinente qui è cosa facciamo con queste informazioni!

Se siamo UHC, il nostro obiettivo è risparmiare denaro. Prendiamo la parte inferiore dell’estimazione, forse persino inferiore al range di raccomandazione del modello per un buon esito, e interrompiamo la nostra volontà di pagare per le cure in quel punto. Questo sembra essere quello che è successo sulla base delle segnalazioni.

Tuttavia, se i nostri obiettivi sono gli esiti del paziente, fermiamoci un attimo e riflettiamo. Pensiamo che i pazienti rimangano in ospedale o in riabilitazione da ricovero per molto tempo per motivi non medici? Pensiamo che i medici indirizzino i loro pazienti alla riabilitazione per motivi inappropriati? Quali potrebbero essere? Onestamente, faccio fatica a pensare a molti casi in cui questo avrebbe molto senso da parte di un medico. Come ho detto, chi vuole rimanere in ospedale dopo che la sua condizione è migliorata? Se succede, allora dovremmo cercare modi per cambiare il comportamento dei medici, ma non a spese della qualità delle cure delle persone. Forse i dirigenti dell’ospedale, che addebitano tariffe elevate per le cure da ricovero, vogliono che i pazienti rimangano più a lungo, ma i medici non hanno il loro stipendio legato alla durata del soggiorno del paziente. L’incentivo dei medici è far migliorare i pazienti.

Quello a cui sto arrivando è che se il nostro obiettivo è solo far migliorare i pazienti, non sono sicuro che abbia senso che questo modello sia coinvolto. Sicuramente, i soggiorni prolungati in riabilitazione non sono il pericolo più grande per la salute dei nostri pazienti in questo momento.

Questo articolo riguarda l’apprendimento automatico, che è ciò che la maggior parte dei miei lettori cerca qui, ma riguarda anche le questioni legate all’economia dell’assistenza sanitaria. Queste questioni sono importanti perché i sistemi sanitari ci riguardano tutti prima o poi. Penso anche che sia un buon esercizio per gli scienziati dei dati pensare a cosa significa veramente mettere un modello in produzione, non dal punto di vista del richiamo e della precisione, ma dal punto di vista di come le vite umane reali vengono influenzate. Sei responsabile di ciò per cui il tuo modello ottimizza. Prendi decisioni quando costruisci il modello che renderanno l’effetto di quel modello sulle persone e sulla società positivo o negativo, e non puoi semplicemente alzare le mani e dire “il modello l’ha fatto”.

Anche quando il tuo modello non prende decisioni sulla salute delle persone, ha comunque un certo impatto su di esse. (Se non lo fa, perché lo stai costruendo?) Incoraggio tutti i professionisti del settore a tenere tutto ciò presente mentre svolgiamo il nostro lavoro.

*Esempi delle tipologie di domande che la sociologia medica si occupa potrebbero essere:

• Come percepiscono se stessi e il loro ruolo nella società le persone con malattie croniche?
• Come sono diverse le vite e le identità delle persone quando sono operatori sanitari?
• Quali sono gli esiti a lungo termine per i gruppi minoritari o svantaggiati dal punto di vista della salute, e come e perché differiscono dai gruppi maggioritari?
• Come gli ambienti influenzano la salute delle persone, e come interagiscono con le strutture sociali e i privilegi?

Questi sono solo alcuni esempi: questa area della sociologia copre molta terra che è molto importante per la vita e il benessere delle persone.

Vedi altro del mio lavoro su www.stephaniekirmer.com.

Riferimenti

Il Comitato del Congresso, i Regolatori mettono in discussione il sistema Cigna che permette ai suoi medici di rifiutare rivendicazioni senza…

Le indagini seguono un’inchiesta di ProPublica e The Capitol Forum che afferma che Cigna consente ai suoi medici di respingere centinaia di…

www.propublica.org

UnitedHealth utilizza intelligenza artificiale difettosa per negare la copertura medica necessaria agli anziani, afferma una causa legale

Famiglie di ex beneficiari affermano che il sistema di intelligenza artificiale di UnitedHealth rifiuta “in modo aggressivo” le richieste per…

www.cbsnews.com

Home – naviHealth

Il futuro dell’assistenza centrata sugli anziani è qui

navihealth.com