Come Ridurre le Allucinazioni da LLM

Come Ridurre le Allucinazioni da LLM Consigli di Bellezza e Moda

LLM dell’allucinazione si riferisce al fenomeno in cui i grandi modelli di linguaggio come i chatbot o i sistemi di visione artificiale generano output senza senso o inaccurati che non si conformano a modelli o oggetti reali. Questi falsi output dell’IA derivano da vari fattori. L’adattamento eccessivo a dati di allenamento limitati o distorti è uno dei principali responsabili. L’alta complessità del modello contribuisce anche, consentendo all’IA di percepire correlazioni che non esistono.

Le principali aziende che sviluppano sistemi AI generativi stanno prendendo misure per affrontare il problema delle allucinazioni dell’IA, anche se alcuni esperti ritengono che eliminare completamente gli output falsi potrebbe non essere possibile.

Google ha collegato i suoi modelli a Internet per basare le risposte sui dati di allenamento e sulle informazioni web. OpenAI utilizza il feedback umano e l’apprendimento per rinforzo per perfezionare gli output di ChatGPT. Hanno proposto la “supervisione del processo”, ricompensando i modelli per i passaggi di ragionamento corretti anziché solo per le risposte finali. Questo potrebbe migliorare la spiegabilità, anche se alcuni dubitano della sua efficacia contro le falsificazioni.

Tuttavia, le aziende e gli utenti possono adottare misure per contrastare e limitare i potenziali danni causati dalle allucinazioni dell’IA. Sforzi in corso sono necessari per massimizzare la veridicità e l’utilità, riducendo al minimo i rischi. Ci sono approcci promettenti, ma mitigare le allucinazioni rimarrà una sfida attiva man mano che la tecnologia evolve.

• I leader globali avvertono che l’Intelligenza Artificiale potrebbe causare danni ‘catastrofici
• Ricercatori semplificano il passaggio per l’elettronica quantistica
• Rivoluzionare l’apprendimento automatico sfruttare l’elaborazione 3D negli acceleratori fototonici per un parallelismo avanzato e la compatibilità con l’elaborazione ai bordi

Metodi per ridurre le allucinazioni del LLM

1. Utilizzare dati di allenamento di alta qualità

Perché i modelli di IA generativa generano output basati sui loro dati di allenamento, utilizzare set di dati di alta qualità e rilevanti è vitale per ridurre le allucinazioni. I modelli addestrati su dati diversi, equilibrati e ben strutturati sono meglio in grado di comprendere compiti e produrre output imparziali e accurati.

I dati di allenamento di qualità permettono loro di apprendere pattern e correlazioni sfumate. Impediscono anche ai modelli di apprendere associazioni inaccurate.

2. Chiari gli utilizzi previsti

Definire chiaramente lo scopo specifico e gli utilizzi consentiti di un sistema di IA aiuta a evitarne i contenuti allucinati. Stabilire le responsabilità e i limiti del ruolo di un modello per indirizzarne il focus su risposte utili e rilevanti.

Quando sviluppatori e utenti specificano le applicazioni previste, l’IA ha un punto di riferimento per valutare se le sue generazioni si allineano alle aspettative. Ciò scoraggia lo spergiuro in speculazioni non correlate che mancano di basi nel loro addestramento. Obiettivi ben definiti offrono contesto affinché l’IA possa valutare autonomamente le sue risposte.

Articolare le funzioni e gli utilizzi desiderati in modo che i modelli generativi possano rimanere ancorati alla realtà pratica anziché creare contenuti allucinatori slegati dal loro scopo. Definire il “perché” per indirizzarli verso un valore veritiero.

3. Sfrutta i modelli di dati per guidare gli output dell’IA

Utilizza modelli di dati strutturati per limitare le allucinazioni dell’IA. I modelli forniscono un formato coerente per i dati che vengono inseriti nei modelli. Ciò favorisce l’allineamento con le linee guida per gli output desiderati. Con modelli predefiniti che guidano l’organizzazione e i contenuti dei dati, i modelli imparano a generare output che rispettano i pattern attesi. I formati plasmano il ragionamento del modello per rimanere ancorato a realtà strutturate anziché fabbricare contenuti fantasiosi.

La dipendenza da modelli di dati uniformi e ordinati riduce lo spazio per l’incertezza nelle interpretazioni del modello. Deve attenersi strettamente agli esempi inseritigli. Questa coerenza limita lo spazio per i meandri imprevedibili.

4. Limitare le risposte

Imposta vincoli e limiti sugli output potenziali del modello per ridurre le speculazioni incontrollate. Definisci soglie probabilistiche chiare e utilizza strumenti di filtraggio per vincolare le possibili risposte e mantenere le generazioni realistiche. Ciò favorisce la coerenza e l’accuratezza.

5. Testare e perfezionare continuamente il sistema

Un testing approfondito prima dell’implementazione e un monitoraggio continuo perfezionano le prestazioni nel tempo. Valutare gli output identifica aree da correggere, mentre nuovi dati possono essere utilizzati per riaddestrare i modelli e aggiornare le loro conoscenze. Questo perfezionamento continuo contrasta il ragionamento obsoleto o distorso.

6. Fidati della supervisione umana

Includi una supervisione umana per fornire una salvaguardia critica. Gli esperti umani, mentre revisionano gli output, possono individuare e correggere eventuali contenuti allucinati con giudizio contestuale, cosa che le macchine non possono fare. Unire le capacità dell’IA con la saggezza umana offre il meglio di entrambi i mondi.

7. Catena di pensiero

I grandi modelli di linguaggio (LLM) hanno una nota debolezza nella ragionamento a più passaggi, come la matematica, nonostante eccellano in compiti generativi come l’imitazione della prosa shakespeariana. Ricerche recenti mostrano che le prestazioni nei compiti di ragionamento migliorano quando i modelli sono stimolati con alcuni esempi che scompongono il problema in passaggi sequenziali, creando una catena di pensiero logica.

Semplicemente sollecitando il modello a “pensare passo dopo passo” si ottengono risultati simili senza esempi creati manualmente. Spingendo il LLM a ragionare metodicamente passo dopo passo, anziché creare testo libero, si aumenta la sua capacità di affrontare compiti che richiedono un’analisi strutturata. Ciò dimostra che l’ingegneria della sollecitazione può migliorare significativamente il modo in cui i LLM affrontano i problemi in modo logico, integrando la loro fluidità nella generazione del linguaggio. Un piccolo suggerimento verso un pensiero ordinato aiuta a compensare la loro tendenza a divagare in modo affascinante ma senza scopo.

8. Scomposizione dei compiti e agenti

Una recente ricerca esplora l’uso di più “agenti” di intelligenza artificiale per migliorare le prestazioni delle sollecitazioni complesse che richiedono un ragionamento a più passaggi. Questo approccio utilizza un agente router iniziale per scomporre la sollecitazione in sotto-compiti specifici. Ogni sotto-compito è gestito da un agente esperto dedicato, con tutti gli agenti che sono modelli di linguaggio (LLM) di grandi dimensioni.

L’agente router suddivide la sollecitazione generale in segmenti logici allineati alle capacità degli agenti esperti disponibili. Questi agenti possono riformulare i frammenti di sollecitazione che ricevono per sfruttare al meglio le loro competenze specializzate. Accodando insieme più LLM, ciascuno focalizzato su un tipo particolare di ragionamento, il sistema collettivo può risolvere sfide che vanno oltre le capacità di ciascun componente individuale.

Ad esempio, una domanda che chiede informazioni su una figura pubblica potrebbe essere instradata a un agente di ricerca, che recupera dati rilevanti per un agente di sintesi per condensarli in una risposta. Per una query sulla programmazione di una riunione, gli agenti del calendario e del meteo potrebbero fornire i dettagli necessari a un agente di sintesi.

Questo approccio mira a coordinare i punti di forza dei diversi LLM per migliorare il ragionamento passo dopo passo. Piuttosto che un singolo modello generalista, agenti specializzati affrontano i sotto-compiti per i quali sono più adatti. L’agente router consente all’orchestrazione modulare di gestire sollecitazioni complesse in modo strutturato.

Conclusione

Mitigare le allucinazioni richiede sforzi costanti, poiché alcune falsificazioni possono essere inevitabili nei LLM. Una formazione di alta qualità, casi d’uso chiari, modelli, test rigorosi e supervisione umana aiutano a massimizzare la veridicità. Sebbene i rischi persistano, lo sviluppo responsabile e la collaborazione possono alimentare i benefici dell’IA. Se i modelli generativi vengono guidati con attenzione e responsabilità, il loro enorme potenziale può essere utilizzato per il bene della società. Ci sono sfide, ma anche possibilità se guidiamo attentamente questi potenti strumenti.