Dovrebbero le macchine usare la GenAI per conversare tra loro in inglese?

Dovrebbero le macchine utilizzare il GenAI per comunicare tra di loro in inglese?

In molte occasioni durante la serie Star Trek: The Next Generation, il Ten. Com. Data, un androide, comunica con il computer della nave attraverso l’inglese parlato.

Gli sceneggiatori vogliono che noi, il pubblico, sentiamo la loro conversazione, ovviamente. Ma avrebbe senso che due sistemi basati sull’intelligenza artificiale interagiscano tra loro attraverso una conversazione in inglese (o qualsiasi altra lingua naturale, cioè ‘umana’)?

Ora che l’IA generativa ha preso il via, questa domanda non appartiene più al campo della fantascienza.

Abbiamo combattuto con le interazioni macchina-macchina (M2M) fin dagli albori dell’informatica distribuita. Insegnare alle nostre macchine di conversare in inglese potrebbe risolvere le sfide ancora complesse dell’applicazione e dell’integrazione dei dati?

• Dreamcraft3D Generazione 3D gerarchica con priorità di diffusione con bootstrap.
• Predire i touchdown nel football con il machine learning
• 6 Problemi degli LLMs che LangChain sta cercando di valutare

Cosa vogliamo da un’API?

Le interfacce di programmazione delle applicazioni (API) sono diventate l’approccio standard per la comunicazione M2M. Ogni volta che entrambe le estremità di un’interazione hanno un’idea chiara del contesto di tali interazioni, creare e utilizzare API è semplice.

In altre situazioni, l’ambiguità semantica, i requisiti poco chiari o in evoluzione, o le capacità mutevoli dei sistemi backend complicano le interazioni basate su API.

Negli anni si sono evolute molte tecnologie e protocolli per affrontare queste sfide. Uno degli ultimi, GraphQL, consente a qualsiasi richiesta di specificare le informazioni desiderate, spettando al fornitore il compito di soddisfare tali richieste.

GraphQL sta guadagnando gradualmente adozione, ma non sarebbe meglio e più rapido per il programma richiedente utilizzare GenAI per creare una richiesta in lingua inglese, aspettandosi che il fornitore delle informazioni utilizzi GenAI per interpretare la richiesta e rispondere di conseguenza?

Scambiare Precisione per Salienza

Il problema più evidente di questo approccio è la mancanza di precisione di GenAI. L’IA, in generale, è raramente precisa; in molti casi, ci si può aspettare un tasso di successo del 95% come massimo.

Sfruttare GenAI per le interazioni M2M sarebbe penalizzato da questa limitazione, oltre ad altre sfide nell’interpretare l’intento dell’interazione. Dopo tutto, l’inglese parlato non è mai preciso come, ad esempio, le interazioni RESTful o le query SQL.

Ciò di cui tali interazioni mancherebbero in precisione, tuttavia, sarebbero compensate dalla salienza.

La salienza è la predisposizione umana a focalizzarsi sulle informazioni più rilevanti o pertinenti per il compito in questione. Quando una query produce un’enormità di dati, gli esseri umani faticano a comprenderli – identificare quali dati sono importanti e quali no. In altre parole, gli approcci tradizionali di interrogazione dei dati non sono efficaci nella gestione della salienza.

Se l’applicazione di interrogazione utilizza GenAI, allora la salienza è incorporata nel suo modello di linguaggio esteso (LLM) sottostante. Per loro natura, i LLM cercano modelli linguistici che meglio corrispondono al compito in questione rispetto ad altri – e possono fornire risultati salienti anche quando la quantità di dati è elevata, o i dati sono ambigui o di qualità non perfetta.

Vantaggi delle Interazioni M2M Basate su GenAI

Oltre a una migliorata salienza, ci sono diversi altri potenziali benefici nell’implementare l’integrazione M2M con GenAI:

Le richieste sono più propense a rispondere all’intento dell’utente. Con le query tradizionali, i sistemi in questione eseguono semplicemente ciò che viene loro detto. Se una determinata query rispecchia o meno l’intento dell’utente non è rilevante per l’interazione.

GenAI, al contrario, allinea il suo comportamento alle indicazioni fornite in lingua inglese dagli utenti. I risultati sono più propensi a rispecchiare l’intento originale di tali indicazioni.

I pregiudizi impliciti hanno maggiori probabilità di cancellarsi l’un l’altro. Poiché le interazioni M2M basate su GenAI coinvolgono due AI separate (richiedente e fornitore), ogni pregiudizio nel set di dati che alimenta una delle due AI può annullarsi (o almeno mitigare) il pregiudizio dell’altra.

Ad esempio, se i dati di origine includono informazioni di assunzioni parziali (in favore di uomini bianchi, ad esempio), ma la query richiede curriculum con equilibrio di etnia e genere, allora il risultato finale avrà meno probabilità di mantenere il pregiudizio originale rispetto a una query tradizionale.

Le interazioni sono leggibili dall’essere umano e quindi spiegabili. Finché gli utenti sono soddisfatti dei risultati, non gli interesseranno i dati all’interno delle interazioni M2M. Se i risultati sono scadenti o se c’è una ragione per esaminare tali interazioni (come parte di un’auditoria, ad esempio), il fatto che le interazioni M2M siano in inglese aiuterà a risolvere i problemi e fornirà un percorso di audit comprensibile a chiunque.

I joins saranno più intuitivi e precisi. La combinazione di dati da più fonti è forse la parte più difficile dell’integrazione dei dati, specialmente quando le fonti di dati hanno differenze semantiche.

GenAI può ovviare a tali differenze e costruire query che si allineano meglio con l’intento umano basato sui suggerimenti in lingua inglese che esprimono tale intenzione.

Le interazioni conversazionali sono più semplici. In molti casi, una singola query non è sufficiente. Le interazioni desiderate richiedono più di uno scambio tra i punti finali, in cui una query successiva dipende dai risultati di quelle precedenti.

Con GenAI, tali interazioni sono semplicemente conversazioni: due IA che generano risposte l’una all’altra a turno. Tali conversazioni hanno maggiori probabilità di scoprire le informazioni richieste e potrebbero farlo anche più velocemente rispetto alle tradizionali interazioni M2M.

Miglior supporto per gli agenti autonomi. Nelle tipiche interazioni M2M, nulla accade fino a quando un essere umano intraprende un’azione che genera una query. Gli agenti autonomi, ossia programmi software che agiscono di propria iniziativa senza una richiesta precedente da parte di un essere umano, esulano dal campo di applicazione di tali interazioni M2M.

Con GenAI, invece, c’è una gamma di possibilità tra una IA che risponde a una query umana e una IA che agisce autonomamente. Anche nello scenario autonomo, è comunque un essere umano a dare l’avvio. Man mano che l’IA diventa più sofisticata (e man mano che la nostra fiducia in essa cresce), sarà più probabile che agisca autonomamente in più circostanze.

Tuttavia, teniamo presente che in nessuno di questi scenari ci aspettiamo che l’IA sia perfetta, soprattutto ora che la tecnologia è ancora in fase di maturazione. GenAI produrrà risultati validi? Prenderà azioni in accordo con l’intento umano? Forse sì, forse no.

The Intellyx Take

Se hai seguito i miei articoli su GenAI, in particolare quello in cui lo definisco “bullsh!t”, saprai che sono scettico. Questo articolo, tuttavia, esplora le potenziali capacità della tecnologia che vanno oltre la maggior parte delle discussioni attuali. Cosa succede?

La risposta è che le interazioni M2M evitano in gran parte il problema “bullsh!t” che GenAI affronta quando gli esseri umani interagiscono con essa.

Dato il bisogno umano di dare un senso alle cose, quando le persone interagiscono con GenAI, attribuiscono a essa empatia, intelligenza e altre caratteristiche umane che semplicemente non possiede.

Con le interazioni M2M, al contrario, non ci interessa di quelle caratteristiche. Ciò che ci interessa è quanto bene l’IA rappresenta l’intento dell’utente e quanto bene fornisce risposte valide.

In altre parole, le interazioni M2M potrebbero essere un caso d’uso migliore per GenAI rispetto alla stesura di curriculum vitae, alla terapia e a tutte le altre applicazioni “bullsh!t” di cui le persone pensano che sia utile.