Adattare le strategie API alla tendenza dinamica dell’intelligenza artificiale

Adattare le strategie delle API alla dinamica tendenza dell'intelligenza artificiale

Nell’odierno panorama tecnologico in continua evoluzione, l’Intelligenza Artificiale (AI) sta attirando molta attenzione. Ovunque si guardi sui social media, ci sono nuove start-up di AI, strumenti di ingegneria rapida e soluzioni di Large Language Model (LLM). E non sorprende, perché l’AI sembra quasi magia! Ad esempio, ChatGPT ha davvero entusiasmato tutti. Ha raggiunto 100 milioni di utenti in appena due mesi dopo essere diventato disponibile al pubblico, diventando super popolare, super veloce.

Ora, tutti si chiedono: cosa significa questa onda di AI per me, il mio lavoro e i miei prodotti? In particolare, come influisce su coloro che si trovano all’avanguardia nella costruzione di prodotti digitali e applicazioni utilizzando le API? Questo articolo esplora cosa significa la tendenza dell’AI per coloro di noi che creano strumenti digitali utilizzando le API.

Le API rendono l’AI accessibile a tutti

Le grandi aziende sono state rapide nello stabilire laboratori di ricerca dedicati all’AI, reclutando data scientist per creare modelli di AI. Ma cosa succede alle entità più piccole che non dispongono delle immense risorse di elaborazione e delle GPU di un laboratorio di ricerca sull’AI? Devono solo osservare mentre le aziende più grandi capitalizzano la rivoluzione dell’AI? La risposta è no. Per molte applicazioni di AI, in particolare quelle incentrate sul linguaggio naturale, non c’è bisogno di un laboratorio di ricerca sull’AI speciale. Invece, possono essere utilizzati modelli di AI pubblici esistenti, come i LLM. Ciò significa che gli sviluppatori non devono essere esperti di AI; devono solo essere competenti con le API. Attraverso l’elaborazione delle richieste, il raffinamento e gli embedding, questi modelli possono essere personalizzati per soddisfare requisiti specifici.

La parola magica qui sono le “API”. Le API racchiudono le complessità dei loro contenuti, rendendo i modelli di AI accessibili a tutti gli sviluppatori, indipendentemente dalla loro esperienza nell’ambito dell’AI. Questa separazione delle responsabilità assicura che, mentre pochi data scientist creano modelli di AI e li imballano come API, un ampio numero di sviluppatori possa integrare questi modelli nelle proprie applicazioni, creando soluzioni “intelligenti” competenti nell’elaborazione del linguaggio naturale. Il risultato è che le API livellano il campo di gioco, consentendo l’accesso a potenti modelli di AI per sviluppatori di aziende di qualsiasi dimensione.

• Oltre alla previsione Il delicato equilibrio tra servire i clienti e far crescere la tua azienda
• Migliorare l’accuratezza del punteggio di sentiment con FinBERT e abbracciare i principi SOLID
• Crea un’applicazione di riassunto dei documenti HCLS con Falcon utilizzando Amazon SageMaker JumpStart

Modelli di AI e API per applicazioni moderne

Le API sono fondamentali per collegare il tuo prodotto a tutto il resto. Sono ottime per connettere diversi componenti software. Quando parliamo di AI, questa connessione è ancora più cruciale perché l’AI deve funzionare con diverse fonti di dati e strumenti per essere utile. Le applicazioni moderne sfruttano costantemente sia l’AI che le API. Mentre l’AI conferisce “intelligenza” alle applicazioni, consentendo loro di comprendere il linguaggio e l’intento umano, le API facilitano l’accesso ai dati e le connessioni di sistema. Queste tecnologie non sono solo entità parallele, e il loro uso combinato può essere sinergico. Ci sono tre modelli principali per la loro integrazione:

Modello 1: Chiamare i servizi di AI tramite API

I modelli di AI, come OpenAI ChatGPT, sono spesso confezionati come API. Attraverso queste API, gli sviluppatori possono attivare l’AI, inviando prompt come input che consentono agli sviluppatori di integrare l’AI nelle proprie applicazioni in modo trasparente. Un’architettura comunemente utilizzata per la costruzione di una nuova app di AI utilizza anche due punti di ingresso delle API di OpenAI, come Vector Embeddings e Chat Completion, come si può vedere nel diagramma qui sotto:

Questo metodo crea prima i vector embeddings tramite l’API di OpenAI per ogni documento di input (testo, immagine, CSV, PDF o altri tipi di dati strutturati/non strutturati), quindi indicizza gli embeddings generati per un recupero rapido e li salva in uno storage come basi di dati vettoriali per un recupero rapido, e questi documenti vengono presentati a ChatGPT insieme a una domanda dell’utente come prompt. Con questa conoscenza personalizzata aggiunta, ChatGPT può rispondere in modo intelligente alle domande dell’utente.

Modello 2: I servizi di AI richiamano le API

Il risultato di un modello di AI in risposta a un prompt è tipicamente testuale. Per tradurre queste “idee” in risultati concreti, i servizi di AI devono richiamare le API. Queste API possono iniziare azioni nel mondo reale o digitale, come effettuare pagamenti, prenotare un appuntamento, inviare messaggi o regolare le temperature delle stanze. In sostanza, le API agiscono come le mani di un servizio di AI, consentendogli di interagire con l’ambiente circostante. Un buon esempio di ciò sono i plugin personalizzati di ChatGPT. Questo articolo spiega come creare un plugin personalizzato per API Gateway utilizzando APISIX. Poiché APISIX può trovarsi all’avanguardia delle API per instradare le richieste di AI ai servizi di API backend desiderati. Possiamo implementare misure di sicurezza come l’autenticazione, l’autorizzazione e il limitamento del tasso o la memorizzazione nella cache di risposte simili dalle API, e ci consente di raccogliere informazioni preziose sull’utilizzo, sulle prestazioni e sui potenziali problemi delle API.

Modello 3: l’AI collega le API

Anni fa, per far comunicare due sistemi software o API, l’unica opzione era la codifica manuale. Gli ingegneri del software creavano sequenze di codice complesse e fragili. Questo compito era esclusivamente per gli sviluppatori, e ogni modifica significava più codifica, portando a una rete intricata di codici interconnessi.

Con l’avvento dell’AI generativa, interagire con una piattaforma di integrazione come servizio (iPaaS) potrebbe essere semplice come fare una richiesta in una chat. Se desideri che i dati di una piattaforma si sincronizzino con un’altra, non hai bisogno di capire le tecniche. Devi solo specificare le tue esigenze. Ad esempio, potresti dire: “Sincronizza i punteggi dei clienti potenziali da Marketo a Salesforce” o chiedere all’AI di spostare i dati da un’API a un’altra. L’IA si occuperà quindi del processo, testerà la compatibilità e risolverà autonomamente eventuali problemi. Le API utilizzate nelle tue integrazioni cambiano sempre, e ciò può causare problemi. L’IA può monitorare la salute delle tue integrazioni dati e continuare a correggere gli errori o inviare semplicemente notifiche di avviso in linguaggio naturale se una voce in una richiesta o risposta API richiede attenzione.

Safeguarding per l’Utilizzo delle API

Con la capacità dell’IA di richiamare API che avviano azioni nel mondo reale o digitale, è fondamentale implementare salvaguardie. Queste salvaguardie, idealmente implementate a livello di sistema di gestione delle API, sono necessarie per garantire l’utilizzo responsabile e sicuro dell’IA. Questo articolo esplora come il Gateway delle API possa essere benefico per gli sviluppatori di plugin di ChatGPT per esporre, proteggere, gestire e monitorare i loro endpoint API.

In conclusione

Le API forniscono i perfetti mattoni per lo sviluppo software basato sull’IA. La combinazione di API e tecnologie di intelligenza artificiale è fondamentale per lo sviluppo di applicazioni potenti. I tre pattern identificati – applicazioni che integrano funzionalità di IA tramite API e servizi di IA che invocano API per le azioni – offrono una roadmap per sfruttare l’IA nello sviluppo delle applicazioni. A mano a mano che il panorama dell’IA continua a evolversi, l’attenzione alle API e alle strategie per la sua integrazione diventerà ancora più importante.