Donny White, CEO & Co-Fondatore di Satisfi Labs – Serie di interviste

Donny White, CEO & Co-Fondatore di Satisfi Labs – Serie di Interviste Imperdibili

Fondata nel 2016, Satisfi Labs è un’azienda leader nel campo dell’IA conversazionale. Il successo iniziale è arrivato grazie al lavoro svolto con i New York Mets, Macy’s e gli US Open, facilitando l’accesso alle informazioni spesso non disponibili sui siti web.

Donny ha trascorso 15 anni presso Bloomberg prima di entrare nel mondo delle start-up ed è in possesso di un MBA dalla Cornell University e di una laurea triennale dal Baruch College. Sotto la guida di Donny, Satisfi Labs ha registrato una significativa crescita nei settori dello sport, dell’intrattenimento e del turismo, ricevendo investimenti da parte di Google, MLB e Red Light Management.

Eri a Bloomberg da 14 anni quando hai avvertito per la prima volta l’impulso imprenditoriale. Perché all’improvviso l’essere imprenditore è diventato una priorità per te?

Durante il mio terzo anno di college, ho presentato domanda per un posto come receptionist presso Bloomberg. Una volta entrato, ho detto ai miei colleghi che se fossero stati disposti ad insegnarmi, io avrei imparato velocemente. Al mio quarto anno, ero un dipendente a tempo pieno e avevo spostato tutti i miei corsi alle lezioni serali così da poter fare entrambe le cose. Invece di partecipare alla mia laurea all’età di 21 anni, ho trascorso quel tempo gestendo la mia prima squadra. Da quel momento in poi, ho avuto la fortuna di lavorare in una meritocrazia e di essere promosso più volte. A 25 anni, stavo gestendo il mio dipartimento. Da lì, sono passato alla gestione regionale e poi allo sviluppo di prodotti, fino a quando, alla fine, ho assunto la responsabilità delle vendite in tutte le Americhe. Nel 2013, ho iniziato a chiedermi se potevo fare qualcosa di più importante. Ho fatto alcuni colloqui presso giovani aziende del settore tecnologico e un fondatore mi ha detto: “Non sappiamo se sei bravo tu o se è bravo Bloomberg”. Fu allora che capii che qualcosa doveva cambiare e sei mesi dopo diventai il Vicepresidente delle vendite della mia prima start-up, Datahug. Poco dopo, fui reclutato da un gruppo di investitori che voleva mettere in discussione Yelp. Mentre Yelp è ancora buono e in forma, nel 2016 ci siamo allineati su una nuova visione e ho cofondato Satisfi Labs con gli stessi investitori.

• Come l’IA consente ai team di vendita integrati di chiudere affari più velocemente e con maggiore produttività
• Mappe Python Folium Insanamente Veloci Senza Codice Con L’utilizzo Astuto di GPT-4
• Panoramica esecutiva dei modelli di Random Forest

Puoi condividere la storia alla base della nascita di Satisfi Labs?

Ero in una partita di baseball allo stadio Citi Field con Randy, attuale CTO e co-fondatore di Satisfi, quando ho sentito parlare di una delle loro specialità, il bacon su bastoncino. Abbiamo girato per il concourse e abbiamo chiesto al personale, ma non siamo riusciti a trovarlo da nessuna parte. Si scopre che era nascosto in un angolo dello stadio, il che ha portato alla consapevolezza che sarebbe stato molto più comodo chiedere direttamente alla squadra tramite chat. Da qui è nata la nostra prima idea. Randy e io proveniamo entrambi dal settore della finanza e del trading algoritmico, il che ci ha portato a prendere il concetto di abbinare richieste e risposte per costruire il nostro NLP per richieste iper-specifiche che potrebbero essere fatte nei luoghi. L’idea originale era di creare bot individuali che sarebbero stati esperti in un particolare campo di conoscenza, soprattutto conoscenze che non sono facilmente accessibili su un sito web. Da lì, il nostro sistema avrebbe un “conducente” che avrebbe potuto richiamare ogni bot quando necessario. Questa è l’architettura originale del sistema che viene ancora utilizzata oggi.

Satisfi Labs ha progettato il proprio motore di NLP ed era in procinto di pubblicare un comunicato stampa quando OpenAI ha sconvolto la vostra tecnologia con il rilascio di ChatGPT. Puoi parlare di questo periodo e di come Satisfi Labs è stata costretta a cambiare la sua strategia di business?

Abbiamo programmato un comunicato stampa per annunciare il nostro aggiornamento brevettato del NLP basato sul contesto per il 6 dicembre 2022. Il 30 novembre 2022, OpenAI ha annunciato ChatGPT. L’annuncio di ChatGPT ha cambiato non solo la nostra roadmap, ma anche il mondo. Inizialmente, come tutti gli altri, stavamo cercando di capire la potenza e i limiti di ChatGPT e capire cosa significasse per noi. Abbiamo presto capito che il nostro sistema NLP contestuale non era in competizione con ChatGPT, ma poteva effettivamente migliorare l’esperienza di LLM. Ciò ha portato a una rapida decisione di diventare partner enterprise di OpenAI. Dato che il nostro sistema era iniziato con l’idea di comprendere e rispondere alle domande a un livello dettagliato, siamo stati in grado di combinare l’architettura del “conducente del bot” e sette anni di dati di intento per aggiornare il sistema incorporando LLM.

Satisfi Labs ha recentemente lanciato un brevetto per un sistema di risposta al contesto LLM, in cosa consiste esattamente?

Questo luglio, abbiamo presentato il nostro sistema di risposta al contesto LLM brevettato. Il nuovo sistema combina la potenza del nostro sistema di risposta contestuale brevettato con le capacità dei grandi modelli linguistici per rafforzare l’intero sistema di Answer Engine. La nuova tecnologia di contesto LLM integra le capacità dei grandi modelli linguistici in tutta la piattaforma, migliorando il routing degli intenti, la generazione delle risposte e l’indicizzazione degli intenti, che ne guidano anche le capacità di reporting uniche. La piattaforma porta l’IA conversazionale oltre alla tradizionale chatbot, sfruttando la potenza dei modelli linguistici come il GPT-4. La nostra piattaforma consente ai marchi di rispondere sia con risposte AI generative che con risposte predefinite, a seconda della necessità di controllo nella risposta.

Puoi discutere dell’attuale disconnessione tra la maggior parte dei siti web aziendali e le piattaforme LLM nel fornire risposte in linea con il marchio?

ChatGPT è addestrato per comprendere una vasta gamma di informazioni e quindi non ha il livello di addestramento dettagliato necessario per rispondere a domande specifiche del settore con il livello di specificità che la maggior parte dei marchi si aspetta. Inoltre, l’accuratezza delle risposte fornite dalle LLM è buona solo quanto i dati forniti. Quando si utilizza ChatGPT, vengono utilizzati dati provenienti da diverse fonti su Internet, che possono essere inaccurati. ChatGPT non dà prioritá ai dati di un marchio rispetto ad altri dati. Abbiamo servito diverse industrie negli ultimi sette anni, acquisendo preziose informazioni dalle milioni di domande poste dai clienti ogni giorno. Ciò ci ha permesso di capire come accordare il sistema con un maggiore contesto per ogni settore e fornire capacità di reporting intenzionale robuste e dettagliate, che sono cruciali dato l’aumento di grandi modelli linguistici. Sebbene le LLM siano efficaci nel comprendere l’intento e generare risposte, non possono fornire report sulle domande poste. Utilizzando anni di dati sull’intento, abbiamo creato in modo efficiente un reporting standardizzato attraverso il nostro Intent Indexing System.

Qual è il ruolo dei linguisti nel migliorare le capacità delle tecnologie LLM?

Con questa nuova tecnologia è emerso il ruolo dell’ingegnere di prompt, che richiede una persona in grado di progettare e perfezionare prompt in grado di ottenere una risposta specifica dall’IA. I linguisti hanno una grande comprensione della struttura del linguaggio, come la sintassi e la semantica, tra le altre cose. Uno dei nostri ingegneri di IA di maggior successo ha una formazione in linguistica, il che le permette di essere molto efficace nel trovare nuovi e sfumati modi per stimolare l’IA. Piccoli cambiamenti nel prompt possono avere effetti significativi sulla precisione ed efficienza della risposta generata, il che fa la differenza quando si affrontano milioni di domande da parte di diversi clienti.

Come viene gestito il processo di addestramento sul backend?

Abbiamo un nostro modello di dati proprietario che utilizziamo per tenere sotto controllo le LLM. Ciò ci permette di costruire le nostre stesse protezioni per mantenere le LLM sotto controllo, piuttosto che doverle cercare altrove. In secondo luogo, possiamo sfruttare strumenti e funzioni utilizzate da altre piattaforme, il che ci consente di supportarle sulle nostre piattaforme.

L’addestramento con la messa a punto dei dati e l’utilizzo del Reinforcement Learning (RL) nella nostra piattaforma possono contribuire a mitigare il rischio di informazioni errate. La messa a punto, diversamente dalla ricerca nella base di conoscenza per aggiungere fatti specifici, crea una nuova versione della LLM addestrata su questa conoscenza aggiuntiva. Al contrario, l’RL addestra un agente con un feedback umano e impara una strategia su come rispondere alle domande. Ciò si è dimostrato efficace nella creazione di modelli a impronta ridotta che diventano esperti in compiti specifici.

Puoi descrivere il processo per l’ingresso di un nuovo cliente e l’integrazione delle soluzioni di IA conversazionale?

Dato che ci concentriamo su destinazioni ed esperienze come lo sport, l’intrattenimento e il turismo, i nuovi clienti traggono vantaggio da quelli già presenti nella comunità, il che rende l’onboarding molto semplice. I nuovi clienti individuano dove si trovano le loro fonti di dati più recenti, come un sito web, un manuale per dipendenti, blog, ecc. Noi acquisiamo i dati e addestriamo il sistema in tempo reale. Dal momento che lavoriamo con centinaia di clienti nello stesso settore, il nostro team può fornire rapidamente consigli su quali risposte sono più adatte per risposte predefinite rispetto a risposte generate. Inoltre, creiamo flussi guidati, come il nostro dinamico Food & Beverage Finder, in modo che i clienti non debbano mai affrontare la creazione di un chatbot.

Satisfi Labs sta attualmente lavorando a stretto contatto con squadre sportive e aziende, quale è la tua visione per il futuro dell’azienda?

Vediamo un futuro in cui sempre più marchi vorranno controllare più aspetti della loro esperienza di chat. Ciò comporterà un maggior bisogno che il nostro sistema offra un accesso a livello di sviluppatore. Non ha senso che i marchi assumano sviluppatori per creare i propri sistemi di IA conversazionale, poiché l’esperienza richiesta sarà rara ed costosa. Tuttavia, con il nostro sistema che alimenta il backend, i loro sviluppatori possono concentrarsi maggiormente sull’esperienza e il percorso del cliente, avendo un maggiore controllo sui prompt, collegando dati proprietari per consentire una maggiore personalizzazione e gestendo l’interfaccia di chat per esigenze specifiche degli utenti. Satisfi Labs sarà la spina dorsale tecnica delle esperienze conversazionali dei marchi.

Grazie per l’ottima intervista, i lettori che desiderano saperne di più possono visitare Satisfi Labs.