Primo LLM Nativo Sviluppato appositamente per l’Industria delle Telecomunicazioni

Primo LLM Nativo per il Settore delle Telecomunicazioni Sviluppato su Misura

Kinetica è stata fondata nel 2016 mentre stava sviluppando un’iniziativa innovativa per l’Esercito per tracciare ed analizzare le minacce alla sicurezza nazionale e offrire analisi in tempo reale.

Oggi, sono pionieri nell’analisi spaziale e temporale alimentata da GPU. Kinetica ha appena presentato SQL-GPT per Telecom – la prima soluzione di modelli di linguaggio di grandi dimensioni dedicata al settore delle telecomunicazioni. Questa innovazione mira ad abilitare i professionisti delle telecomunicazioni permettendo conversazioni in linguaggio naturale con dati in tempo reale per ottenere intuizioni azionabili.

Come ha spiegato Chad Meley, CMO di Kinetica, “Abbiamo creato un interfaccia utente naturale basata sul linguaggio naturale per SQL. Questo permette a chiunque nell’organizzazione di sfruttare i tipi di combinazioni temporali e spaziali che farebbe un’organizzazione delle telecomunicazioni.” La traduzione di domande in inglese semplice in SQL ad alte prestazioni adattata a set di dati e casi d’uso comuni delle telecomunicazioni elimina la necessità di competenze specializzate di scienze dei dati.

Ad esempio, un tecnico di campo potrebbe semplicemente chiedere al sistema di “mostrare i dispositivi che richiedono attenzione immediata” e ottenere immediatamente un elenco priorizzato di problemi da risolvere.

• Ricevi le Notizie di Domani, Oggi NewsGPT Introduce Nuova Intelligenza Artificiale per la ‘Previsione delle Notizie
• La Guida Definitiva alle Visualizzazioni di Power BI
• Il nuovo rivale di ChatGPT Gemini di Google

Superare i Riallacci Analitici per Intuizioni più Rapide

Un beneficio chiave è democratizzare l’accesso a intuizioni rapide che guidano le decisioni. Come ha spiegato Meley, “Le risorse scarse sono un limite per le aziende nel trarre valore dai loro dati. La maggior parte delle aziende sta solo grattando la superficie. Pertanto, dare alle persone la possibilità di fare una domanda semplice e ottenere una risposta è liberatorio. Domande che non sembrano necessariamente complesse possono richiedere codice lungo per essere risposte. Stiamo consentendo alle aziende di conoscere le risposte a domande che in precedenza sarebbero rimaste senza risposta.”

Philip Darringer, VP del prodotto per Kinetica, ha fornito un esempio di un cliente che mostra la trasformazione del tempo dall’insight. Per l’analisi della rete geospaziale complessa, la loro soluzione ha fornito risultati in 30-45 minuti rispetto a mesi o addirittura anni con piattaforme tradizionali. Questa grande accelerazione permette alle aziende di telecomunicazioni di analizzare e agire sulle emergenti problematiche di rete in quasi tempo reale prima che i clienti vengano influenzati.

Taratura per i Dati e il Gergo dell’Industria Telco

Quindi, come fa SQL-GPT a raggiungere questo obiettivo? Darringer spiega: “Ci sono un paio di livelli partendo da un modello fondamentale. Il primo passo è istruirlo sulla sintassi specifica di Kinetica e sulle funzioni che forniamo.” Questo insegna alle AI core le funzionalità di Kinetica.

“Il passo successivo è poi aggiungere queste capacità relative al gergo e alla conoscenza specifica degli insiemi di dati rilevanti per le telecomunicazioni.” L’addestramento del modello sulla terminologia dell’industria e gli schemi di dati comuni delle telecomunicazioni costruisce la conoscenza necessaria per avere un dialogo naturale adattato alle domande del mondo reale che i professionisti delle telecomunicazioni devono rispondere quotidianamente.

Create per Velocità e Scalabilità

La velocità di elaborazione e la scalabilità sono fondamentali quando si gestiscono le enormi quantità di dati generate dalle reti, dai dispositivi e dai sensori delle telecomunicazioni. Come chiarisce Darringer: “Poiché le aziende di telecomunicazioni sono molto sensibili ai loro dati, il modello sarà implementato nel loro ambiente, che sia nel loro data center o all’interno del loro cloud, VPC all’interno del loro stesso ambiente all’interno dei cloud pubblici.”

Questo garantisce la privacy dei dati sfruttando l’architettura accelerata da GPU di Kinetica, come evidenzia Meley: “Eseguiamo su GPU NVIDIA per l’inferenza per generare effettivamente l’SQL. Questo scalerà linearmente con il numero di richieste e con la frequenza con cui vengono utilizzate per generare queste query.”

La distribuzione personalizzata in loco mitiga anche i problemi di riservatezza dei dati delle telecomunicazioni con grandi modelli di linguaggio pubblici. Mantenendo il modello regolato all’interno di ciascun ambiente delle telecomunicazioni, i dati rimangono completamente privati. Come riassume Meley, i clienti hanno espresso che “non vogliono fornire alcun dato, nemmeno i metadati, e lasciarlo esposto in una API pubblica.”

SQL-GPT per Telecom unisce la semplicità del linguaggio naturale e le prestazioni in tempo reale su larga scala garantendo la sicurezza degli asset altamente sensibili delle telecomunicazioni. Ciò permette un’analisi più rapida dei dati da parte di un numero maggiore di persone nell’organizzazione e una risposta al servizio che massimizza la qualità della rete e la soddisfazione del cliente.