Incontra BlindChat Un progetto open-source di intelligenza artificiale per lo sviluppo di un’IA conversazionale completamente in-browser e privata

Incontra BlindChat un progetto open-source di IA conversazionale in-browser e privata.

BlindChat, un’alternativa open-source e centrata sulla privacy a ChatGPT, è stata appena lanciata da MithrilSecurity. BlindChat è un’iniziativa open-source di intelligenza artificiale che mira a creare la prima IA conversazionale al mondo che funziona interamente all’interno di un browser web senza alcun accesso di terze parti. Le soluzioni di intelligenza artificiale comuni di oggi di solito includono la condivisione dei dati degli utenti con i fornitori di servizi di intelligenza artificiale in cambio dell’uso dei modelli di intelligenza artificiale. Gli utenti rischiano di subire il furto dei propri dati se permettono che ciò accada. Poiché i dati sono una risorsa preziosa per migliorare i LLMs, diversi approcci regolano implicitamente i dati degli utenti per addestrare meglio il modello. Gli utenti corrono il rischio che i LLMs memorizzino informazioni private in questo modo.

Eseguendo inferenze locali o utilizzando ambienti sicuri e isolati chiamati enclave sicuri, BlindChat garantisce che i dati degli utenti siano mantenuti privati in ogni momento e che gli utenti mantengano il completo controllo su di essi.

BlindChat ha due principali tipi di utenti in mente:

• Potenziamento del Recupero Contestuale dei Documenti Sfruttando GPT-2 e LlamaIndex
• HeyGen Review Il miglior generatore di video AI per le aziende?
• Grandi modelli di lingua RoBERTa – Un approccio ottimizzato in modo robusto a BERT

• Consumatori: Offrire nuove opzioni più sicure che danno priorità alla privacy dell’utente. La maggior parte dei consumatori oggi concede i propri dati ai servizi di intelligenza artificiale, ma spesso le impostazioni sulla privacy devono essere chiarite o non esistono.
• Il team di BlindChat ha lavorato intensamente per garantire la semplicità di configurazione e distribuzione della piattaforma a vantaggio degli sviluppatori, in modo che possano fornire più facilmente un’intelligenza artificiale conversazionale basata sulla privacy.

MithrilSecurity ha modificato il programma per consentire al browser di svolgere funzioni normalmente svolte dal server. Pertanto, il fornitore di servizi di intelligenza artificiale non è incluso nel modello di fiducia e la privacy è quindi protetta.

Un’intelligenza artificiale trasparente e sicura viene raggiunta spostando la funzionalità dal server al browser dell’utente. Ciò protegge le informazioni personali degli utenti finali e concede loro il controllo sui propri dati. Ad esempio, i transformers consentono di eseguire inferenze in modo locale, con il vantaggio aggiuntivo di avere le chat salvate nella cronologia del browser dell’utente. Di conseguenza, gli amministratori del servizio di intelligenza artificiale non possono vedere alcuna informazione dell’utente, da qui il nome del servizio, “BlindChat”.

Quando la modalità di enclave remota è attivata, i dati vengono trasmessi solo al server. Questa impostazione implementa il server all’interno di un contenitore verificato e sicuro chiamato enclave, che fornisce una difesa perimetrale completa e blocca l’accesso dal mondo esterno. Nessuno può accedere alle informazioni dell’utente, nemmeno gli amministratori del fornitore di intelligenza artificiale dell’enclave.

MithrilSecurity offre due diverse opzioni di privacy agli utenti:

• Il modello viene scaricato localmente nel browser dell’utente nella modalità on-device e l’inferenza viene gestita localmente.
• A causa delle limitazioni di larghezza di banda e potenza di elaborazione disponibili, questa modalità è più adatta per modelli meno complessi.

Nell’utilizzo di API di intelligenza artificiale a zero trust, le informazioni vengono trasmesse a un enclave, una posizione sicura in cui il modello è memorizzato, in modo che possa essere inferito in remoto. Queste impostazioni offrono una sicurezza completa tramite un’isolazione e una verifica solide. Nessun fornitore di servizi di intelligenza artificiale ha mai accesso non crittografato ai dati dei propri utenti.

Il progetto è composto da tre parti principali:

• Interfaccia utente: Il volto che l’utente vede quando interagisce con la chat. Ci sono una finestra di chat e, in futuro, ci saranno widget e plugin per cose come il caricamento di documenti e il controllo vocale.
• Gli sviluppatori hanno il completo controllo su quale LLM privato viene utilizzato per elaborare le richieste degli utenti. Le soluzioni attuali sono modelli locali o enclave remoti per fornire inferenze trasparenti e riservate.
• Il tipo di archiviazione utilizzato per conservare dati come i log delle chat e, in futuro, i RAG embeddings è configurabile dagli sviluppatori.

Attualmente, MithrilSecurity consente solo l’inferenza LaMini-Flan-T5. Una volta disponibile il modello 370M, intendono integrare Microsoft phi-1.5 per aumentare le prestazioni. L’integrazione di LlamaIndex-TS sul lato client è anche in fase di sviluppo, in modo che RAG possa essere utilizzato localmente nel browser per interrogare documenti sensibili.