LlamaIndex Ultima Versione Dalle Basi alle Tecniche Avanzate in Python -(Parte-3)

LlamaIndex Ultima Versione Python -(Parte-3)

Questa è la terza parte di una serie di LlamaIndex. Dovresti leggere la parte 2.

Nella seconda parte di questa serie, abbiamo parlato di Document Store, Service Contexts, LLM Predictor e altro ancora. Se non hai avuto la possibilità di leggerla, ti preghiamo di dare un’occhiata.

LLM Predictor

LLMPredictor fa parte del modello di linguaggio per ottenere la risposta testuale (Completamento).

• Svelare il Codice del Contesto Tecniche di Vettorizzazione delle Parole in NLP
• All’interno di AVIS il nuovo sistema di ricerca delle informazioni visive di Google, LLM
• Metriche ROUGE Valutazione delle Sommari in Grandi Modelli di Linguaggio.

In basso puoi vedere che è stata impostata una classe chiamata LLMPredictor

list_index.service_context.llm_predictor

<llama_index.llm_predictor.base.LLMPredictor at 0x7f076a4e1db0>

La classe LLM di LlamaIndex fornisce un’interfaccia unificata per definire moduli LLM, che siano OpenAI, Hugging Face o LangChain.

・In origine, era un wrapper per la classe LLMChain di LangChain, ma è stato sviluppato come un modulo indipendente.

LLM – LlamaIndex 🦙 0.7.9

Scegliere il giusto Large Language Model (LLM) è uno dei primi passi da considerare quando si costruisce qualsiasi LLM…

gpt-index.readthedocs.io

Ci sono una lista di moduli di seguito, e oltre a OpenAI, è possibile utilizzare anche Anthropic, Hugging Face, Palm, ecc.

Moduli – LlamaIndex 🦙 0.7.9

OpenAI Agent + Query Engine Experimental Cookbook

gpt-index.readthedocs.io

Puoi controllare gli attributi di LLMPredictor di seguito.

list_index.service_context.llm_predictor.__dict__

{'_llm': OpenAI(model='text-davinci-003', temperature=0.0, max_tokens=None, additional_kwargs={}, max_retries=10), 'callback_manager': <llama_index.callbacks.base.CallbackManager at 0x1fdbee5b040>}

Come LLM, viene utilizzata la classe OpenAI, ed è questa che si occupa del processo principale.

type(list_index.service_context.llm_predictor.llm)

llama_index.llms.openai.OpenAI

Puoi controllare gli attributi della classe OpenAI di seguito.