The Content Search Results bitsandbytes

GPTQ o bitsandbytes quale metodo di quantizzazione utilizzare per LLM – Esempi con Llama 2

Poiché i modelli di linguaggio di grandi dimensioni (LLM) si sono ingranditi con sempre più parametri, sono state pro...

Un’introduzione semplice alla moltiplicazione di matrici a 8 bit per i transformers su larga scala utilizzando transformers, accelerate e bitsandbytes

Introduzione I modelli di linguaggio stanno diventando sempre più grandi. Al momento della stesura di questo articolo...

Rendendo LLMs ancora più accessibili con bitsandbytes, quantizzazione a 4 bit e QLoRA

LLM sono noti per essere grandi e eseguirli o addestrarli su hardware consumer è una grande sfida per gli utenti e l&...

2023, anno degli LLM aperti

Nel 2023 si è riscontrato un aumento del interesse pubblico nei confronti dei Large Language Models (LLM), e ora che ...

Migliora Llama 2 utilizzando QLoRA e distribuiscilo su Amazon SageMaker con AWS Inferentia2

In questo post, mettiamo in evidenza il perfezionamento di un modello Llama 2 utilizzando un metodo di Ottimizzazione...

Implementare LoRA da zero

LoRA, acronimo di Adattamento a basso rango o Adattatori a basso rango, offre un metodo efficiente e leggero per otti...

Benvenuti a Mixtral – una miscela all’avanguardia di esperti su Hugging Face

Mixtral 8x7b è un emozionante modello di linguaggio di grandi dimensioni rilasciato oggi da Mistral, che stabilisce u...

Come perfezionare i grandi modelli di lingua una guida passo-passo

Nel 2023, la crescita dei Grandi Modelli di Linguaggio (LLM) come Alpaca, Falcon, Llama 2 e GPT-4 indica una tendenza...

LangChain Cheatsheet – Tutti i segreti su una singola pagina

La pagina creata è il mio riassunto delle basi di LangChain. In questo articolo, attraverserò sezioni di codice e des...

Qual è il metodo di quantizzazione giusto per te? (GPTQ vs GGUF vs AWQ)

Nel corso dell'ultimo anno, abbiamo assistito al Far West dei Large Language Models (LLM). Il ritmo con cui sono stat...

Crea il tuo assistente Vision Chat con LLaVA

I grandi modelli linguistici si sono dimostrati una tecnologia rivoluzionaria. Numerose applicazioni che sfruttano le...

KOSMOS-2 Un grande modello linguistico multimodale di Microsoft

Introduzione Il 2023 è stato l’anno dell’IA, dai modelli linguistici ai modelli di diffusione stabili. Un...

Da GPT a Mistral-7B L’emozionante balzo in avanti nelle conversazioni dell’IA

Introduzione Il campo dell’intelligenza artificiale ha visto notevoli progressi negli ultimi anni, in particola...

Elaborazione del linguaggio visivo guidata dal dialogo con Amazon SageMaker JumpStart

Il trattamento del linguaggio visivo (VLP) è all'avanguardia dell'IA generativa, guidando i progressi nell'apprendime...

Copilota personale addestra il tuo assistente di codifica

Nel paesaggio in continua evoluzione della programmazione e dello sviluppo software, la ricerca di efficienza e produ...