Come 25.000 computer hanno addestrato ChatGPT
25.000 computer addestrano ChatGPT
La svolta dietro a ChatGPT
Qual è la parola che segue Good?
Potresti pensare a Good Morning, o Good Bye. Ma sicuramente non diresti Good Loud. Non ha senso. Da decenni, gli informatici stanno addestrando l’IA per risolvere questo preciso problema.
Dato una parola, la nostra IA predice la parola successiva. Fai questo diverse volte, e hai generato una frase.
Ecco come funziona ChatGPT.
Addestrato sull’intero internet, ChatGPT ha imparato a chattare come un essere umano. Tuttavia, questa grande impresa è stata resa possibile solo grazie a una svolta avvenuta alla fine degli anni 2010. Una svolta che sta alla base di ChatGPT e che ha plasmato per sempre il mondo in cui viviamo.
Questa è la storia di un’IA che ha letto e imparato da ogni libro, tweet e sito web in tutto l’internet. E di come ciò sia stato reso possibile.
- Principi fondamentali dell’Ingegneria delle indicazioni nell’AI generativa
- Rivoluzionare l’interazione uomo-macchina l’emergere dell’Ingegneria dei Prompt
- Router Langchain Come creare assistenza alla codifica utilizzando Langchain
Le frasi sono lunghe.
Quando andiamo oltre una singola parola, la previsione della parola successiva diventa molto più difficile. Prendiamo questo esempio.
In questo contesto, non ha senso dire I ate a good Morning. Ma la nostra IA guarda solo good e restituisce morning. Nella maggior parte dei casi, anche gli esseri umani hanno bisogno di molte parole per prevedere la parola successiva. Quindi un’IA ha bisogno di queste informazioni aggiuntive.
La nostra IA ha bisogno di leggere molte parole per prevedere la parola successiva. ChatGPT può leggere più di 8000 parole precedenti in una volta. Il modo naturale per farlo sarebbe di alimentare ogni parola nell’IA, una per una.
Così funzionavano le IA in passato. Una Rete Neurale Ricorrente (RNN) prendeva una parola alla volta…
