ChatGPT è effettivamente intelligente?

È ChatGPT intelligente?

Forse no…

Se sei stato su qualsiasi piattaforma di social media negli ultimi mesi, sono sicuro che hai sentito parlare di ChatGPT, Google Bard, Microsoft Bing e una miriade di nuovi modelli di linguaggio. Alcuni possono sostenere che tutti questi nuovi modelli sono scrittori migliori di te e di me e il loro inglese è sicuramente molto migliore del mio 🥲 Ogni pochi anni, qualcuno inventa qualcosa di pazzesco che ti fa completamente ripensare a cosa sia possibile. E in questo articolo parleremo del tipo di invenzione che sta sconvolgendo tutti nel mondo – sì, hai indovinato – ChatGPT.

Immagine generata con Bing Image Creator. Rappresentazione artistica dell'intelligenza umana.

Man mano che ci affideremo sempre di più all’IA per fare cose per noi, per prendere decisioni al nostro posto, è naturale chiedersi se l’IA sia veramente intelligente nel senso che la sua comprensione del linguaggio riflette la nostra, o se sia fondamentalmente diversa?

Per capire tutto ciò, prima analizzeremo come funzionano il Generative-Pretrained Transformer (GPT) e ChatGPT, e poi discuteremo cosa significa che un’IA sia intelligente.

Comprendere il modello GPT

Il modello GPT, proposto inizialmente da OpenAI nel loro articolo Improving Language Understanding by Generative Pre-Training, utilizza un pre-training non supervisionato seguito da un fine-tuning supervisionato su vari compiti linguistici.

Fonte: language_understanding_paper.pdf

L’architettura del modello si basa su Transformers, che hanno dimostrato prestazioni robuste in compiti come la traduzione automatica e la generazione di documenti. Questa architettura del modello è stata introdotta per la prima volta nel paper “Attention is all you need” da ricercatori di Google. Essa fornisce una memoria organizzata per gestire le dipendenze a lungo termine nel testo rispetto alle reti neurali ricorrenti e alle reti neurali convoluzionali, portando a prestazioni migliori in una vasta gamma di compiti.

È un gioco di previsione

Puoi pensare al modello GPT come a una macchina brava a indovinare cosa viene dopo. Ad esempio, se gli dai la frase “Instead of turning right, she turns…”, GPT potrebbe prevedere “left” o “back” o qualcos’altro come prossima parola. Come ha imparato tutto questo? Allenando un modello su molto testo, impara come…