Definire l’Intelligenza Artificiale Generale

Definizione dell'Intelligenza Artificiale Generale

Come si sa quando un sistema ha raggiunto AGI?

La scorsa settimana Sam Altman è stato licenziato come CEO di OpenAI. La vera ragione del suo allontanamento rimane sconosciuta. Secondo il consiglio, è stato licenziato perché “hanno concluso che non era costantemente sincero nelle sue comunicazioni con il consiglio, ostacolando la sua capacità di esercitare le sue responsabilità”. Questa spiegazione vaga ha portato a un sacco di speculazioni su perché Altman sia stato licenziato. Alcune delle migliori teorie includono:

• Altman ha dato priorità alla penetrazione nel mercato rispetto alla sicurezza e ai test sulla privacy
• Altman ha aggirato il consiglio in un affare importante
• L’ego di Altman è diventato troppo grande e ha iniziato a entrare in conflitto con la missione dell’azienda

Curiosamente, uno dei rumor più convincenti punta verso una divergenza di opinioni sull’etica dell’IA, in particolare sullo sviluppo dell’Intelligenza Artificiale Generale (“AGI”). Mentre Altman è stato un sostenitore accanito del potenziale di AGI, i rumor suggeriscono che il capo scienziato Ilya Sutskever nutrisse crescenti preoccupazioni sul rapido avanzamento delle tecnologie interne di OpenAI.

In questo post, riassumeremo alcuni concetti del nuovo articolo di Google DeepMind Livelli di AGI: Operazionalizzare il Progresso sulla Strada per AGI. Questo articolo aiuta a definire AGI, stabilisce un quadro per valutare i sistemi AGI e riassume alcuni dei rischi potenziali di AGI.

Definire AGI

Nel campo dell’intelligenza artificiale (“IA”), AGI è una sottocategoria di sistemi che possono svolgere la maggior parte delle attività a livello umano. Ipoteticamente, questi sistemi sono in grado di comprendere, imparare e applicare la loro intelligenza in modo ampio, come può fare un essere umano. Un sistema AGI completo non sarebbe limitato ai dati su cui è stato addestrato. Invece, mentre il sistema esiste, può raccogliere informazioni e imparare nel tempo. Per molte aziende di IA, AGI è esplicitamente o implicitamente l’obiettivo a lungo termine. Attualmente, AGI non è stato raggiunto. Tuttavia, dati i rapidi progressi nelle LLM e nell’intelligenza artificiale in generale, AGI sembra più vicino che mai.

• Esplorando la prossima grande tendenza in Gen AI con Sandeep Singh
• Microsoft Research presenta Florence-2 un nuovo modello di base visionaria con una rappresentazione unificata basata su prompt per una varietà di compiti di visione informatica e visione del linguaggio
• Scomponendo il nuovo Consiglio di OpenAI

Nell’articolo, i ricercatori di DeepMind delineano le caratteristiche definitorie di AGI. “