Che cos’è l’innatismo e ha qualche importanza per l’intelligenza artificiale? (Parte 1)

Che cos'è l'innatismo e la sua importanza per l'IA? (Parte 1)

La questione dell’innatismo, sia in biologia che nell’intelligenza artificiale, è fondamentale per il futuro dell’IA simile all’uomo. Questo approfondimento in due parti sul concetto e la sua applicazione potrebbe aiutare a fare chiarezza.

Di Vincent J. Carchidi

Introduzione

Al giorno d’oggi non esce molto di buono da Twitter, ma di recente una discussione su Twitter avviata dall’esperto di intelligenza artificiale (AI) Gary Marcus ha toccato un argomento affascinante: il concetto di “innatismo” negli organismi biologici e la sua rilevanza per l’IA. Il tweet completo, qui sotto riportato, recita: “evidenza chiara di Innatismo – nelle formiche. L’ostilità contemporanea all’Innatismo nel gruppo di ML sembrerà sciocca in retrospect quando capiremo tutto questo.”

• Verso una AI al livello di Dio da una AI al livello di cane
• Dove avviene l’IA?
• Rivoluzionare lo sviluppo del software il duo dinamico di intelligenza artificiale e codice

Le reazioni di altri esperti e ricercatori si sono sviluppate lungo linee preesistenti negli ultimi anni nella ricerca sull’IA. Thomas Dietterich ha chiesto: “Come dichiarare che qualcosa è innato ci aiuta a fare scienza dell’IA?”, aggiungendo che “l’intera idea del pre-addestramento è proprio quella di creare una rete con buone rappresentazioni innate”. Judea Pearl ha commentato, ribattendo che “l’innatismo è…un avviso che alcune conoscenze, esterne ai dati, esterne anche a qualsiasi pre-addestramento, devono essere codificate in un sistema per raggiungere una certa performance”. Rodney Brooks ha definito l’apprendimento end-to-end una “fetish” mentre Dietterich, in risposta, ha sostenuto che i Large Language Models (LLM) dimostrano che “l’apprendimento automatizzato può funzionare a scala internet per costruire un sistema molto ampio e generale”.

Non è esattamente lo scambio ideale che si possa immaginare su innatismo e intelligenza. Ma la domanda originale di Dietterich merita di essere posta e di avere una risposta: il concetto di innatismo aiuta i ricercatori di IA?

La questione dell’innatismo è fondamentale per la futura ricerca che mira a progettare sistemi di IA simili all’uomo. Sebbene l’inserimento di questo concetto nel campo sia spesso stato confusionario e controverso, è semplicemente inevitabile: l’IA, nel futuro prevedibile, ha come obiettivo di assomigliare almeno ad alcune delle capacità cognitive di ordine superiore degli esseri umani. Ma le domande sulla natura cognitiva umana sono spesso affrontate nel campo con eccessiva semplificazione, idee superate o addirittura rifiuto dell’idea che il modo in cui gli esseri umani raggiungono le proprie imprese sia importante per l’intelligenza delle macchine.

Questo articolo presenta un approfondimento sull’innatismo in biologia e IA che mira a fare chiarezza e informare il dibattito su tutti i fronti. Poiché l’argomento è ricco di informazioni multidisciplinari, questo pezzo è diviso in due parti. La prima parte è dedicata a fornire le basi dell’innatismo negli esseri umani, strutturata in modo da evitare gli schemi di analisi familiari nel campo. Fornisco quindi una prospettiva su una base innata per la cognizione morale negli esseri umani, un argomento che, a differenza del linguaggio, non è stato coinvolto nell’eccessiva enfasi degli ultimi tempi.

Ciò ci permette, nella seconda parte, di introdurci in una discussione sull’innatismo nell’IA. Mi concentro su due esempi nella ricerca sull’IA nel gioco – l’agente di gioco Go AlphaGo Zero e l’agente di gioco Diplomacy Cicero – e collego il concetto di innatismo in biologia a questi agenti. Vengono fornite sia una panoramica a livello elevato che a livello inferiore delle architetture di questi sistemi. Sebbene sia presupposta una certa conoscenza di base, il contenuto è scritto in modo tale da essere accessibile a un pubblico generale.

In definitiva, queste due parti illustreranno come la ricerca di un’IA simile all’uomo o addirittura un’intelligenza artificiale generale sia direttamente rilevante per l’innatismo.

Indice

Parte 1:

· Biologia dell’Innatismo nella Cognizione Morale

• Come Suscitare Interesse per l’Innatismo
• La Base Innata della Cognizione Morale
• Implicazioni

Parte 2:

· Innatenza nell’Intelligenza Artificiale

• Intelligenza Artificiale nel Gioco come Finestra sull’Intelligenza Artificiale Generale
• Implicazioni

· Conclusioni

Innatismo Biologico nella Cognizione Morale

Il dibattito sulla robustezza del concetto di innatismo e sulla presenza di dotazioni cognitive innate negli esseri umani ha ormai oltre 2.000 anni. Non mi aspetto di risolvere il dibattito qui né di fornire una definizione che ponga fine alla conversazione. Tuttavia, una prospettiva personale su questo argomento è utile per iniziare a esplorare l’innatismo nella biologia e nell’IA.

Come Suscitare Interesse per l’Innatismo

Ho dedicato una quantità significativa di energia intellettuale durante gli anni del mio corso di laurea e di laurea magistrale a sostenere l’idea che la psicologia morale umana abbia una base potente, specifica per dominio e innata nella mente – ovvero, un sistema cognitivo specializzato per la generazione di intuizioni morali, indipendente da altri sistemi della mente, come quelli visivi o uditivi, sebbene costantemente necessario interagire con essi nel corso del comportamento umano normale. Questo era insolito, poiché studiavo scienze politiche, una disciplina che tende a non considerare questi problemi nel dettaglio caratteristico delle scienze cognitive e neuroscienze.

La mia motivazione proveniva da una fonte di frustrazione: stavo seguendo un corso sulle organizzazioni internazionali quando è emerso il tema della Dichiarazione Universale dei Diritti Umani del 1948 delle Nazioni Unite, che rappresenta in molti modi la base dell’attivismo e della legge internazionale sui diritti umani che è sorto nei decenni successivi alla sua adozione. Gli studiosi di Relazioni Internazionali (una sotto-disciplina delle scienze politiche) hanno molti modi di interpretare la creazione di questo documento e i suoi utilizzi successivi – alcuni si concentrano sui movimenti anticoloniali della prima metà del XX secolo e sul collasso degli imperi, altri sulle influenze ideative che si estendono per decenni o secoli attraverso l’attivismo politico e le tradizioni religiose, e altri ancora sulla distribuzione del potere tra i paesi. La moralità – intesa come i giudizi morali degli individui, le norme morali di culture specifiche e le tradizioni morali di gruppi e paesi – sottintende gran parte di tutto ciò.

Tuttavia, per quanto interessante possa essere tutto ciò, una cosa mi ha infastidito: questi studiosi scrivevano lunghi saggi sull’origine storica di questo o quel diritto umano nella Dichiarazione Universale, su come i valori morali di una tradizione religiosa si sovrappongono o meno a quelli di un’altra, persino su come la definizione di “umano” sia stata ridefinita nella prima metà del XX secolo portando a una conseguente espansione delle preoccupazioni morali. Tuttavia, praticamente tutti facevano la stessa, implicita assunzione: che la moralità potesse essere compresa in termini puramente socio-scientifici.

Questo mi sembrava poco plausibile fin dall’inizio. Si possono scrivere migliaia di pagine sull’evoluzione delle norme e delle consuetudini morali che si trovano vincolate a una dichiarazione internazionale. Ma come sviluppano le persone la capacità di generare intuizioni morali in primo luogo? Rispondere a questa domanda, sembra, plasmi necessariamente come rispondiamo alle domande legate allo sviluppo delle norme e delle leggi internazionali sui diritti umani.

Basi Innate della Cognizione Morale

Sebbene la psicologia morale abbia successivamente pervaso le relazioni internazionali, gran parte del dibattito sull’innatismo è ancora insufficientemente approfondito. L’innatismo può significare troppe cose e spesso viene coinvolto in dibattiti sul determinismo biologico.

Invece, per comprendere la moralità umana, dovremmo utilizzare le stesse tecniche metodologiche che usiamo per comprendere qualsiasi altro sistema fisico o cognitivo del corpo. Distinguamo quindi tra la capacità di generare intuizioni morali e giudizi morali e come questa capacità viene utilizzata – la distinzione tra competenza e performance utilizzata in tutte le scienze cognitive. Facendo ciò, possiamo eliminare gran parte della confusionaria complessità della vita sociale e politica per spiegare una capacità – la competenza morale – che gli esseri umani in buona salute sviluppano nel corso del loro sviluppo. Il nostro obiettivo nell’esplorare la psicologia morale, correttamente concepito, è la competenza morale, lasciando la performance per un altro momento.

Come scrive il giurista e filosofo Matthias Mahlmann in un recente, importante lavoro sulla cognizione morale e i diritti umani: “Tuttavia, la performance di questa capacità, la valutazione finale di un’azione, può essere influenzata – ad esempio, dagli interessi della persona che valuta. Di conseguenza, tali influenze devono essere eliminate dall’analisi se vogliamo studiare correttamente la competenza cognitiva in questione, cosa che non è semplice, specialmente nel lavoro empirico” (p. 403). Si può immaginare perché ciò sia così difficile da fare nelle scienze sociali, in particolare, dove la “valutazione finale di un’azione” è spesso legata a fattori empiricamente irrilevanti. Si può anche immaginare, come discuteremo di seguito, perché ciò sia difficile nell’IA, dove i sistemi richiedono un certo livello di input umano per esplorare le loro competenze.

Quindi, iniziamo l’analisi con la comprensione che gli esseri umani possano intuitivamente inquadrare il mondo sociale in termini morali. Come ha scritto la filosofa Susan Dwyer: “Le valutazioni morali, come i giudizi di ammissibilità e le attribuzioni di responsabilità, semplicemente non possono iniziare se non vediamo già il mondo in termini di agenti, pazienti e conseguenze” (p. 248). Ma come dovremmo comprendere questa capacità? Cosa spiega questa abilità di “vedere” il mondo in questi termini?

Il passo successivo è chiedersi quali siano le proprietà fondamentali di queste valutazioni morali. Ma ricordiamo: non possiamo semplicemente scegliere i nostri esempi preferiti di bene o male e partire da lì. Inoltre, non possiamo nemmeno utilizzare tassonomie etiche stabilite – come l’etica dell’autonomia o l’etica della comunità – come punto di partenza, come fanno ricercatori di spicco come Jonathan Haidt e Craig Joseph, perché trascurano semplicemente la natura più basilare delle valutazioni morali.

Cosa intendo con ciò?

La verità è che il giudizio morale è ingannevole: è un’esperienza intima che la maggior parte degli individui umani sperimenta lungo tutta la loro vita, orientata verso situazioni sociali cariche emotivamente e ordinamenti istituzionali. Ma una volta che abbiamo ristretto il nostro focus sulla competenza morale e eliminato i fattori irrilevanti, il giudizio morale ha “proprietà apparentemente innocue” con “conseguenze di vasta portata”, come afferma lo studioso di diritto John Mikhail. Queste proprietà sono le seguenti, tratte dalla sua descrizione (pp. 45-46):

(1) Novità: I giudizi morali che gli individui producono non hanno una relazione “punto per punto” tra i giudizi che hanno prodotto in passato o che hanno incontrato da altri.Elaborazione: Sebbene i giudizi morali possano sembrare simili superficialmente, sono suscitati da circostanze che sono del tutto nuove per l’individuo. Un giudizio che una persona sbaglia a colpire un’altra senza provocazione può sembrare familiare, ma le persone coinvolte, l’ambiente circostante, le azioni che intraprendono, e così via, sono uniche. Quindi, tale giudizio è nuovo.

(2) Illimitatezza: Un individuo può produrre, in principio, un numero illimitato di giudizi morali. Non c’è limite al numero o al tipo di giudizi morali che un individuo può fare, salvo i vincoli non morali come la memoria, il tempo, ecc.Elaborazione: Un individuo non produce semplicemente giudizi verbalizzati sulle situazioni. Piuttosto, ogni giudizio presuppone rappresentazioni mentali di circostanze che sono del tutto nuove per l’individuo. Un giudizio che una persona sbaglia a colpire un’altra senza provocazione non è “solo un giudizio” – dipende da una rappresentazione mentale della configurazione specifica di persone, azioni e altre variabili. La natura illimitata dei giudizi morali è che questi giudizi – e le rappresentazioni mentali che presuppongono – possono essere generati dagli individui all’infinito.

Mettendo insieme le “conseguenze di vasta portata”, diventa evidente. Quando cerchiamo di comprendere la capacità di produrre nuovi giudizi morali su una scala illimitata, ci rendiamo conto che la “capacità di archiviazione finita del cervello” esclude la possibilità che il cervello semplicemente recluti un elenco preordinato di rappresentazioni mentali per produrli. “Invece”, scrive Mikhail, “il suo cervello deve contenere, per quanto riguarda il giudizio morale, qualcosa di più complesso: qualche tipo di sistema cognitivo, forse caratterizzabile in termini di principi o regole, che può costruire o generare il numero illimitato e la varietà di rappresentazioni che il suo esercizio del giudizio morale presuppone” (Mikhail usa anche il linguaggio di “una ricetta o un programma di qualche tipo”, che il ricercatore di intelligenza artificiale potrebbe trovare più plausibile).

Implicazioni

Ecco, l’argomento per la base innata della moralità nella mente umana si fa evidente. Questa base innata è specifica del dominio (specializzata per la valutazione del valore morale) e innata, ovvero la competenza morale di base, la capacità di inquadrare e valutare moralmente il mondo, non è appresa. Inoltre, i modi specifici in cui gli esseri umani valutano moralmente il mondo sono anche non appresi (il che significa che la nostra facoltà morale non viene reclutata per qualsiasi motivo – come ad esempio, nell’esempio di Mahlmann, assegnare virtù a un albero perché una mela è caduta nelle mani di una persona affamata).

Sebbene non sia una impossibilità logica che tale abilità possa essere appresa, sarebbe difficile credere che “l’apprendimento” o “l’interazione tra cervello e ambiente” siano il meccanismo primario responsabile dello sviluppo della competenza morale di una persona. Mentre le concezioni di innatismo variano notevolmente, non è affatto raro sentire neuroscienziati dire quanto segue: “La superiorità dell’apprendimento cognitivo e della comprensione umana rispetto ai modelli di reti neurali esistenti può derivare in gran parte dalla struttura innata molto più ricca e complessa incorporata nel sistema cognitivo umano” (p. 693).

Lavorando, quindi, con le proprietà fondamentali del giudizio morale identificate in precedenza, ci aspettiamo di trovare rappresentazioni complesse sottostanti ad esse mediante indagini sperimentali. Infatti, è possibile trovare individui che intuitivamente impongono principi legali e filosofici complessi su situazioni nuove, senza avere la necessità di applicare sistematicamente e consapevolmente tali principi o di essere stati addestrati formalmente in essi. Ad esempio, Mikhail ha scoperto che i bambini che rispondono ai classici dilemmi morali posti dagli psicologi dello sviluppo in contesti sperimentali utilizzano un’intuizione contraria alla concezione legale della lesione dolosa. Egli postula quindi “una sensibilità acuta alla lesione dolosa intenzionale come proprietà della mente umana” (p. 780). Possiamo quindi caratterizzare ciò come una conoscenza morale innata specificata in anticipo rispetto all’esperienza, che emerge in modo affidabile nel corso dello sviluppo biologico. Ricerche successive condotte da Sydney Levine, Mikhail e Alan M. Leslie trovano un supporto sperimentale iniziale all’idea che le intenzioni siano inferite dagli individui valutando azioni nuove in parte imponendo una “presunzione di innocenza” su altri agenti.

Questa visione della mente è complessa: presuppone che “le intuizioni morali possano essere comprese come l’output di un processo computazionale eseguito su rappresentazioni mentali strutturate dell’azione umana”, come osservano questi autori altrove. Gli esperimenti che esplorano le intuizioni dei partecipanti su dilemmi morali utilizzando “alberi di azioni” supportano un tema di lunga data in alcune aree della scienza cognitiva: le rappresentazioni mentali che presuppongono intuizioni morali non sono “estremente semplici” e non possono essere catturate “in termini di euristiche e distorsioni” (p. 31).

(Si noti che avrebbe potuto emergere, mediante indagine sperimentale, che le rappresentazioni mentali delle intuizioni morali fossero piuttosto semplicistiche. In tal caso, potremmo comunque ipotizzare una base innata per la moralità, ma forse non un sistema cognitivo dedicato.)

Quello che tutto ciò dimostra è che l’innatismo biologico è più di una semplice questione di quali sistemi della mente siano dotati dalla genetica in anticipo rispetto all’esperienza e in che misura siano pre-specificati con una conoscenza specifica del dominio. Piuttosto, ciò dimostra che tali capacità interagiscono tra loro in modo produttivo e senza la consapevolezza cosciente degli individui. Le rappresentazioni causali dell’azione umana, l’intuizione morale, l’intuizione linguistica e la teoria della mente sono tutte operative, in qualche modo, nella semplice questione apparente di definire verbalmente un’azione nuova come ingiusta o immorale.

Quando si tratta della questione dell’innatismo, quindi, comprendiamo quanto segue come fondamentale:

In primo luogo, postulare una base innata per una capacità umana come il giudizio morale non è semplice: le proprietà più fondamentali dei giudizi morali sono complesse in modo ingannevole e richiedono pazienza e attenzione ai dettagli per identificarle.

In secondo luogo, una volta identificate, è necessario uno sforzo consapevole e deliberato per estrapolare il significato concettuale di queste proprietà fondamentali al fine di articolare i contorni ampi della base innata della moralità nella mente. In questo caso, il sistema cognitivo è caratterizzato da regole, principi o concetti codificati con una certa conoscenza morale.

In terzo luogo, questo sistema cognitivo deve interagire in modo produttivo con gli altri nella mente, comprese le rappresentazioni causali delle azioni umane, la teoria della mente, la cognizione linguistica, la cognizione visiva e così via.

Infine, ciò che l’innatismo rivela sul giudizio morale umano è che le intuizioni su cui si basano sono ragionate e si basano su rappresentazioni mentali strutturate.

La parte complicata è ricordare come concettualizzare la competenza e la performance. Quando studiamo la competenza morale, la studiamo in isolamento dal resto della mente. Ma comprendiamo che, nella vita ordinaria (e in questo momento), i sistemi della mente devono interfacciarsi regolarmente in modo produttivo e dinamico. Questa tecnica metodologica (astrarre il sistema cognitivo dal comportamento umano concreto) è particolarmente difficile quando si tratta di funzioni cognitive come i giudizi morali o la cognizione linguistica, anche se la utilizziamo prontamente altrove: il concetto di un individuo “immunocompromesso” ha senso solo, ad esempio, se assumiamo che esista un unico sistema immunitario idealizzato che tutti gli esseri umani possiedono.

Con tutto ciò sullo sfondo, ci rivolgiamo alla creazione di menti artificiali e a come le lezioni sull’innatismo biologico possano contribuire ai programmi di ricerca in tal senso nella Parte 2.

Riferimenti

[1] J. Donnelly, Universal Human Rights in Theory and Practice (2013), Cornell University Press.

[2] S. Dwyer, How Good Is the Linguistic Analogy? (2006), The Innate Mind: Vol. 2

[3] M. Finnemore, The Purpose of Intervention (2003), Cornell University Press

[4] A. Getachew, Worldmaking After Empire (2019), Princeton University Press

[5] J. Haidt and C. Joseph, The Moral Mind: How Five Sets of Innate Intuitions Guide the Development of Many Culture-Specific Virtues, and Perhaps Even Modules (2008), The Innate Mind: Vol. 3

[6] M. Keck and K. Sikkink, Attivisti oltre i confini (2014), Cornell University Press

[7] S. Levine, A.M. Leslie, J. Mikhail, La rappresentazione mentale dell’azione umana (2018), Cognitive Science

[8] S. Levine, J. Mikhail e A.M. Leslie, Presunto innocente? Come le assunzioni tacite sulla struttura intenzionale plasmano il giudizio morale (2018), Journal of Experimental Psychology: General

[9] M. Mahlmann, Mente e diritti (2023), Cambridge University Press

[10] J. Mikhail, Qualsiasi animale qualunque? (2014), Ethics

[11] J. Mikhail, Elementi della cognizione morale (2011), Cambridge University Press

[12] C. Reus-Smit, Diritti individuali e la creazione del sistema internazionale (2013), Cambridge University Press

[13] D. Traven, Legge e sentimento nella politica internazionale (2021), Cambridge University Press