Misurare la creatività dell’IA

Misurare la creatività dell'IA' can be condensed to 'Misurare la creatività dell'IA

Circa 15 anni fa, Frederic Fol Leymarie e un collega hanno sviluppato un robot chiamato Aikon in grado di disegnare ritratti di persone. Il sistema utilizza una telecamera per catturare il volto di una persona mentre si siede di fronte ad esso. Le informazioni sull’immagine vengono convertite in comandi che vengono inviati a un braccio robotico dotato di una penna in modo che possa disegnare il volto della persona. “L’obiettivo era semplicemente cercare di ottenere un’estetica simile a quella umana”, dice Fol Leymarie, professore di informatica presso l’Università di Goldsmiths, a Londra, nel Regno Unito.

All’epoca, Aikon era innovativo grazie alla qualità simile a quella umana dei suoi disegni, ottenuta in parte con i tratti imprecisi del suo braccio robotico rudimentale. Oggi, i sistemi di intelligenza artificiale (IA) possono produrre artefatti di qualità molto più elevata: ad esempio, il sistema DALL-E2 di OpenAI può generare immagini fotorealistiche quando un essere umano fornisce una breve descrizione, mentre aziende come AIVA Technologies hanno sviluppato IA in grado di comporre musica originale. Questo sta spingendo i ricercatori a considerare domande più profonde come quale potenziale creativo possa avere l’IA e come possa essere quantificato.

“Penso che la creatività sia un comportamento che deve essere compreso prima ancora di iniziare a fare affermazioni sul fatto che [i modelli di IA] siano creativi”, dice Payel Das, una ricercatrice di IA presso l’IBM Thomas J. Watson Research Center a Yorktown Heights, NY. “Quindi, per un agente di IA o per un modello di apprendimento automatico, cosa significa essere creativo?”

Quando si cerca di valutare la creatività dell’IA, i ricercatori fanno generalmente riferimento al lavoro della scienziata cognitiva britannica Margaret Boden, una figura chiave nel campo che ha identificato tre tipi di creatività. La creatività combinatoria consiste nel combinare idee esistenti in modi nuovi, mentre la creatività esplorativa consiste nella generazione di nuove idee all’interno di uno specifico spazio concettuale, come apportare miglioramenti a un oggetto esistente. La creatività trasformativa è la più radicale e implica l’elaborazione di idee fondamentalmente diverse da quelle esistenti. “Gran parte delle attuali dimensioni della creatività esplorate, sia nell’essere umano che negli agenti di IA, probabilmente rientrano più nella categoria [combinatoria]”, afferma Das.

• Cigna accusata di respingere impropriamente migliaia di richieste di pazienti utilizzando un algoritmo
• Il gigantesco telescopio adotta robot intelligenti per la manutenzione
• Permettere all’apprendimento automatico di fare domande può renderlo più intelligente

I ricercatori stanno ora cercando di definire metriche per quantificare la creatività dell’IA. Il primo passo è definire la creatività, il che può essere una sfida poiché nel corso degli anni sono state proposte più di 100 diverse definizioni. Nel passato, la creatività è spesso stata considerata una caratteristica misteriosa e unica dell’essere umano che non può essere spiegata scientificamente. Alcuni elementi del processo creativo, come trarre ispirazione dalle esperienze vissute e l’autocoscienza, sono talvolta considerati importanti fattori contribuenti. “Al momento, questo è qualcosa di molto difficile da riprodurre in una macchina”, dice Mirco Musolesi, professore di informatica presso l’University College London, nel Regno Unito.

Tuttavia, la famosa definizione di Boden, che considera la creatività come la capacità di ideare artefatti nuovi, sorprendenti e di valore, viene tipicamente scelta quando si cerca di valutare questa caratteristica nei sistemi di IA. Nel lavoro recente, Musolesi e il suo collega hanno sviluppato un modo per misurare i tre elementi di questa definizione utilizzando il deep learning. Il loro obiettivo era creare un approccio automatizzato che non richiedesse un giudizio umano per valutare la creatività degli artefatti prodotti dagli algoritmi generativi. “Quando hai un problema che ha molte dimensioni, il deep learning è adatto perché è in grado di catturare informazioni e imparare da esse”, afferma Musolesi.

In un esperimento iniziale per testare il loro metodo, il team si è concentrato sulla poesia americana e ha addestrato due tipi di reti neurali utilizzando 2.676 poesie del XIX secolo disponibili pubblicamente. Hanno poi testato i modelli per vedere se potevano prevedere la creatività di un sottoinsieme dei dati di addestramento che non erano stati precedentemente visti. Test successivi hanno utilizzato anche un set di dati di poesie del XX secolo e un altro composto da poesie dei secoli XVII e XVIII.

Musolesi afferma che i modelli si sono comportati bene rispetto ai set di dati di addestramento: sono stati in grado di catturare in certa misura come la creatività delle poesie sia cambiata nel corso dei diversi periodi storici. Ad esempio, le poesie avrebbero una valutazione bassa in termini di sorpresa se i loro temi, come l’amore, fossero simili a quelli nel set di addestramento. Musolesi sottolinea che il lavoro è preliminare, poiché presenta diverse limitazioni: una di esse è la dimensione relativamente ridotta del set di dati di addestramento, che rappresenta un numero limitato di poesie. Un altro vincolo è che il sistema considera solo la creatività dello stile o del genere, senza valutare altri aspetti, come le parole utilizzate.

Musolesi e il suo collega prevedono che il loro sistema potrebbe essere incorporato nel processo generativo dei modelli di intelligenza artificiale. Un modello potrebbe essere addestrato per massimizzare la sua creatività, oppure il suo output potrebbe essere valutato utilizzando l’approccio come parte di un processo iterativo. “Dal momento che stiamo generando [prodotti creativi] utilizzando tecniche di deep learning, è abbastanza naturale anche usarlo per giudicarlo”, dice Musolesi. “Puoi usare le macchine per giudicare le macchine.”

Un altro team ha ideato una metrica per caratterizzare la creatività dei modelli generativi che si ispira alla neuroscienza. La ricerca che coinvolge la scansione del cervello delle persone mentre completano compiti creativi ha dimostrato che la creatività del loro output è legata a differenze nell’attività cerebrale. Das e i suoi colleghi hanno quindi ipotizzato che la creatività dei modelli di intelligenza artificiale potrebbe essere rilevata anche dai pattern di attivazione nelle reti neurali artificiali che compongono gli algoritmi di deep learning utilizzando un metodo chiamato group-based subset scanning. Dal momento che i modelli di intelligenza artificiale generativi sono progettati per imitare i dati di addestramento, le differenze in determinati tipi di attività durante la produzione di artefatti dovrebbero indicare la creatività. “Cerchiamo pattern anomali”, dice Das.

In esperimenti con un modello di intelligenza artificiale generativa e diversi dataset di immagini, Das e il suo team hanno dimostrato che l’attivazione atipica correlava con immagini generate più nuove e significative. Le persone a cui è stato chiesto di valutare la creatività dell’output hanno visto che i loro punteggi corrispondevano in gran parte a quanto era stato previsto dai pattern di attivazione.

Das e il suo team sono ora interessati a capire come la creatività delle macchine possa essere controllata. I modelli generativi attuali sono potenti, ma il loro output creativo varia in termini del suo valore per gli esseri umani e per la società. Quando utilizzati per aiutare a progettare nuovi farmaci, ad esempio, potrebbero proporre soluzioni creative, ma devono anche rispettare altri criteri, come non essere tossici. “La sfida da ora in poi sarà come indirizzarli verso una buona creatività”, dice Das.

Fino ad ora, la creatività dell’intelligenza artificiale si è concentrata su sistemi che generano artefatti digitali. Tuttavia, Fol Leymarie pensa che l’interesse si estenderà presto a robot che producono oggetti fisici come dipinti o sculture, che stanno iniziando a uscire dalla fase di ricerca e sviluppo. In un nuovo progetto, lui e i suoi colleghi stanno indagando su come i robot e l’intelligenza artificiale influenzino la creatività nell’arte visiva, in parte cercando di caratterizzare la creatività delle tecnologie all’avanguardia.

“Dovremmo essere pronti per una rivoluzione simile nei prossimi anni”, dice.

Sandrine Ceurstemont è una scrittrice scientifica freelance con sede a Londra, Regno Unito.