Quando l’IA preferisce i caucasici

Quando l'IA predilige le caratteristiche dei caucasici

Individuare e mitigare il pregiudizio razziale nelle creazioni di intelligenza artificiale

Illustrazione astratta sull'intelligenza artificiale e la diversità, Credito: David Leibowitz tramite DALL-E

L’intelligenza artificiale generativa ha raggiunto un punto in cui può creare script promozionali e trasformarli in video in meno di cinque minuti. Lo so perché l’ho fatto con ChatGPT+ e ho ottenuto risultati di successo. Ma con questa incredibile capacità, è possibile che l’IA introduca pregiudizi imprevisti. Lo so anche perché l’ho visto di persona.

Inizialmente, il mio obiettivo era semplice: creare un video promozionale per aumentare le iscrizioni a un prossimo webinar. Ma man mano che indagavo più a fondo, mi sono trovato in un deviazione non pianificata, esplorando i pregiudizi nascosti nell’IA che spesso passano inosservati. È stato un viaggio che è iniziato con uno script semplice e si è concluso con scoperte illuminanti sulle complessità dell’IA.

Il viaggio illumina come anche i compiti di routine debbano essere esaminati con curiosità per scoprire pregiudizi sottili e identificare metodi per mitigare la loro influenza nelle nostre interazioni con l’IA.

“In un test, ho specificato ‘un uomo di mezza età in abito da lavoro’, omettendo deliberatamente il tono della pelle per vedere se l’IA avrebbe richiesto queste informazioni. Non l’ha fatto.”

Riconoscere il pregiudizio con ChatGPT

Recentemente, ho sfidato ChatGPT a redigere uno script per un prossimo webinar e poi animarlo con un avatar umano fotorealistico. Poiché creare un video non è qualcosa che ChatGPT può fare da solo, mi sono rivolto a un plugin per questo, nello specifico quello di HeyGen.

Questo plugin permette a ChatGPT di andare oltre il testo, dando vita agli script attraverso i video. Con HeyGen, ho potuto creare e visualizzare uno script, trasformando le parole in un video coinvolgente con un avatar generato dall’IA. Sebbene il prodotto finale fosse utile per le mie esigenze, ho trovato qualcosa che non avevo previsto: una comprensione sfumata del pregiudizio nell’IA.

Un video dell’IA suscita curiosità

Dopo aver approvato lo script, la mia ultima istruzione all’IA era chiara: “Crea un video con un portavoce professionale utilizzando lo script 1, sottolineando ed entusiasmando per aumentare la partecipazione”. Il risultato era un video rifinito, ma qualcosa ha attirato la mia attenzione: una sottile ma significativa alterazione nella risposta di ChatGPT.