Esplorando ciò che rende un toolkit di etica dell’IA funzionante

Esplorazione del toolkit di etica dell'IA funzionante

Gli strumenti per l’etica dell’IA sono ovunque, ma li capiamo davvero?

Foto di Todd Quackenbush su Unsplash - È ora di smantellare un kit di strumenti per l'etica dell'IA

Introduzione

Mentre l’uso dei sistemi di intelligenza artificiale in applicazioni con implicazioni critiche continua a crescere, gli esperti hanno chiesto pratiche più partecipative e consapevoli dei valori nella progettazione di questi sistemi. Ci sono diversi vantaggi che la maggiore partecipazione degli stakeholder può apportare alla progettazione dei sistemi di intelligenza artificiale, tra cui renderli più inclusivi, contrastare i pregiudizi esistenti e garantire la responsabilità. In risposta, il campo dell’etica dell’IA ha prodotto un numero significativo di kit di strumenti negli ultimi anni. Questi provengono da diverse fonti come università, aziende e istituti regolatori, utilizzano diverse tecniche e quadri concettuali e hanno diversi destinatari che vanno dai data scientist e ingegneri dell’IA ai designer e al pubblico in generale (Wong et al., 2023).

Molti kit di strumenti per l’etica dell’IA si concentrano esclusivamente sugli aspetti tecnici legati alla creazione dell’IA e si rivolgono principalmente agli operatori tecnici (ad esempio, il FAIR Self-Assessment Tool). Tuttavia, ci sono diversi kit di strumenti che promuovono e si concentrano sulla partecipazione degli stakeholder, in particolare degli stakeholder esterni al team di creazione dell’IA, come gli utenti finali e gli esperti del settore (ad esempio, l’AI Meets Design Toolkit). I kit di strumenti che si concentrano sulla partecipazione degli stakeholder tendono a farlo fornendo risorse come canvas o mazzi di carte che consentono agli stakeholder, e in particolare a quelli con una formazione non tecnica, di partecipare alle attività di progettazione. Questa partecipazione può portare a una vasta gamma di risultati, dalla generazione di idee sulle conseguenze di diverse decisioni all’instaurazione di empatia con gli utenti dell’IA.

Nonostante questo gran numero di kit di strumenti, nessuno ha davvero cercato di capire cosa li rende efficaci o quali siano le loro strategie sottostanti. Questo rende poco chiaro se abbiano effettivamente un effetto positivo sugli utenti dei kit di strumenti e sugli esiti che producono durante l’uso, nonostante la loro diffusa utilizzo. Per questo motivo, ho voluto esaminare come funziona un determinato kit di strumenti, il che si è rivelato un’esperienza molto educativa.

Parte del kit di strumenti 'AI Meets Design' creato da Nadia Piet, AIxDESIGN. Tratto da: https://aixdesign.co/shop.

Cosa ho fatto

Ho condotto un workshop di progettazione con 9 partecipanti che lavorano con l’IA in diverse capacità. Il workshop era composto da un’attività di ideazione per generare casi d’uso e funzionalità di progettazione per un’IA conversazionale fittizia per aiutare le persone a gestire autonomamente il diabete. È stato incluso un kit di strumenti per l’etica dell’IA creato da un singolo designer anziché da un’azienda o un’università. Ho scelto appositamente questo per esplorare in modo approfondito cosa rendesse fondamentalmente efficace un kit di strumenti a piccola scala, non supportato da finanziamenti massicci.

Il workshop è stato svolto su Miro ed è durato due ore. Il modo in cui funziona il kit di strumenti è che è composto da un mazzo di carte. Queste carte hanno ciascuna un valore (ad esempio, privacy, autonomia, sicurezza, ecc.) e domande “Come potremmo?” che fungono da stimoli per diverse idee che potrebbero portare al rispetto del valore dato nella tecnologia prodotta. Ho disposto queste carte sulla bacheca di Miro e ho lasciato dei post-it per consentire alle persone di fare brainstorming, quindi ho assegnato a ciascuna persona due valori su cui concentrarsi individualmente.

Dopo un’ora, ci siamo riuniti tutti insieme e ho girato le carte in modo che le persone non potessero più vedere i valori, ma solo le idee sui post-it che gli altri avevano scritto. Ho chiesto a ciascuna persona di presentare le idee che avevano scritto, e tutti gli altri dovevano indovinare il valore a cui stavano mirando.

Screenshot dalla bacheca Miro del workshop che mostra la carta per 'onestà' e le idee che un partecipante ha generato attorno ad essa.

Cosa ho imparato

Utilizzare i valori come trampolini per costruire empatia e considerazioni più ampie

Il toolkit è stato progettato per utilizzare la lista dei valori forniti come trampolini per ideare e fare brainstorming. 3 partecipanti hanno menzionato che questo è stato un approccio molto utile:

“È stato interessante vedere come valori diversi siano applicabili allo sviluppo di un agente conversazionale.”

“Pensare a un design dal punto di vista di un valore alla volta.”

“Guardare le carte dei valori e produrre idee intorno ad esse.”

  • C’è stata una bassa attenzione alla fattibilità tecnica a favore di concentrarsi sui valori e sull’importanza di diverse idee dal punto di vista dell’utente. I partecipanti sembravano apprezzare/preferire questo perché offriva un cambiamento gradito rispetto alla focalizzazione sugli aspetti tecnici e alla trascuratezza di valori come la sicurezza e l’equità. Un partecipante ha espresso che pensava che questi valori potrebbero non emergere quando si sta pensando a un sistema e a ciò che può essere costruito e alla tecnologia che vi è dietro, o quando si sta pensando a ciò che è più facile o veloce da fare. Hanno detto che anche se le persone dovrebbero pensare a questi valori durante la progettazione, non sempre è il caso perché ci sono altre priorità che lo oscurano. In breve, mettere in primo piano i valori ha aiutato i partecipanti a fare brainstorming e a considerare aspetti non tecnici comunemente trascurati.
  • L’esercizio ha fatto sì che i partecipanti volessero conoscere di più la vita dei diabetici e le loro esperienze per capire come sostenerli nel modo più personalizzato e specifico possibile e per trovare soluzioni effettivamente rilevanti e non basate su supposizioni. I valori che hanno suscitato questo desiderio sono stati ‘tranquillità’ (che ha portato a desiderare informazioni sulle situazioni che causano loro stress e ansia) e ‘sicurezza’ (che ha portato a desiderare informazioni sulle situazioni che minacciano la loro vita). In breve, concentrarsi sui valori ha aumentato l’empatia dei partecipanti nei confronti degli utenti target e la loro curiosità/desiderio di imparare come supportarli al meglio.
Foto di Miltiadis Fragkidis su Unsplash - Lavorare con i valori degli stakeholder può favorire una maggiore empatia e comprensione

Utilizzare la gamification per aumentare l’interesse e migliorare i risultati

I partecipanti hanno apprezzato molto l’aspetto della gamification quando dovevano indovinare i valori:

“Mi è piaciuto indovinare a quale valore le idee si riferissero: mi ha tenuto molto più coinvolto con le idee condivise anziché limitarmi a leggerle/discuterle.”

“Penso che l’indovinare i valori abbia avuto il maggiore valore per capire davvero i diversi valori e come sono interconnessi.”

  • Nel momento in cui indovinavano i valori, i partecipanti sentivano che diverse idee potevano corrispondere a valori diversi e che diverse idee sotto valori diversi facevano riferimento allo stesso concetto o suggerimento. Le discussioni hanno anche evidenziato che diversi valori erano troppo simili o avevano grandi sovrapposizioni ed era difficile differenziarli. — Molti valori venivano considerati troppo simili o sovrapposti, con i partecipanti che avevano difficoltà a indovinarli o a differenziarli. Ci sono molti collegamenti tra i diversi valori e alcuni possono portare ad altri o facilitarli, o incarnare fenomeni/emozioni simili. Durante l’indovinare, ‘equità’ è stata scambiata per ‘inclusività’; ‘comunità’, ‘libertà’ e ‘autonomia’ non potevano essere differenziati tra loro; ‘mastery’ è stato confuso con ‘coraggio’ e ‘curiosità’; e ‘inclusività’ è stata scambiata per ‘accessibilità’ e ‘rispetto’. In breve, la gamification ha permesso ai partecipanti di comprendere realmente le interconnessioni tra idee e valori.
Foto di Erik Mclean su Unsplash - La gamification ha molti vantaggi. Nel contesto del design collaborativo dell'IA può aiutare i partecipanti a cogliere le interconnessioni e a godere di un maggiore coinvolgimento.

Miglioramenti futuri e idee

  • Tre partecipanti hanno osservato che avrebbero gradito maggiori informazioni contestuali e suggerimenti per poter meglio immedesimarsi con gli stakeholder target dell’IA conversazionale. Con valori specifici come “sicurezza” e “tranquillità”, i partecipanti si sono immedesimati negli utenti e volevano saperne di più sulle loro esperienze per poterli supportare con soluzioni più personalizzate che affrontino specificamente le loro esigenze. Un partecipante ha avvertito che il suggerimento iniziale mancava di feedback dalle persone per cui stavano progettando (diabetici) per poter veramente generare idee per loro. Volevano informazioni più personalizzate/specifiche sugli scenari degli utenti, descrizioni di momenti della loro vita o informazioni contestuali reali che possano essere utilizzate per personalizzare ulteriormente le idee generate.
  • Un suggerimento è stato quello di fare un workshop come questo, che si concentra sull’astratto e sul livello elevato, senza molte informazioni preliminari, per poi andare a raccogliere le informazioni degli utenti successivamente per il contesto. Perché se raccogli le informazioni degli utenti per prime, potresti perdere idee o valori e concentrarti troppo su ciò che hai raccolto. Successivamente puoi riunire tutto e generare scenari e aspetti tecnici nuovamente beneficiando di entrambe le fonti di conoscenza.
  • Due partecipanti hanno osservato che se non avessero avuto l’elenco dei valori con le relative definizioni, avrebbero potuto avere difficoltà a pensare alle parole esatte utilizzate per descrivere i valori, forse qualcosa attorno a loro ma non le parole esatte. Comprendere cosa significassero i valori sarebbe stato difficile senza fornire le descrizioni ad essi associate.

Come Questo Ti Può Aiutare

Questo esperimento su ciò che rende efficace un toolkit di etica dell’IA mi ha portato a una comprensione più profonda del potere dell’utilizzo di tecniche di gamification e di esercizi basati sui valori. Di seguito ho riassunto le mie intuizioni in sei punti che potrebbero aiutarti a condurre i tuoi workshop di progettazione utilizzando toolkit di etica dell’IA con gli stakeholder al fine di generare idee o ideare il design dell’IA:

  • Uno dei punti principali nel pensare in modo collaborativo all’etica dell’IA è rendere l’IA più centrata sull’essere umano. Per questo motivo, è molto importante includere molte informazioni contestuali (e preferibilmente di prima mano) sugli utenti target e su chi si sta progettando per. Ricorda che molti professionisti tecnici potrebbero non essere abituati a esercizi di sviluppo dell’empatia e di ideazione, quindi aiutali a raggiungere questo obiettivo chiarendo chi stanno cercando di aiutare.
  • Valuta se il tuo workshop ha bisogno di molte attività per scendere da una visione ad alto livello di ciò che potrebbe essere rilevante o importante, fino ai dettagli. Mescolare entrambi può essere confuso per i partecipanti, soprattutto se chiedi loro di classificare o valutare idee che potrebbero non essere confrontabili sullo stesso livello.
  • Se stai lavorando con i valori, assicurati di definire chiaramente cosa significa ciascun valore. Questo è importante perché valori diversi possono avere significati diversi a seconda di chi si chiede, e possono esserci molti conflitti e sovrapposizioni tra di essi se non sono chiaramente definiti.
  • Introdurre i valori nelle attività di progettazione dell’IA può aiutare i partecipanti a generare idee e a considerare aspetti non tecnici comunemente trascurati, aiutarli a sviluppare empatia con gli utenti target e aumentare la loro curiosità e desiderio di supportare meglio quegli utenti.
  • Incorporare tecniche di gamification può aiutare a migliorare l’interesse e il coinvolgimento dei partecipanti durante i workshop sull’etica dell’IA, e può anche aiutarli a comprendere più a fondo le connessioni tra le idee.

Dove Mi Inserisco

Il mio progetto di dottorato si concentra sull’utilizzo di strumenti e tecniche provenienti dai campi del design per rendere l’AI system accessibile e inclusivo. Sto lavorando per creare un processo partecipativo e un toolkit per sostenerlo, al fine di coinvolgere in modo sistematico le persone lungo il ciclo di vita dell’IA, con un focus sulla sensibilità ai valori.

Puoi visitare la pagina ufficiale del mio progetto sul sito web dell’Imperial College London. Puoi anche leggere questo altro articolo che ho scritto per spiegare i dettagli del mio progetto di dottorato.

Ho creato questo account VoAGI per pubblicare interessanti scoperte mentre lavoro al mio progetto di dottorato, al fine di diffondere notizie e informazioni sugli AI system in modo comprensibile per chiunque.

Riferimenti

Richmond Y. Wong, Michael A. Madaio e Nick Merrill. 2023. Seeing Like a Toolkit: How Toolkits Envision the Work of AI Ethics. Proc. ACM Hum.-Comput. Interact. 7, CSCW1, Articolo 145 (aprile 2023), 27 pagine. https://doi.org/10.1145/3579621