Portare le responsabilità sociali ed etiche dell’informatica in primo piano

Highlighting the social and ethical responsibilities of computer science.

Il primo simposio del SERC ha convocato esperti provenienti da molte discipline per esplorare le sfide e le opportunità che sorgono con l’ampia applicabilità dell’informatica in molti aspetti della società.

Left to right: MIT faculty members Simon Johnson, Sarah Williams, Srini Devadas, and Asu Ozdaglar discussed the implications of data and algorithms at the SERC Symposium.

C’è stato un notevole aumento dell’uso di algoritmi e intelligenza artificiale per affrontare una vasta gamma di problemi e sfide. Sebbene la loro adozione, in particolare con la crescita dell’AI, stia ridefinendo quasi tutti i settori industriali, discipline e aree di ricerca, tali innovazioni spesso espongono conseguenze impreviste che comportano nuove norme, nuove aspettative e nuove regole e leggi.

Per facilitare una comprensione più approfondita, le Responsabilità sociali ed etiche dell’informatica (SERC), un’iniziativa trasversale nel MIT Schwarzman College of Computing, ha recentemente riunito scienziati sociali e umanisti con informatici, ingegneri e altri docenti di informatica per esplorare i modi in cui l’ampia applicabilità di algoritmi e AI ha presentato sia opportunità che sfide in molti aspetti della società.

“La natura stessa della nostra realtà sta cambiando. L’AI ha la capacità di fare cose che fino a poco tempo fa erano esclusivamente appannaggio dell’intelligenza umana, cose che possono mettere in discussione la nostra comprensione di ciò che significa essere umani”, ha osservato Daniel Huttenlocher, direttore del MIT Schwarzman College of Computing, nel suo discorso inaugurale al primo simposio SERC. “Questo pone questioni filosofiche, concettuali e pratiche su una scala non sperimentata dallo start dell’Illuminismo. Di fronte a un cambiamento così profondo, abbiamo bisogno di nuove mappe concettuali per navigare il cambiamento”.

Il simposio ha offerto uno sguardo sulla visione e le attività di SERC sia nella ricerca che nell’istruzione. “Crediamo che la nostra responsabilità con SERC sia quella di educare e dotare i nostri studenti e consentire ai nostri docenti di contribuire allo sviluppo e alla distribuzione della tecnologia responsabile”, ha detto Georgia Perakis, professore di gestione presso la MIT Sloan School of Management, co-associate dean di SERC e il principale organizzatore del simposio. “Stiamo attingendo alle molte forze e alla diversità delle discipline presenti nel MIT e oltre e unendole per ottenere molteplici punti di vista”.

Attraverso una successione di tavole rotonde e sessioni, il simposio ha approfondito una varietà di argomenti legati alle dimensioni sociali ed etiche dell’informatica. Inoltre, 37 studenti universitari e post-laurea provenienti da una vasta gamma di materie, tra cui studi urbani e pianificazione, scienze politiche, matematica, biologia, ingegneria elettrica e informatica e scienze cerebrali e cognitive, hanno partecipato a una sessione di poster per esporre la loro ricerca in questo campo, coprendo argomenti come l’etica quantistica, la collusione dell’AI nei mercati di archiviazione, lo spreco di informatica e l’abilitazione degli utenti su piattaforme sociali per una maggiore credibilità dei contenuti.

Mostrando una diversità di lavori

In tre sessioni dedicate ai temi di informatica benefica e giusta, salute equa e personalizzata e algoritmi e umani, il simposio SERC ha presentato il lavoro di 12 docenti in questi domini.

Un progetto di un team multidisciplinare di archeologi, architetti, artisti digitali e scienziati sociali computazionali mirava a preservare siti patrimonio dell’umanità in pericolo in Afghanistan con gemelli digitali. Il team del progetto ha prodotto modelli 3D interrogabili altamente dettagliati dei siti patrimonio dell’umanità, oltre a esperienze di realtà estesa e realtà virtuale, come risorse didattiche per un pubblico che non può accedere a questi siti.

In un progetto per United Network for Organ Sharing, i ricercatori hanno mostrato come abbiano utilizzato l’analisi applicata per ottimizzare vari aspetti di un sistema di allocazione degli organi negli Stati Uniti che attualmente sta subendo una ristrutturazione importante per renderlo più efficiente, equo e inclusivo per diversi gruppi razziali, di età e di genere, tra gli altri.

Un altro intervento ha discusso un’area che finora non ha ricevuto una giusta attenzione pubblica: le ampie implicazioni per l’equità che i dati di sensori tendenziosi hanno per la prossima generazione di modelli in informatica e assistenza sanitaria.

Un discorso sul pregiudizio negli algoritmi ha considerato sia il pregiudizio umano che quello algoritmico e il potenziale per migliorare i risultati tenendo conto delle differenze nella natura dei due tipi di pregiudizio.

Altre ricerche evidenziate hanno incluso l’interazione tra piattaforme online e psicologia umana; uno studio su come i decisori commettano errori di previsione sistemici sulle informazioni disponibili; e un’illustrazione di come le analisi avanzate e il calcolo possono essere utilizzati per informare la gestione della catena di approvvigionamento, le operazioni e il lavoro normativo nei settori alimentare e farmaceutico.

Migliorare gli algoritmi di domani

“Gli algoritmi stanno senza dubbio influenzando ogni aspetto delle nostre vite”, ha detto Asu Ozdaglar, vicepresidente accademico del MIT Schwarzman College of Computing e capo del Dipartimento di Ingegneria Elettrica e Informatica, aprendo una tavola rotonda da lei moderata sulle implicazioni dei dati e degli algoritmi.

“Che si tratti nel contesto dei social media, del commercio online, delle attività automatizzate e ora di una gamma molto più ampia di interazioni creative con l’avvento di strumenti AI generativi e grandi modelli di linguaggio, c’è poca possibilità che molto altro debba ancora venire”, ha detto Ozdaglar. “Sebbene la promessa sia evidente per tutti noi, c’è molto di cui preoccuparsi. Questo è il momento per una riflessione immaginativa e attenta per migliorare gli algoritmi di domani”.

Rivolgendosi al panel, Ozdaglar ha chiesto agli esperti di informatica, scienze sociali e scienze dei dati dei suggerimenti su come comprendere ciò che verrà e plasmarlo per arricchire i risultati per la maggioranza dell’umanità.

Sarah Williams, docente associato di tecnologia e pianificazione urbana al MIT, ha sottolineato l’importanza critica di comprendere il processo di assemblaggio dei dataset, poiché i dati sono la fondamenta per tutti i modelli. Ha anche sottolineato la necessità di effettuare ricerche per affrontare le potenziali implicazioni di pregiudizi negli algoritmi che spesso si insinuano attraverso i loro creatori e i dati utilizzati nel loro sviluppo. “Spetta a noi pensare alle nostre soluzioni etiche a questi problemi”, ha detto. “Proprio come è importante progredire con la tecnologia, dobbiamo iniziare a guardare al campo di queste domande su quali pregiudizi ci sono negli algoritmi? Quali pregiudizi ci sono nei dati o nel loro percorso?”

Cambiando il focus ai modelli generativi e alla questione se lo sviluppo e l’uso di queste tecnologie debbano essere regolamentati, i panelisti – tra cui anche Srini Devadas del MIT, professore di ingegneria elettrica e informatica, John Horton, professore di tecnologia dell’informazione e Simon Johnson, professore di imprenditorialità – sono tutti concordi sul fatto che la regolamentazione degli algoritmi open-source, che sono pubblicamente accessibili, sarebbe difficile dato che i regolatori sono ancora indietro e lottano persino per definire le linee guida per la tecnologia che ha già 20 anni.

Tornando alla questione di come regolamentare efficacemente l’uso di queste tecnologie, Johnson ha proposto un sistema progressivo di tassazione per le aziende come potenziale soluzione. Raccomanda di basare i pagamenti fiscali delle aziende sui loro profitti, soprattutto per le grandi aziende il cui enorme guadagno rimane in gran parte non tassato a causa del banking offshore. In questo modo, Johnson ha detto che questo approccio può servire come meccanismo di regolamentazione che scoraggia le aziende dal cercare di “possedere l’intero mondo” imponendo disincentivi.

Il ruolo dell’etica nell’educazione informatica

Mentre l’informatica continua a progredire senza segni di rallentamento, è fondamentale educare gli studenti affinché siano intenzionali sull’impatto sociale delle tecnologie che svilupperanno e che implementeranno nel mondo. Ma si può davvero insegnare tali cose? In tal caso, come?

Caspar Hare, professore di filosofia al MIT e co-direttore associato di SERC, ha posto questa imminente domanda ai docenti su un panel da lui moderato sul ruolo dell’etica nell’educazione informatica. Tutti esperti nell’insegnamento dell’etica e nella riflessione sulle implicazioni sociali dell’informatica, ciascun panelista ha condiviso la propria prospettiva e approccio.

Forte sostenitrice dell’importanza di imparare dalla storia, Eden Medina, professore associato di scienza, tecnologia e società al MIT, ha detto che “spesso il modo in cui inquadriamo l’informatica è che tutto è nuovo. Una delle cose che faccio nel mio insegnamento è guardare come le persone hanno affrontato questi problemi in passato e cercare di trarre da loro un modo di pensare possibili soluzioni.” Medina utilizza regolarmente casi di studio nelle sue lezioni e ha fatto riferimento a un articolo scritto dalla storica della scienza dell’Università di Yale Joanna Radin sul dataset diabetico dei nativi americani Pima che ha sollevato questioni etiche sulla storia di quella particolare raccolta di dati che molti non considerano come un esempio di come le decisioni attorno alla tecnologia e ai dati possano derivare da contesti molto specifici.

Milo Phillips-Brown, professore associato di filosofia all’Università di Oxford, ha parlato del Protocollo di Informatica Etica che ha co-creato quando era un postdoc di SERC al MIT. Il protocollo, un approccio in quattro fasi per costruire tecnologie responsabili, è stato progettato per addestrare gli studenti di informatica a pensare in modo migliore e più accurato sulle implicazioni sociali della tecnologia, suddividendo il processo in fasi più gestibili. “L’approccio di base che adottiamo si basa molto sui campi di progettazione sensibile ai valori, ricerca e innovazione responsabili, progettazione partecipativa come indicazioni guida e poi è anche fondamentalmente interdisciplinare”, ha detto.

Campi come la biomedicina e il diritto hanno un ecosistema etico che distribuisce la funzione del ragionamento etico in queste aree. La supervisione e la regolamentazione sono fornite per guidare gli stakeholder e i decision-maker di prima linea quando sorgono problemi, così come i programmi di formazione e l’accesso a competenze interdisciplinari da cui possono attingere. “In questo spazio, non abbiamo nulla di tutto ciò”, ha detto John Basl, professore associato di filosofia alla Northeastern University. “Per le generazioni attuali di informatici e altri decisori, li stiamo facendo effettivamente ragionare sull’etica da soli.” Basl ha commentato ulteriormente che insegnare competenze di ragionamento etico di base in tutto il curriculum, non solo nelle classi di filosofia, è essenziale, e che l’obiettivo non dovrebbe essere quello che ogni informatico sia un etico professionale, ma che questi conoscano abbastanza del panorama per poter fare le domande giuste e cercare le competenze e le risorse pertinenti che esistono.

Dopo l’ultima sessione, gruppi interdisciplinari di docenti, studenti e ricercatori hanno partecipato a discussioni animate relative alle questioni affrontate durante la giornata durante un ricevimento che ha segnato la conclusione del simposio.