Quando l’IA si smarrisce incidenti di alto profilo di apprendimento automatico nel mondo reale

Quando l'IA si smarrisce in incidenti di apprendimento automatico nel mondo reale

Un tour degli errori e dei fallimenti noti di apprendimento automatico che hanno catturato l’attenzione del mondo

Foto di NEOM su Unsplash

Il potenziale trasformativo dell’intelligenza artificiale (IA) e dell’apprendimento automatico ha spesso fatto notizia, con molti report sul suo impatto positivo in diversi settori, dall’assistenza sanitaria alla finanza.

Tuttavia, nessuna tecnologia è immune da errori. Mentre le storie di successo dipingono un quadro delle meravigliose capacità dell’apprendimento automatico, è altrettanto cruciale evidenziare le sue insidie per comprendere l’intero spettro del suo impatto.

In questo articolo esploreremo numerosi errori di rilievo dell’apprendimento automatico in modo da poter trarre insegnamenti per implementazioni più informate in futuro.

Contenuti

In particolare, esamineremo un caso significativo per ciascuna delle seguenti categorie:

(1) Apprendimento automatico classico(2) Computer Vision(3) Previsioni(4) Generazione di immagini(5) Elaborazione del linguaggio naturale(6) Sistemi di raccomandazione

Una raccolta esaustiva di incidenti notevoli di apprendimento automatico può essere trovata nel seguente repository GitHub chiamato Failed-ML:

GitHub — kennethleungty/Failed-ML: Raccolta di esempi di alto profilo del mondo reale

github.com

(1) Apprendimento automatico classico

Titolo

Sistema di reclutamento AI di Amazon: Il sistema di reclutamento automatizzato basato su intelligenza artificiale di Amazon è stato cancellato dopo aver dimostrato discriminazione nei confronti delle candidate femminili.

Dettagli

Amazon ha sviluppato un sistema di reclutamento basato su intelligenza artificiale per identificare i migliori candidati da un decennio di curriculum. Tuttavia, poiché l’industria tecnologica è prevalentemente maschile, il sistema ha mostrato dei pregiudizi nei confronti delle candidate femminili.

Ad esempio, ha iniziato a penalizzare i curriculum che contenevano la parola “donne” o quelli provenienti da due college riservati alle donne, favorendo invece certi termini (ad esempio ‘eseguito’) che apparivano…