Incontra gli hacker che stanno cercando di far impazzire l’IA

Incontra gli hacker che sfidano l'IA

In una stanza conferenze senza finestre all’Università di Howard, gli AI chatbot stavano impazzendo da tutte le parti.

Uno ha esposto le informazioni mediche private di qualcuno. Uno ha fornito istruzioni su come rapinare una banca. Uno ha ipotizzato che un candidato di nome Juan avrebbe avuto “skills interpersonali” più deboli rispetto a un altro di nome Ben. E uno ha inventato una dettagliata narrazione della notte di luglio 2016 in cui ha affermato che Justin Bieber ha ucciso Selena Gomez.

Con ogni violazione della sicurezza, falsità e assunzione bigotta, i partecipanti chinati sui loro computer portatili esultavano. Alcuni si davano il cinque. Stavano competendo in quello che gli organizzatori hanno definito come il primo evento pubblico di “red teaming” per modelli di linguaggio AI – una competizione per trovare nuovi modi in cui i chatbot possono sbagliare, in modo che i loro creatori possano cercare di correggerli prima che qualcuno si faccia male.

L’evento di Howard, che ha attirato qualche dozzina di studenti e appassionati di AI dilettanti della zona di D.C. il 19 luglio, è stato un’anteprima di un evento molto più grande e pubblico che si terrà questa settimana al Def Con, la convention annuale degli hacker a Las Vegas. Organizzato dal AI Village di Def Con, la Generative Red Team Challenge ha ricevuto il sostegno della Casa Bianca come parte del suo impegno per promuovere “innovazione responsabile” nell’AI, una tecnologia emergente che ha scatenato un’esplosione di hype, investimenti e paura.

Da The Washington Post Visualizza l’articolo completo