La corsa per prevenire il peggiore scenario per il Machine Learning

Preventing the worst scenario for Machine Learning.

Dave Willner ha avuto un posto in prima fila nell’evoluzione delle peggiori cose su Internet.

Ha iniziato a lavorare per Facebook nel 2008, quando le aziende di social media stavano inventando le loro regole man mano che procedevano. In quanto responsabile della politica dei contenuti dell’azienda, è stato Mr. Willner a scrivere i primi standard ufficiali della comunità di Facebook più di un decennio fa, trasformando ciò che ha detto essere una lista informale di una pagina che per lo più si riduceva ad un divieto di “Hitler e persone nude” in quello che è ora un voluminoso catalogo di insulti, crimini e altre mostruosità che sono vietate su tutte le piattaforme di Meta.

Quindi, l’anno scorso, quando il laboratorio di intelligenza artificiale di San Francisco OpenAI si preparava a lanciare Dall-E, uno strumento che consente a chiunque di creare istantaneamente un’immagine descrivendola in poche parole, l’azienda ha scelto Mr. Willner come responsabile della fiducia e della sicurezza. Inizialmente, ciò significava esaminare tutte le immagini e le indicazioni che i filtri di Dall-E segnalavano come potenziali violazioni – e trovare modi per impedire ai potenziali violatori di riuscirci.

Non ci è voluto molto tempo nel lavoro prima che Mr. Willner si trovasse a considerare una minaccia familiare.

• T5 Trasformatori di Testo in Testo (Parte Uno)
• Dalla teoria alla pratica Costruire un classificatore k-Nearest Neighbors
• Perché c’è una sorta di pranzo gratis

Dal The New York Times Visualizza l’articolo completo