Reti di intelligenza artificiale vulnerabili agli attacchi

Retini di intelligenza artificiale vulnerabili agli attacchi

Tianfu Wu presso la North Carolina State University e i suoi colleghi hanno sviluppato il software QuadAttacK per testare le reti neurali profonde per vulnerabilità avversarie.

Wu ha spiegato che un sistema di intelligenza artificiale (IA) addestrato e testato con dati puliti si comporterà come previsto.

“QuadAttacK osserva queste operazioni e impara come l’IA prende decisioni relative ai dati,” ha detto. “Questo permette a QuadAttacK di capire come i dati potrebbero essere manipolati per ingannare l’IA. QuadAttacK inizia quindi a inviare dati manipolati al sistema di IA per vedere come l’IA risponde. Se QuadAttacK ha identificato una vulnerabilità, può rapidamente fare apparire all’IA ciò che QuadAttacK vuole che essa veda.”

I ricercatori hanno utilizzato il loro software QuadAttacK per testare quattro reti neurali profonde ampiamente utilizzate e hanno scoperto che tutte e quattro sono vulnerabili. Da NC State University News Visualizza l’articolo completo

• Comprendere la tecnologia LLM
• Tecniche approfondite di gestione/imputazione dei valori mancanti nella trasformazione delle caratteristiche
• Q* e LVM L’evoluzione AGI di LLM

Copyright degli abstract © 2023 SmithBucklin, Washington, D.C., USA