DARPA coinvolge gli hacker per rafforzare il software critico contro le minacce informatiche

DARPA coinvolge hacker per proteggere software critico dai cyber-attacchi.

L’urgenza di proteggere l’infrastruttura software vulnerabile è al centro di un ambizioso nuovo programma DARPA: la AI Cyber Challenge (AIxCC). Attraverso competizioni che coinvolgono i migliori talenti della sicurezza, AIxCC mira a stimolare strumenti innovativi che rilevano e correggono automaticamente le vulnerabilità su larga scala.

Come evidenziato nell’annuncio di Perri Adams, responsabile del programma AIxCC presso BlackHat 2023, la vita moderna dipende sempre di più dal software, ma questa vasta base di codice rappresenta una superficie di attacco ideale per attori malintenzionati. Gli anni recenti hanno evidenziato la necessità urgente di capacità avanzate per proteggere le nostre fondamenta software.

Adams crede che le competizioni possano stimolare progressi all’incrocio tra intelligenza artificiale e sicurezza. Si è appassionata alla sicurezza informatica attraverso giochi come Capture the Flag quando era studentessa di informatica. Competere contro hacker di élite è stato un’esperienza educativa profonda, che ha rivelato una varietà di competenze necessarie per la difesa. Queste competizioni continuano a influenzare il suo approccio per catalizzare l’innovazione.

AIxCC rappresenta una nuova forma di sfida per promuovere il progresso nella protezione del software vulnerabile che sostiene i sistemi critici. Le squadre devono creare sistemi di intelligenza artificiale che identifichino e correggano automaticamente le vulnerabilità su larga scala per avere successo.

• Anthropic ha raccolto $100 dalla Telecom sudcoreana per un LLM personalizzato
• AdaTape di Google AI è un nuovo approccio di intelligenza artificiale con un’architettura basata su Transformer
• Svelare i Deepfake Sfruttare i modelli di stima della posa della testa per una maggiore precisione nella rilevazione

Adams evidenzia che i recenti progressi nell’intelligenza artificiale offrono strade promettenti per anticipare le minacce se utilizzati in modo responsabile. AIxCC mira a riunire i migliori talenti in campo di intelligenza artificiale e sicurezza per esplorare questo potenziale attraverso la competizione. Crede che il potere delle sfide sia una forza trainante e una collaborazione mancante fino ad ora. AIxCC è un’opportunità per dimostrare l’applicazione significativa dell’intelligenza artificiale alle più grandi sfide digitali della società.

AIxCC cerca di affrontare la sfida di proteggere l’infrastruttura mobilitando ricercatori di sicurezza ed esperti di intelligenza artificiale in una missione collaborativa. Il programma biennale comprende sia percorsi finanziati che aperti per le squadre che si qualificano a competere nella risoluzione delle sfide di sicurezza del software.

L’obiettivo è superare i vincoli di risorse che impediscono la correzione manuale delle vulnerabilità diffuse del software. I concorrenti sfrutteranno le tecniche di intelligenza artificiale per sviluppare sistemi automatizzati per la sicurezza del codice ampiamente utilizzato su scala infrastrutturale nazionale.

I principali attori del settore privato, tra cui Anthropic, Google, Microsoft e OpenAI, forniranno accesso alle principali piattaforme di intelligenza artificiale per i concorrenti. DARPA prevede che l’integrazione di intelligenza artificiale commerciale all’avanguardia catalizzerà l’innovazione nella sicurezza informatica.

Il progetto OpenSSF della Linux Foundation fornirà consulenza alle squadre sull’applicazione efficace dell’intelligenza artificiale alle problematiche di sicurezza open-source, che rappresentano la maggior parte del software che necessita di protezione. Gli eventi si svolgeranno presso le prestigiose conferenze sulla sicurezza DEFCON e BlackHat.

Fino a sette squadre finanziate possono ricevere fino a $750.000 ciascuna per competere nelle semifinali, dove circa 20 squadre in totale si qualificheranno per la fase finale. Saranno assegnati premi fino a $75.000 ai primi classificati che dimostrano al meglio il potenziale dell’intelligenza artificiale per rafforzare l’integrità del software.

Sfruttando ingegneri di sicurezza competenti per individuare e correggere le vulnerabilità in modo proattivo, AIxCC rappresenta una strategia illuminata per la difesa cibernetica. Il programma riconosce che i tecnologi sono un alleato potente nella costruzione della resilienza, anziché una responsabilità da sorvegliare.

AIxCC mira a coltivare capacità avanzate prima che si verifichino i disastri, incentivando gli hacker a mettere a disposizione il loro talento. Lo sviluppo di soluzioni autonome oggi pagherà dividendi nella sicurezza dei sistemi critici contro gli attacchi di nazioni avversarie in futuro.

Attraverso questa innovativa partnership pubblico-privata, DARPA cerca di canalizzare l’immensa potenzialità dell’intelligenza artificiale a beneficio della società, rafforzando il codice vulnerabile che serve come pilastro del nostro mondo interconnesso.

Adams crede che AIxCC si baserà in modo ponderato su decenni di ricerca sulla sicurezza anziché semplicemente applicare reti neurali ai problemi. L’obiettivo è stimolare un’innovazione sostanziale all’incrocio tra intelligenza artificiale e metodologie comprovate.

Sottolinea il ruolo critico che l’open source gioca nella difesa del mondo reale e nell’integrità della catena di approvvigionamento. Il progetto OpenSSF della Linux Foundation fornirà consulenza alle squadre per affrontare questioni vitali per la sicurezza open-source.

Nella visione di Adams, i vincitori di AIxCC promuoveranno il bene pubblico attraverso l’open source delle innovazioni. Le nuove capacità autonome sviluppate saranno liberamente disponibili sia per i sviluppatori commerciali che per quelli della comunità.

In definitiva, Adams vede AIxCC come un’opportunità per indirizzare le immense capacità dell’intelligenza artificiale a beneficio della società. Il programma riconosce che i tecnologi sono partner nella costruzione della resilienza digitale. Incentivando i loro talenti, AIxCC mira a coltivare sistemi difensivi avanzati pronti a fronteggiare le minacce di domani.