Linee guida per l’era della guerra dell’AI.
Guidelines for the AI warfare era.
Il 14 marzo, un drone di sorveglianza statunitense era in missione di routine in spazi aerei internazionali sul Mar Nero quando è stato intercettato da due jet da combattimento russi. Per quasi mezz’ora, i jet hanno molestato il sistema americano, un drone MQ-9 Reaper, sfrecciando accanto e scaricando carburante sulle sue ali e sensori. Uno dei jet ha urtato l’elica del Reaper, rendendolo inoperabile e costringendo i suoi operatori americani a far schiantare il drone in mare. Poco dopo, Mosca ha assegnato medaglie ai due piloti russi coinvolti nell’incidente.
Ogni mossa del Reaper, compresa la sua auto-distruzione dopo la collisione, è stata supervisionata e diretta dalle forze americane da una stanza di controllo a migliaia di chilometri di distanza. Ma cosa succederebbe se il drone non fosse stato pilotato affatto da esseri umani, ma da un software indipendente e artificialmente intelligente? Cosa succederebbe se quel software avesse interpretato le molestie russe come un attacco? Date la velocità vertiginosa dell’innovazione nelle tecnologie di intelligenza artificiale (AI) e autonome, quel scenario potrebbe presto diventare realtà.
I sistemi e le tecnologie militari tradizionali provengono da un mondo in cui gli esseri umani prendono decisioni in loco o almeno in tempo reale su vita e morte. I sistemi abilitati dall’AI sono meno dipendenti da questo elemento umano; i futuri sistemi autonomi potrebbero non averne affatto. Questa prospettiva non solleva solo questioni spinose di responsabilità, ma significa anche che non esistono protocolli stabiliti per quando le cose vanno male. Cosa succederebbe se un drone autonomo americano bombardasse un bersaglio che doveva solo sorvegliare? Come farebbe Washington a rassicurare l’altra parte che l’incidente era involontario e non si ripeterà?
Da Foreign Affairs Visualizza l’articolo completo
