Ricercatori dell’Università di Binghamton introducono un sistema di anonimizzazione che aumenta la privacy (Il mio volto, la mia scelta) per permettere a tutti di avere il controllo sul proprio volto nei social network di condivisione foto.

Binghamton University researchers introduce an anonymization system that enhances privacy (My face, my choice) to allow everyone to have control over their face on photo-sharing social networks.

L’anonimizzazione è un problema critico nel contesto degli algoritmi di riconoscimento e identificazione facciale. Con la crescente commercializzazione di queste tecnologie, sono emersi preoccupazioni etiche riguardo alla privacy e alla sicurezza delle persone. La capacità di riconoscere e identificare le persone attraverso le loro caratteristiche facciali solleva questioni riguardo al consenso, al controllo sui dati personali e all’eventuale abuso. I sistemi di marcatura attuali nei social network devono affrontare adeguatamente il problema delle facce indesiderate o non autorizzate che appaiono nelle foto.

Controversie e preoccupazioni etiche hanno compromesso lo stato dell’arte negli algoritmi di riconoscimento e identificazione facciale. I sistemi precedenti mancavano di adeguate garanzie di generalizzazione e precisione, con conseguenze non volute. Sono stati utilizzati tecniche di manipolazione contraria come sfocatura e mascheramento per disattivare il riconoscimento facciale, ma queste alterano il contenuto dell’immagine e sono facilmente rilevabili. Sono state sviluppate anche tecniche di generazione e confisca avversaria, ma gli algoritmi di riconoscimento facciale stanno migliorando per resistere a tali attacchi.

In questo contesto, un nuovo articolo pubblicato di recente da un team di ricerca dell’Università di Binghamton propone un sistema di miglioramento della privacy che sfrutta i deepfake per ingannare i sistemi di riconoscimento facciale senza interrompere la continuità dell’immagine. Introducono il concetto di “My Face My Choice” (MFMC), in cui le persone possono controllare in quali foto appaiono, sostituendo i loro volti con deepfake dissimili per gli spettatori non autorizzati.

• Ricercatori del CMU introducono FROMAGe un modello di intelligenza artificiale che avvia in modo efficiente grandi modelli di linguaggio congelati (LLM) per generare testo libero integrato con immagini.
• OpenAI’s ChatGPT App introduce la funzione di navigazione con l’integrazione di Bing.
• Ricercatori dell’ETH Zurigo e del Max Planck propongono HOOD un nuovo metodo che sfrutta le reti neurali grafiche, il passaggio di messaggi a più livelli e l’addestramento non supervisionato per consentire una previsione efficiente delle dinamiche realistiche dei vestiti.

Il metodo proposto, MFMC, mira a creare versioni deepfake di foto con più persone basate su complessi diritti di accesso concessi dalle persone presenti nell’immagine. Il sistema opera in una rete sociale per la condivisione di foto, dove i diritti di accesso sono definiti per volto anziché per immagine. Quando viene caricata un’immagine, gli amici dell’utente possono essere taggati, mentre i volti rimanenti vengono sostituiti con deepfake. Questi deepfake vengono selezionati attentamente in base a vari parametri, garantendo che siano quantitativamente dissimili rispetto ai volti originali ma mantengano la continuità contestuale e visiva. Gli autori conducono ampie valutazioni utilizzando diversi set di dati, generatori di deepfake e approcci di riconoscimento facciale per verificare l’efficacia e la qualità del sistema proposto. MFMC rappresenta un significativo progresso nell’utilizzo delle incapsulazioni facciali per creare deepfake utili come difesa contro gli algoritmi di riconoscimento facciale.

L’articolo mostra i requisiti di un generatore di deepfake che può trasferire l’identità di un volto sintetico di destinazione a un volto originale di origine preservando gli attributi facciali e ambientali. Gli autori integrano più generatori di deepfake, come Nirkin et al., FTGAN, FSGAN e SimSwap, nel loro framework. Introducono anche tre modelli di accesso: Rivelazione tramite Proxy, Rivelazione tramite Autorizzazione Esplicita e Rivelazione basata su Regola di Accesso, per bilanciare la partecipazione ai social media e la privacy individuale.

L’evaluazione del sistema MFMC include la valutazione della riduzione dell’accuratezza del riconoscimento facciale utilizzando sette sistemi di riconoscimento facciale all’avanguardia e il confronto dei risultati con i metodi esistenti di alterazione del volto per preservare la privacy, come CIAGAN e Deep Privacy. La valutazione dimostra l’efficacia di MFMC nella riduzione dell’accuratezza del riconoscimento facciale. Mette in evidenza la sua superiorità rispetto ad altri metodi nella progettazione del sistema, nella sistematizzazione della produzione e nella valutazione contro i sistemi di riconoscimento facciale.

In conclusione, l’articolo presenta il sistema MFMC come un nuovo approccio per affrontare le preoccupazioni sulla privacy associate agli algoritmi di riconoscimento e identificazione facciale. Sfruttando i deepfake e i diritti di accesso concessi dalle persone, MFMC consente agli utenti di controllare in quali foto appaiono, sostituendo i loro volti con deepfake dissimili per gli spettatori non autorizzati. La valutazione di MFMC ne dimostra l’efficacia nella riduzione dell’accuratezza del riconoscimento facciale, superando i metodi esistenti di alterazione del volto per preservare la privacy. Questa ricerca rappresenta un significativo passo avanti nel miglioramento della privacy nell’era della tecnologia di riconoscimento facciale e apre possibilità per ulteriori progressi in questo campo.