Rilevamento dell’odio online tramite intelligenza artificiale per combattere gli stereotipi e la disinformazione

Hate detection online using artificial intelligence to combat stereotypes and disinformation

Oggi, Internet è il motore vitale della comunicazione e della connessione globale. Tuttavia, con questa connettività online senza precedenti, assistiamo anche al lato oscuro del comportamento umano, ovvero l’incitamento all’odio, la stereotipizzazione e i contenuti dannosi. Queste problematiche hanno permeato i social media, i forum online e altri spazi virtuali, infliggendo danni duraturi a individui e società. Pertanto, c’è la necessità di individuare l’incitamento all’odio.

Secondo il Pew Research Center, il 41% degli adulti americani dichiara di aver personalmente incontrato abusi su Internet e il 25% è vittima di gravi molestie.

Per favorire un ambiente online più positivo e rispettoso, è imperativo adottare misure proattive e sfruttare il potere della tecnologia. In questo contesto, l’Intelligenza Artificiale (IA) fornisce soluzioni innovative per individuare e contrastare l’incitamento all’odio e gli stereotipi.

Limitazioni delle Attuali Tecniche di Mitigazione e la Necessità di Misure Proattive

Le attuali misure per mitigare l’incitamento all’odio sono limitate. Non riescono a contenere efficacemente la diffusione di contenuti dannosi online. Queste limitazioni includono:

• Ricercatori di intelligenza artificiale di Apple e dell’Università della Columbia Britannica propongono FaceLit un nuovo quadro di intelligenza artificiale per volti neurali 3D che possono essere illuminati nuovamente.
• Riconoscimento del linguaggio parlato su Mozilla Common Voice – Trasformazioni audio.
• Stability AI svela StableLM Alpha in giapponese un balzo in avanti nel modello di lingua giapponese.

• Gli approcci reattivi, che si basano principalmente sulla moderazione umana e su algoritmi statici, faticano a tenere il passo con la rapida diffusione dell’incitamento all’odio.
• Il volume stesso dei contenuti online satura i moderatori umani, causando risposte ritardate e casi di retorica dannosa non individuati.
• Inoltre, la comprensione contestuale e le sfumature evolutive del linguaggio rappresentano sfide per i sistemi automatizzati nell’identificare e interpretare correttamente i casi di incitamento all’odio.

Per affrontare queste limitazioni e favorire un ambiente online più sicuro, è imperativo passare a misure proattive. Adottando misure alimentate dall’IA, possiamo rafforzare le nostre comunità digitali, incoraggiando l’inclusività e un mondo online coeso.

Individuazione e Segnalazione dell’Incitamento all’Odio Utilizzando l’IA

Nella battaglia contro l’incitamento all’odio, l’IA emerge come un alleato formidabile, con algoritmi di apprendimento automatico (ML) per individuare e segnalare rapidamente e accuratamente i contenuti dannosi. Analizzando grandi quantità di dati, i modelli di IA possono imparare a riconoscere schemi e sfumature linguistiche associate all’incitamento all’odio, consentendo loro di categorizzare e rispondere in modo efficace ai contenuti offensivi.

Per addestrare i modelli di IA per una precisa individuazione dell’incitamento all’odio, vengono utilizzate tecniche di apprendimento supervisionato e non supervisionato. L’apprendimento supervisionato prevede l’utilizzo di esempi etichettati di incitamento all’odio e contenuti non dannosi per insegnare al modello a distinguere tra le due categorie. Al contrario, i metodi di apprendimento non supervisionato e semi-supervisionato sfruttano dati non etichettati per sviluppare la comprensione del modello dell’incitamento all’odio.

Sfruttare le Tecniche di Controdiscorso dell’IA per Combattere l’Incitamento all’Odio

Il controdiscorso emerge come una potente strategia per contrastare l’incitamento all’odio sfidando direttamente e affrontando le narrazioni dannose. Comprende la generazione di contenuti persuasivi e informativi per promuovere empatia, comprensione e tolleranza. Conferisce potere agli individui e alle comunità per partecipare attivamente alla creazione di un ambiente digitale positivo.

Anche se i dettagli specifici dei singoli modelli di controdiscorso possono variare in base alla tecnologia dell’IA e agli approcci di sviluppo, alcune caratteristiche e tecniche comuni includono:

• Generazione di Linguaggio Naturale (NLG): I modelli di controdiscorso utilizzano la NLG per produrre risposte simili a quelle umane in forma scritta o parlata. Le risposte sono coerenti e pertinenti al contesto specifico dell’incitamento all’odio a cui si rivolgono.
• Analisi dei Sentimenti: I modelli di controdiscorso dell’IA impiegano l’analisi dei sentimenti per valutare il tono emotivo dell’incitamento all’odio e adattare le risposte di conseguenza. Ciò assicura che il controdiscorso sia sia impattante che empatico.
• Comprensione Contestuale: Analizzando il contesto circostante l’incitamento all’odio, i modelli di controdiscorso possono generare risposte che affrontano specifiche problematiche o fraintendimenti, contribuendo a un controdiscorso più efficace e mirato.
• Diversità dei Dati: Per evitare pregiudizi e garantire equità, i modelli di controdiscorso vengono addestrati su dataset diversificati che rappresentano varie prospettive e sfumature culturali. Ciò aiuta a generare risposte inclusive e culturalmente sensibili.
• Apprendimento dal Feedback dell’Utente: I modelli di controdiscorso possono migliorare continuamente apprendendo dal feedback degli utenti. Questo ciclo di feedback consente al modello di perfezionare le sue risposte basandosi su interazioni reali, aumentandone l’efficacia nel tempo.

Esempi di Combattimento dell’Incitamento all’Odio Utilizzando l’IA

Un esempio reale di una tecnica di controdiscorso dell’IA è il “Redirect Method” sviluppato da Jigsaw di Google e Moonshot CVE. Il Redirect Method utilizza la pubblicità mirata per raggiungere individui suscettibili a ideologie estremiste e incitamento all’odio. Questo approccio alimentato dall’IA mira a dissuadere gli individui dal coinvolgimento con contenuti dannosi e a promuovere empatia, comprensione e un allontanamento dalle credenze estremiste.

I ricercatori hanno anche sviluppato un nuovo modello di intelligenza artificiale chiamato BiCapsHate che agisce come uno strumento potente contro i discorsi di odio online, come riportato in IEEE Transactions on Computational Social Systems. Supporta un’analisi bidirezionale del linguaggio, migliorando la comprensione del contesto per una determinazione accurata dei contenuti odiosi. Questo avanzamento cerca di mitigare l’impatto dannoso dei discorsi di odio sui social media, offrendo il potenziale per interazioni online più sicure.

Allo stesso modo, i ricercatori dell’Università del Michigan hanno sfruttato l’intelligenza artificiale per combattere i discorsi di odio online utilizzando un approccio chiamato Rule By Example (RBE). Utilizzando il deep learning, questo approccio apprende le regole per classificare i discorsi di odio da esempi di contenuti odiosi. Queste regole vengono applicate al testo di input per identificare e prevedere con precisione i discorsi di odio online.

Considerazioni etiche per i modelli di rilevamento dei discorsi di odio

Per massimizzare l’efficacia dei modelli di controdiscorso alimentati dall’intelligenza artificiale, le considerazioni etiche sono fondamentali. Tuttavia, è importante bilanciare la libertà di espressione e il divieto di diffusione di contenuti dannosi per evitare la censura.

La trasparenza nello sviluppo e nella messa in opera dei modelli di controdiscorso basati sull’intelligenza artificiale è essenziale per favorire la fiducia e la responsabilità tra gli utenti e gli interessati. Inoltre, garantire l’equità è altrettanto importante, poiché i pregiudizi nei modelli di intelligenza artificiale possono perpetuare la discriminazione e l’esclusione.

Per esempio, l’intelligenza artificiale progettata per identificare i discorsi di odio può involontariamente amplificare il pregiudizio razziale. La ricerca ha scoperto che i principali modelli di intelligenza artificiale per i discorsi di odio erano 1,5 volte più propensi a segnalare i tweet degli afroamericani come offensivi. Sono 2,2 volte più propensi a segnalare come discorsi di odio i tweet scritti in inglese afroamericano. Evidenze simili sono emerse da uno studio su 155.800 post di Twitter correlati ai discorsi di odio, sottolineando la sfida di affrontare il pregiudizio razziale nella moderazione dei contenuti dell’intelligenza artificiale.

In un altro studio, i ricercatori hanno testato quattro sistemi di intelligenza artificiale per il rilevamento dei discorsi di odio e hanno scoperto che tutti avevano difficoltà a identificare con precisione frasi tossiche. Per diagnosticare i problemi esatti in questi modelli di rilevamento dei discorsi di odio, hanno creato una tassonomia di 18 tipi di discorsi di odio, inclusi insulti e linguaggio minaccioso. Hanno anche evidenziato 11 scenari che confondono l’intelligenza artificiale, come l’uso di volgarità in affermazioni non odiose. Come risultato, lo studio ha prodotto HateCheck, un set di dati open source di quasi 4.000 esempi, mirando a migliorare la comprensione delle sfumature dei discorsi di odio per i modelli di intelligenza artificiale.

Consapevolezza e alfabetizzazione digitale

Combattere i discorsi di odio e gli stereotipi richiede un approccio proattivo e multidimensionale. Pertanto, aumentare la consapevolezza e promuovere l’alfabetizzazione digitale è fondamentale per combattere i discorsi di odio e gli stereotipi.

Educare le persone sull’impatto dei contenuti dannosi favorisce una cultura di empatia e comportamenti online responsabili. Strategie che incoraggiano il pensiero critico permettono agli utenti di distinguere tra un discorso legittimo e un discorso di odio, riducendo la diffusione di narrazioni dannose. Inoltre, dotare gli utenti delle competenze per identificare ed affrontare in modo efficace i discorsi di odio è vitale. Ciò permetterà loro di sfidare e contrastare la retorica dannosa, contribuendo a un ambiente digitale più sicuro e rispettoso.

Con l’evoluzione della tecnologia dell’intelligenza artificiale, il potenziale per affrontare i discorsi di odio e gli stereotipi con maggiore precisione e impatto cresce in modo esponenziale. Pertanto, è importante consolidare il controdiscorso alimentato dall’intelligenza artificiale come uno strumento potente per favorire l’empatia e l’coinvolgimento positivo online.

Per maggiori informazioni riguardo le tendenze e la tecnologia dell’intelligenza artificiale, visita unite.ai.