Come Amazon Shopping utilizza la moderazione dei contenuti di Amazon Rekognition per rivedere le immagini dannose nelle recensioni dei prodotti

Amazon Shopping utilizza la moderazione dei contenuti di Amazon Rekognition per rivedere le immagini dannose nelle recensioni dei prodotti.

I clienti si rivolgono sempre più alle recensioni dei prodotti per prendere decisioni informate nel loro percorso di acquisto, che si tratti di acquistare articoli di tutti i giorni come un asciugamano da cucina o di fare acquisti importanti come comprare una macchina. Queste recensioni si sono trasformate in una fonte essenziale di informazioni, consentendo agli acquirenti di accedere alle opinioni e alle esperienze di altri clienti. Di conseguenza, le recensioni dei prodotti sono diventate un aspetto cruciale di qualsiasi negozio, offrendo preziosi feedback e spunti per aiutare a prendere decisioni di acquisto informate.

Amazon ha uno dei negozi più grandi con centinaia di milioni di articoli disponibili. Nel 2022, 125 milioni di clienti hanno contribuito con quasi 1,5 miliardi di recensioni e valutazioni ai negozi Amazon, rendendo le recensioni online su Amazon una solida fonte di feedback per i clienti. Alla scala delle recensioni dei prodotti inviate ogni mese, è fondamentale verificare che queste recensioni siano conformi alle Linee guida della community di Amazon riguardanti il linguaggio accettabile, le parole, i video e le immagini. Questa pratica è in atto per garantire che i clienti ricevano informazioni accurate riguardo al prodotto e per evitare che le recensioni includano linguaggio inappropriato, immagini offensive o qualsiasi tipo di discorso d’odio rivolto a individui o comunità. Applicando queste linee guida, Amazon può mantenere un ambiente sicuro e inclusivo per tutti i clienti.

L’automazione della moderazione dei contenuti consente ad Amazon di scalare il processo mantenendo un’alta precisione. Si tratta di un problema complesso con sfide uniche e che richiede tecniche diverse per il testo, le immagini e i video. Le immagini sono un componente rilevante delle recensioni dei prodotti, spesso offrendo un impatto più immediato sui clienti rispetto al testo. Con Amazon Rekognition Content Moderation, Amazon è in grado di rilevare automaticamente immagini dannose nelle recensioni dei prodotti con una maggiore precisione, riducendo la dipendenza dai revisori umani per moderare tali contenuti. La moderazione dei contenuti di Rekognition ha contribuito a migliorare il benessere dei moderatori umani e a ottenere significativi risparmi di costi.

Moderazione con modelli di machine learning self-hosted

Il team di Amazon Shopping ha progettato ed implementato un sistema di moderazione che utilizza il machine learning (ML) in combinazione con una revisione umana interattiva (HITL) per garantire che le recensioni dei prodotti riguardino l’esperienza del cliente con il prodotto e non contengano contenuti inappropriati o dannosi secondo le linee guida della community. Il sottosistema di moderazione delle immagini, come illustrato nel diagramma seguente, ha utilizzato più modelli di visione artificiale self-hosted e self-trained per rilevare immagini che violano le linee guida di Amazon. Il decision handler determina l’azione di moderazione e fornisce motivazioni per la sua decisione basate sull’output dei modelli di ML, decidendo quindi se l’immagine richiede una revisione ulteriore da parte di un moderatore umano o può essere automaticamente approvata o rifiutata.

• Progressi nella comprensione dei documenti
• Furto digitale” riconquista la Pietra di Rosetta
• Rinventare l’Utopia Comunità autogenerate per l’era digitale

Con questi modelli di ML self-hosted, il team ha iniziato automatizzando le decisioni su il 40% delle immagini ricevute come parte delle recensioni e ha continuato a lavorare per migliorare la soluzione nel corso degli anni affrontando diverse sfide:

• Sforzi continui per migliorare il tasso di automazione – Il team desiderava migliorare l’accuratezza degli algoritmi di ML, puntando ad aumentare il tasso di automazione. Ciò richiede investimenti continui nell’etichettatura dei dati, nelle scienze dei dati e nelle MLOps per l’addestramento e la distribuzione dei modelli.
• Complessità del sistema – La complessità dell’architettura richiede investimenti in MLOps per garantire che il processo di inferenza di ML sia scalabile in modo efficiente per soddisfare il crescente traffico di invio dei contenuti.

Sostituire i modelli di ML self-hosted con l’API di moderazione dei contenuti di Rekognition

Amazon Rekognition è un servizio di intelligenza artificiale (AI) gestito che offre modelli pre-addestrati attraverso un’interfaccia API per la moderazione di immagini e video. È stato ampiamente adottato da settori come l’e-commerce, i social media, i giochi, le app di incontri online e altri per moderare i contenuti generati dagli utenti (UGC). Questo include una serie di tipi di contenuti, come le recensioni dei prodotti, i profili degli utenti e la moderazione dei post sui social media.

La moderazione dei contenuti di Rekognition automatizza e semplifica i flussi di lavoro di moderazione delle immagini e dei video senza richiedere esperienza in ML. I clienti di Amazon Rekognition possono elaborare milioni di immagini e video, rilevando efficacemente contenuti inappropriati o indesiderati, con API completamente gestite e regole di moderazione personalizzabili per mantenere gli utenti al sicuro e l’azienda in conformità alle normative.

Il team ha migrato con successo un sottoinsieme di modelli di ML auto-gestiti nel sistema di moderazione delle immagini per la rilevazione di contenuti di nudità e non adatti al lavoro (NSFW) all’API di rilevamento della moderazione di Amazon Rekognition, sfruttando i modelli di moderazione pre-addestrati altamente accurati e completi. Con l’alta precisione di Amazon Rekognition, il team è stato in grado di automatizzare più decisioni, risparmiare costi e semplificare l’architettura del sistema.

Migliorata precisione e categorie di moderazione ampliate

L’implementazione dell’API di moderazione delle immagini di Amazon Rekognition ha portato a una maggiore precisione nella rilevazione di contenuti inappropriati. Ciò significa che un ulteriore approssimativo di 1 milione di immagini all’anno verrà moderato automaticamente senza la necessità di una revisione umana.

Eccellenza operativa

Il team di Amazon Shopping è riuscito a semplificare l’architettura del sistema, riducendo lo sforzo operativo necessario per gestire e mantenere il sistema. Questo approccio ha permesso di risparmiare mesi di sforzi DevOps all’anno, il che significa che ora possono dedicare il loro tempo allo sviluppo di funzionalità innovative anziché spenderlo per compiti operativi.

Riduzione dei costi

L’alta precisione di Rekognition Content Moderation ha consentito al team di inviare meno immagini per la revisione umana, inclusi contenuti potenzialmente inappropriati. Ciò ha ridotto i costi associati alla moderazione umana e ha permesso ai moderatori di concentrare i loro sforzi su compiti aziendali ad alto valore. In combinazione con i guadagni di efficienza DevOps, il team di Amazon Shopping ha ottenuto significativi risparmi di costi.

Conclusioni

La migrazione da modelli di ML auto-ospitati all’API di moderazione di Amazon Rekognition per la moderazione delle recensioni dei prodotti può fornire numerosi vantaggi alle aziende, tra cui significativi risparmi di costi. Automatizzando il processo di moderazione, i negozi online possono moderare rapidamente e accuratamente grandi volumi di recensioni di prodotti, migliorando l’esperienza del cliente assicurandosi che i contenuti inappropriati o di spam vengano rimossi rapidamente. Inoltre, utilizzando un servizio gestito come l’API di moderazione di Amazon Rekognition, le aziende possono ridurre il tempo e le risorse necessarie per sviluppare e mantenere i propri modelli, il che può essere particolarmente utile per le aziende con risorse tecniche limitate. La flessibilità dell’API consente anche ai negozi online di personalizzare le regole e le soglie di moderazione in base alle proprie esigenze specifiche.

Scopri di più sulla moderazione dei contenuti su AWS e sui casi d’uso di moderazione dei contenuti con ML. Fai il primo passo per semplificare le operazioni di moderazione dei contenuti con AWS.