Processi organizzativi per la gestione del rischio nell’apprendimento automatico

Gestione del rischio nell'apprendimento automatico

I processi organizzativi sono un determinante chiave non tecnico della affidabilità nei sistemi di ML.

Nella nostra serie continua sulla gestione del rischio del machine learning, ci siamo impegnati in un viaggio per svelare gli elementi critici che garantiscono l’affidabilità dei sistemi di machine learning (ML). Nel nostro primo articolo, abbiamo approfondito le “Competenze Culturali per la Gestione del Rischio del Machine Learning,” esplorando le dimensioni umane necessarie per navigare in questo intricato settore. Le intuizioni presentate in esso pongono le basi per la nostra attuale esplorazione, quindi consiglio vivamente di leggere la parte precedente prima di continuare con questo articolo.

Competenze Culturali per la Gestione del Rischio del Machine Learning

La cultura di un’organizzazione è un aspetto essenziale dell’IA responsabile.

towardsdatascience.com

In questo secondo articolo, spostiamo la nostra attenzione su un altro elemento vitale nel contesto dei sistemi di ML: i Processi Organizzativi. Mentre le complessità tecniche spesso oscurano questi processi, essi sono la chiave per garantire la sicurezza e le prestazioni dei modelli di machine learning. Proprio come abbiamo riconosciuto l’importanza delle competenze culturali, ora riconosciamo che i processi organizzativi sono la pietra angolare fondamentale su cui si costruisce l’affidabilità dei sistemi di ML.

Questo articolo discute il ruolo cruciale dei processi organizzativi nel campo della gestione del rischio del machine learning (MRM). In tutto l’articolo, sottolineiamo l’importanza dei praticanti che considerano attentamente, documentano e affrontano proattivamente eventuali modalità di guasto note o prevedibili all’interno dei loro sistemi di ML.

• Questa ricerca sull’IA di Microsoft e dell’Università Tsinghua introduce EvoPrompt un nuovo framework di intelligenza artificiale per l’ottimizzazione automatica dei prompt discreti che collega LLMs e algoritmi evolutivi
• Ricercatori dell’Università dell’Oregon e Adobe presentano CulturaX un set di dati multilingue con 6,3T token in 167 lingue, adatto per lo sviluppo di modelli di linguaggio di grandi dimensioni (LLM).
• ReLU vs. Softmax in Vision Transformers Does Sequence Length Matter? Insights from a Google DeepMind Research Paper’ ‘ReLU vs Softmax nei Vision Transformers La lunghezza della sequenza conta? Spunti da un articolo di ricerca di Google DeepMind

1️ ⃣. Prevedere le modalità di guasto

Anche se è cruciale identificare e affrontare possibili problemi nei sistemi di ML, trasformare questa idea in azione richiede tempo e sforzo. Tuttavia, negli ultimi anni ci sono state notevoli risorse che possono aiutare i progettisti di sistemi di ML a prevedere i problemi in modo più sistematico. Scegliendo con cura i potenziali problemi, rendere i sistemi di ML più forti e sicuri nelle situazioni reali diventa più facile. In questo contesto, le seguenti strategie…