Un approccio sistematico per scegliere la migliore tecnologia/fornitore versione MLOps

Approccio sistematico per scegliere migliore tecnologia/fornitore MLOps

La spesa sfrenata definitiva nel ML Shop

L'emergere dei casi d'uso del machine learning ha creato una lacuna nella tecnologia che ha portato a troppe soluzioni e parole di moda🐝.

Il machine learning sta diventando una parte integrante di ogni aspetto della nostra vita. Un po’ di tempo fa, ho scritto su un Approccio Sistematico alla Scelta della Tecnologia/Fornitore.

Ma scegliere una soluzione MLOps è un po’ diverso a causa del ciclo di vita lungo e della mancanza di strumenti maturi. Stai lottando per scegliere la giusta soluzione MLOps per la tua attività? Questo post è per te.

I passi coinvolti nel ciclo di vita del modello includono lo sviluppo del tuo modello sofisticato, la valutazione dei modelli e il monitoraggio dei risultati, il rilascio del tuo modello addestrato, la fornitura di previsioni, il monitoraggio e l'iterazione.

Ricetta Semplice

Per semplificare il processo di scelta del giusto fornitore/tecnologia, propongo una ricetta semplice:

  1. Inizia mappando le tue esigenze, risorse e vincoli.
  2. Cerca soluzioni potenziali ed elimina quelle che non soddisfano i tuoi requisiti.
  3. Valuta le soluzioni promettenti rimanenti.
  4. Prendi una decisione – andare o non andare?

Ad essere onesti, è generico per tutte le tecnologie in generale, ma in ogni passo darò il punto di vista del machine learning.

Nella prossima sezione, approfondiremo la mappatura delle tue esigenze, risorse e vincoli.

Passo 1: Mappa le tue esigenze, risorse e vincoli

Il primo passo nella scelta della giusta tecnologia o fornitore è mappare le tue esigenze, risorse e vincoli.:

I requisiti e le esigenze dipendono dal componente/functionalità che si inserisce nel ciclo di vita del ML e possono essere visti nella tabella seguente.

Le risorse che hai possono influenzare anche la soluzione che scegli:

  • Costo totale di possesso e costo degli errori.
  • Tempo di commercializzazione e tempo di manutenzione.
  • Esperienza del team e dimensione del team. Questo include quanti DS, MLEs e Devops hai.

In termini di vincoli, ci sono alcuni che sono generici, e alcuni dipendono dal componente/functionalità che si inserisce nel ciclo di vita del ML. I vincoli generici sono Integrazioni esistenti, Cambio di proprietà, Cloud/On-prem specifico, Multi-tenancy, Conformità e licenze, Sicurezza e Disponibilità.I vincoli per componente sono:

Nella prossima sezione, approfondiremo la ricerca di soluzioni potenziali.

Passo 2: Cerca soluzioni potenziali

Il secondo passo nel processo di selezione del giusto fornitore/tecnologia è cercare soluzioni potenziali. Tuttavia, prima di intraprendere questa ricerca, è essenziale familiarizzare con i termini tecnici e le parole di moda per assicurarsi di poter valutare efficacemente le opzioni potenziali.

Una volta acquisita questa conoscenza di base, puoi iniziare a cercare potenziali tecnologie e fornitori e selezionare alcune opzioni promettenti.

Poi crea un elenco breve di opzioni disponibili, il modo migliore per focalizzarsi è considerare quanto segue: crea un elenco breve delle opzioni disponibili.

  • Filtra attentamente in base ai tuoi vincoli, ad esempio, se stai cercando una soluzione on-premises o se hai un dataset sbilanciato, filtrerà la maggior parte delle tue opzioni.
  • Decidi se comprare o costruire la tua soluzione: Costruisci se è facile! Sia da costruire che da mantenere. Ma solo se il ROI è positivo e lo scaffale non è vuoto. Salta se il ROI non è positivo.
  • Decidi se scegliere un approccio all-in-one o best-of-breed: All-in-one è fantastico per casi comuni e facili. Ricorda che va bene. La maggior parte di noi non è Google. Best-of-breed si adatta meglio a un ambiente più limitato (ricorda le liste di prima?). Puoi anche combinarli, nel caso in cui la maggior parte dei tuoi componenti sia banale e solo alcuni siano molto limitanti. Assicurati solo che l’integrazione sia fattibile con le tue risorse.
  • Parla con le comunità come MDLI, MLOps.community, MLOps TLV e molte altre.

Nella prossima sezione, approfondiremo la valutazione delle soluzioni promettenti.

Valuta le soluzioni promettenti

Per valutare le soluzioni promettenti rimanenti, ci sono alcune fasi che dovresti seguire.

  • Inizia parlando con il fornitore o gli utenti: Questo ti aiuterà a ottenere una comprensione più approfondita delle capacità e dei limiti della soluzione. Concentrati sulla stabilità e sui problemi che le persone affrontano, poiché molte di queste soluzioni non sono mature.
  • Fai alcuni POC: Inizia con tutorial “Hello World”, questo ti aiuterà a capire come funziona la soluzione nella pratica. Fai ulteriori POC se necessario.
  • Crea una tabella di confronto: Questa può includere interazioni come release, supporto, comunità, prezzi, vincoli, requisiti e risorse.

Nella prossima sezione, approfondiremo la decisione.

Decisione! Andare? No, andare?

Quando stai valutando se procedere o meno, ricorda che la soluzione più adatta potrebbe non essere necessariamente quella perfetta.

Deve essere adatta alle tue esigenze, ai tuoi vincoli e alle tue risorse. Cerca di identificare la soluzione che meglio soddisfa le esigenze della tua organizzazione, rendendo la scelta meno intimidatoria. Per prendere una decisione su cosa fare, tieni presente i tuoi obiettivi futuri e dai priorità alla flessibilità nel processo decisionale.

È importante mantenere un atteggiamento professionale e evitare di lasciarsi coinvolgere dalla politica o di far guidare le decisioni dal proprio ego. Inoltre, è importante essere consapevoli dei pregiudizi umani e prendere provvedimenti per contrastarli.

Ultimi pensieri

In questo articolo, abbiamo fornito una ricetta per selezionare la giusta tecnologia o fornitore di ML per la tua azienda. Mappando le tue esigenze, risorse e vincoli e cercando soluzioni potenziali, puoi prendere una decisione informata che si allinea ai tuoi obiettivi. Ricorda che non esiste una soluzione perfetta, quindi concentrandoti sulla soluzione più adatta che si inserisce nel tuo contesto.

Spero di essere riuscito a condividere il mio entusiasmo per questo affascinante argomento e che tu lo trovi utile. Sei più che benvenuto a scrivermi tramite email o LinkedIn.