Ottimizzazione dei sistemi informatici con strumenti di intelligenza artificiale più generalizzati

'Ottimizzazione dei sistemi informatici con intelligenza artificiale più avanzata'

Come MuZero, AlphaZero e AlphaDev stanno aiutando a ottimizzare l’intero ecosistema di calcolo che alimenta il nostro mondo di dispositivi

Gli algoritmi di intelligenza artificiale (IA) stanno diventando sempre più sofisticati ogni giorno, ognuno progettato per risolvere un problema nel modo migliore. Nel contesto dei nostri sforzi per costruire sistemi di IA sempre più capaci e generali, stiamo lavorando per creare strumenti di IA con una vasta comprensione del mondo, in modo che le conoscenze utili possano essere trasferite tra molti diversi tipi di compiti.

Basandosi sul reinforcement learning, i nostri modelli di IA AlphaZero e MuZero hanno raggiunto prestazioni sovrumane vincendo giochi. Ora, stanno ampliando le loro capacità per aiutare ad ottimizzare i data center e la compressione video, e più recentemente, la nostra versione specializzata di AlphaZero, chiamata AlphaDev, ha scoperto nuovi algoritmi che stanno già accelerando il software alla base della nostra società digitale.

Mentre questi strumenti stanno creando progressi in termini di efficienza in tutto l’ecosistema di calcolo, i primi risultati mostrano il potenziale trasformativo di strumenti di IA più generici. Qui spieghiamo come questi avanzamenti stanno plasmando il futuro del calcolo e stanno già aiutando miliardi di persone e il pianeta.

Ottimizzazione delle risorse del data center

I data center gestiscono tutto, dalla fornitura dei risultati di ricerca all’elaborazione di set di dati. Borg gestisce miliardi di compiti in tutto Google, assegnando questi carichi di lavoro è come giocare a Tetris multidimensionale. Questo sistema aiuta ad ottimizzare i compiti per i servizi di infrastruttura interna, i prodotti rivolti agli utenti come Google Workspace e Search, e gestisce anche l’elaborazione batch.

• RoboCat Un agente robotico auto-migliorante
• Incontra DragonDiffusion un metodo di modifica delle immagini a grana fine che consente la manipolazione in stile trascinamento su modelli di diffusione.
• Quanto rischioso è il tuo progetto di LLM open-source? Una nuova ricerca spiega i fattori di rischio associati agli LLM open-source.

Borg utilizza regole codificate manualmente per pianificare i compiti e gestire questo carico di lavoro. A scala Google, queste regole codificate manualmente non possono tener conto della varietà di distribuzioni dei carichi di lavoro in continua evoluzione, quindi sono progettate come “una misura per tutte”. È qui che tecnologie di machine learning come AlphaZero sono particolarmente utili: questi algoritmi sono in grado di creare automaticamente regole individuali ottimalmente personalizzate che sono più efficienti per le diverse distribuzioni dei carichi di lavoro.

Durante l’addestramento, AlphaZero ha imparato a riconoscere i modelli dei compiti che arrivano nei data center e ha imparato anche a prevedere i migliori modi per gestire la capacità e prendere decisioni con i migliori risultati a lungo termine.

Quando abbiamo applicato AlphaZero a Borg, i test sperimentali in produzione hanno mostrato che questo approccio potrebbe ridurre la quantità di hardware inutilizzato fino al 19%, ottimizzando l’utilizzo delle risorse dei data center di Google.

Prossimi passi per la compressione video

Lo streaming video costituisce la maggior parte del traffico internet, consumando grandi quantità di dati. Trovare efficienze in questo processo, per quanto piccole, avrà un enorme impatto sui milioni di persone che guardano video ogni giorno.

L’anno scorso, abbiamo lavorato insieme a YouTube per applicare le capacità di risoluzione dei problemi di MuZero all’aiuto nella compressione e trasmissione dei video. Riducendo il bitrate del 4%, senza compromettere la qualità visiva, MuZero ha migliorato l’esperienza complessiva di YouTube.

Inizialmente abbiamo applicato MuZero per ottimizzare la compressione di ogni singolo fotogramma all’interno di un video. Ora, abbiamo ampliato questo lavoro per prendere decisioni su come raggruppare e riferire i fotogrammi durante la codifica, portando a ulteriori risparmi di bitrate.

I primi risultati di questi primi due passaggi mostrano un grande potenziale del MuZero come strumento generalizzato, aiutando a trovare soluzioni ottimali in tutto il processo di compressione video.

Scoperta di algoritmi più veloci

Più recentemente, AlphaDev, una versione di AlphaZero, ha fatto una scoperta innovativa nel campo della scienza informatica, scoprendo algoritmi di ordinamento e hashing più veloci – due processi fondamentali utilizzati miliardi di volte al giorno per ordinare, archiviare e recuperare dati.

Gli algoritmi di ordinamento influenzano il modo in cui tutti i dispositivi digitali elaborano e visualizzano le informazioni, dai risultati di ricerca online e dai post sui social media alle raccomandazioni degli utenti. AlphaDev ha scoperto un algoritmo che aumenta l’efficienza per l’ordinamento di brevi sequenze di elementi del 70% e di circa l’1,7% per sequenze di più di 250.000 elementi, rispetto agli algoritmi nella libreria C++. Quindi, quando un utente invia una query di ricerca, l’algoritmo di AlphaDev può aiutare a ordinare i risultati più velocemente. Quando usato su larga scala, si risparmia enormi quantità di tempo ed energia.

AlphaDev ha anche scoperto un algoritmo più veloce per l’hashing delle informazioni, che viene spesso utilizzato per l’archiviazione e il recupero dei dati, ad esempio in un database dei clienti. Gli algoritmi di hashing utilizzano tipicamente una chiave (ad esempio il nome utente “Jane Doe”) per generare un hash univoco, che corrisponde ai valori dei dati che devono essere recuperati (ad esempio “numero d’ordine 164335-87”).

Come un bibliotecario che utilizza un sistema di classificazione per trovare rapidamente un libro specifico, con un sistema di hashing, il computer già sa cosa sta cercando e dove trovarlo. Quando applicato alla gamma di funzioni di hashing da 9 a 16 byte nei data center, l’algoritmo di AlphaDev ha migliorato l’efficienza del 30%.

Dopo aver rilasciato gli algoritmi di ordinamento nella libreria standard C++ di LLVM – sostituendo le subroutine che sono state utilizzate per oltre un decennio con quelle generate da RL – e gli algoritmi di hashing nella libreria abseil, milioni di sviluppatori e aziende stanno ora utilizzando questi algoritmi in diversi settori, come il cloud computing, lo shopping online e la gestione della catena di approvvigionamento.

Strumenti generici per alimentare il nostro futuro digitale

Dal gioco dei giochi alla risoluzione di complessi problemi di ingegneria al cuore di ogni dispositivo, i nostri strumenti di intelligenza artificiale stanno risparmiando tempo ed energia a miliardi di persone. E questo è solo l’inizio.

Immaginiamo un futuro in cui ulteriori strumenti di intelligenza artificiale generici possano contribuire ad ottimizzare l’intero ecosistema informatico che alimenta il nostro mondo digitale. Ma per supportare questi strumenti, avremo bisogno di un’infrastruttura digitale più veloce, efficiente e sostenibile.

Servono molti altri progressi teorici e tecnologici per raggiungere strumenti di intelligenza artificiale pienamente generalizzati. Il potenziale trasformativo degli strumenti di intelligenza artificiale generici e come possono essere applicati a sfide diverse nel campo della tecnologia, della scienza e della medicina. Siamo entusiasti di ciò che ci aspetta.

Scopri di più sugli algoritmi di ordinamento:

Leggi il nostro blog: https://www.deepmind.com/blog/alphadev-discovers-faster-sorting-algorithms

Leggi il nostro articolo su Nature: https://www.nature.com/articles/s41586-023-06004-9