Optimisation des systèmes informatiques avec des outils d’IA plus généralisés

'Optimisation des systèmes informatiques avec l'IA généralisée'

Comment MuZero, AlphaZero et AlphaDev aident à optimiser l’ensemble de l’écosystème informatique qui alimente notre monde de dispositifs

Les algorithmes d’intelligence artificielle (IA) deviennent de plus en plus sophistiqués chaque jour, chacun conçu pour résoudre un problème de la meilleure façon possible. Dans le cadre de nos efforts visant à construire des systèmes d’IA de plus en plus capables et généraux, nous travaillons à la création d’outils d’IA dotés d’une compréhension globale du monde, afin que les connaissances utiles puissent être transférées entre de nombreux types de tâches différentes.

Basés sur l’apprentissage par renforcement, nos modèles d’IA AlphaZero et MuZero ont atteint des performances surhumaines en remportant des jeux. Maintenant, ils étendent leurs capacités pour aider à optimiser les centres de données et la compression vidéo – et plus récemment, notre version spécialisée d’AlphaZero, appelée AlphaDev, a découvert de nouveaux algorithmes qui accélèrent déjà les logiciels à la base de notre société numérique.

Alors que ces outils créent des avancées en termes d’efficacité dans l’ensemble de l’écosystème informatique, les premiers résultats montrent le potentiel transformateur d’outils d’IA plus généraux. Ici, nous expliquons comment ces avancées façonnent l’avenir de l’informatique et aident déjà des milliards de personnes et la planète.

Optimisation des ressources des centres de données

Les centres de données gèrent tout, de la livraison des résultats de recherche au traitement des ensembles de données. Borg gère des milliards de tâches à travers Google, l’attribution de ces charges de travail est comme un jeu de Tetris multidimensionnel. Ce système aide à optimiser les tâches pour les services d’infrastructure interne, les produits destinés aux utilisateurs tels que Google Workspace et Search, et gère également le traitement par lots.

• RoboChat Un agent robotique auto-améliorant.
• Rencontrez DragonDiffusion une méthode d’édition d’images de haute précision permettant une manipulation de type drag and drop sur des modèles de diffusion.
• Quel est le niveau de risque de votre projet Open-Source LLM ? Une nouvelle recherche explique les facteurs de risque associés aux LLM Open-Source.

Borg utilise des règles codées manuellement pour planifier les tâches et gérer cette charge de travail. À l’échelle de Google, ces règles codées manuellement ne peuvent pas prendre en compte la variété des distributions de charge de travail en constante évolution, elles sont donc conçues comme “une taille pour s’adapter au mieux à tous”. C’est là que les technologies d’apprentissage automatique telles qu’AlphaZero sont particulièrement utiles: ces algorithmes sont capables de créer automatiquement des règles individuelles optimalisées qui sont plus efficaces pour les différentes distributions de charge de travail.

Pendant l’entraînement, AlphaZero a appris à reconnaître des modèles dans les tâches entrant dans les centres de données et a également appris à prédire les meilleures façons de gérer la capacité et de prendre des décisions avec les meilleurs résultats à long terme.

Lorsque nous avons appliqué AlphaZero à Borg, des essais expérimentaux en production ont montré que cette approche pouvait réduire la quantité de matériel sous-utilisé jusqu’à 19%, optimisant ainsi l’utilisation des ressources des centres de données de Google.

Prochaines étapes pour la compression vidéo

La diffusion en continu de vidéos représente la majorité du trafic Internet, consommant de grandes quantités de données. Ainsi, trouver des efficacités dans ce processus, aussi petites soient-elles, aura un impact énorme sur les millions de personnes qui regardent des vidéos chaque jour.

L’année dernière, nous avons travaillé avec YouTube pour appliquer les capacités de résolution de problèmes de MuZero à l’aide de la compression et de la transmission de vidéos. En réduisant le débit binaire de 4%, sans compromettre la qualité visuelle, MuZero a amélioré l’expérience globale de YouTube.

Nous avons d’abord appliqué MuZero pour optimiser la compression de chaque image individuelle dans une vidéo. Maintenant, nous avons étendu ce travail pour prendre des décisions sur la façon dont les images sont regroupées et référencées lors de l’encodage, ce qui permet d’économiser davantage de débit binaire.

Les premiers résultats de ces deux premières étapes montrent un grand potentiel de MuZero à devenir un outil plus généralisé, aidant à trouver des solutions optimales dans l’ensemble du processus de compression vidéo.

Découverte d’algorithmes plus rapides

Récemment, AlphaDev, une version d’AlphaZero, a réalisé une percée novatrice en informatique en découvrant des algorithmes de tri et de hachage plus rapides – deux processus fondamentaux utilisés des milliards de fois par jour pour trier, stocker et récupérer des données.

Les algorithmes de tri ont un impact sur la façon dont tous les appareils numériques traitent et affichent les informations, de la classification des résultats de recherche en ligne et des publications sociales aux recommandations des utilisateurs. AlphaDev a découvert un algorithme qui augmente l’efficacité du tri des courtes séquences d’éléments de 70% et d’environ 1,7% pour les séquences de plus de 250 000 éléments, par rapport aux algorithmes de la bibliothèque C++. Ainsi, lorsque qu’un utilisateur soumet une requête de recherche, l’algorithme d’AlphaDev peut aider à trier les résultats plus rapidement. Lorsqu’il est utilisé à grande échelle, cela permet de gagner énormément de temps et d’énergie.

AlphaDev a également découvert un algorithme plus rapide pour le hachage des informations, qui est souvent utilisé pour le stockage et la récupération de données, comme dans une base de données client. Les algorithmes de hachage utilisent généralement une clé (par exemple, le nom d’utilisateur “Jane Doe”) pour générer un hachage unique, qui correspond aux valeurs de données à récupérer (par exemple, “numéro de commande 164335-87”).

Comme un bibliothécaire qui utilise un système de classification pour trouver rapidement un livre spécifique, avec un système de hachage, l’ordinateur sait déjà ce qu’il recherche et où le trouver. Lorsqu’il est appliqué à la plage de 9 à 16 octets des fonctions de hachage dans les centres de données, l’algorithme d’AlphaDev a amélioré l’efficacité de 30%.

Depuis la publication des algorithmes de tri dans la bibliothèque standard C++ de LLVM – remplaçant les sous-routines utilisées depuis plus d’une décennie par des routines générées par RL – et des algorithmes de hachage dans la bibliothèque abseil, des millions de développeurs et d’entreprises utilisent maintenant ces algorithmes dans des secteurs tels que le cloud computing, les achats en ligne et la gestion de la chaîne d’approvisionnement.

Des outils polyvalents pour alimenter notre avenir numérique

Des jeux à la résolution de problèmes d’ingénierie complexes au cœur de chaque appareil, nos outils d’IA permettent d’économiser du temps et de l’énergie à des milliards de personnes. Et ce n’est que le début.

Nous envisageons un futur où des outils d’IA plus polyvalents pourront aider à optimiser l’ensemble de l’écosystème informatique qui alimente notre monde numérique. Mais pour soutenir ces outils, nous aurons besoin d’une infrastructure numérique plus rapide, plus efficace et plus durable.

De nombreuses percées théoriques et technologiques supplémentaires sont nécessaires pour parvenir à des outils d’IA entièrement généralisés. Le potentiel transformateur des outils d’IA polyvalents et leur application aux divers défis technologiques, scientifiques et médicaux. Nous sommes enthousiasmés par ce qui se profile à l’horizon.

En savoir plus sur les algorithmes de tri :

Lisez notre blog : https://www.deepmind.com/blog/alphadev-discovers-faster-sorting-algorithms

Lisez notre article dans Nature : https://www.nature.com/articles/s41586-023-06004-9

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!