OpenAI redimensionne Habitat pour servir plus d’un milliard

Résumé

OpenAI fait évoluer Habitat, sa plateforme mondiale de stockage, avec Azure Cosmos DB pour servir plus d’un milliard d’utilisateurs et 500 pétaoctets.

Les faits

Tous les produits d’OpenAI s’appuient sur Habitat, une plateforme de stockage conçue pour fournir un accès rapide et fiable aux données. Elle doit répondre en quelques millisecondes à plus d’un milliard d’utilisateurs répartis dans 40 régions géographiques. L’infrastructure gère plus de 500 pétaoctets de données. Dans cette deuxième partie, OpenAI décrit la mise à l’échelle du composant de stockage sous-jacent, Azure Cosmos DB. L’entreprise explique avoir travaillé avec l’équipe Azure pour mettre au point une approche de mutualisation reposant sur des conteneurs cogérés, avec des performances de lecture adaptées à une échelle mondiale. Habitat a évolué d’une bibliothèque cliente et d’une base de données simples vers une plateforme de stockage distribuée à l’échelle mondiale. OpenAI indique que sa couche de base de données mutualisée sert désormais de nombreux produits et qu’elle a connu plusieurs étapes, passant d’un conteneur mutualisé à des conteneurs dédiés, avant de revenir par défaut à un conteneur mutualisé. Cette architecture doit notamment limiter les effets des « voisins bruyants », lorsqu’un locataire consomme une part disproportionnée des ressources au détriment d’autres charges de travail. OpenAI décrit aussi les limites rencontrées avec les clés de partition logique, notamment lorsque plusieurs usages partagent des clés comme « user_id » ou « workspace_id ».

Pourquoi c’est important

La mise à l’échelle de ChatGPT et des autres produits d’OpenAI dépend directement de la capacité de l’infrastructure à maintenir des temps de réponse rapides tout en absorbant une croissance mondiale. Habitat constitue cette couche commune d’accès aux données, tandis qu’Azure Cosmos DB fournit le composant de stockage sous-jacent décrit dans l’article. Le choix d’une mutualisation maîtrisée vise à réduire la charge de planification imposée aux équipes produit, tout en conservant l’isolation entre les charges de travail. L’enjeu ne consiste donc pas seulement à augmenter la capacité, mais à concilier fiabilité, performances, séparation des usages et vitesse de développement à très grande échelle.

Questions fréquentes

Qu’est-ce que Habitat ?

Habitat est la plateforme de stockage en ligne développée par OpenAI pour permettre à ses produits d’accéder rapidement et de manière fiable aux données nécessaires.

Combien d’utilisateurs Habitat doit-il servir ?

Habitat doit répondre en quelques millisecondes à plus d’un milliard d’utilisateurs répartis dans 40 régions géographiques.

Quel service de stockage OpenAI met-il à l’échelle ?

OpenAI met à l’échelle Azure Cosmos DB, le composant de stockage sous-jacent de sa plateforme Habitat.

Quelle approche de mutualisation OpenAI décrit-il ?

OpenAI décrit une approche reposant sur des conteneurs cogérés, conçue avec l’équipe Azure pour préserver les performances de lecture à l’échelle mondiale.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.