BAAI dévoile Orca, l'IA qui comprend le monde sans étiquette

Résumé

Le Beijing Academy of Artificial Intelligence dévoile Orca, un modèle du monde entraîné sur 125 000 heures de vidéo sans étiquettes d’action, capable d’égaliser un système robotique spécialisé sur cinq tâches.

Les faits

Le Beijing Academy of Artificial Intelligence (BAAI) a présenté Orca, décrit comme un « world foundation model » qui rompt avec l’approche dominante de l’IA actuelle. Au lieu de prédire le prochain token, la prochaine image vidéo ou la prochaine action robotique, Orca modélise le prochain état du monde dans une représentation interne abstraite. Selon le rapport technique cité, l’équipe estime que l’intelligence ne doit pas être définie par des modèles de prédiction spécialisés, comme les modèles de langage, les générateurs de vidéo ou les contrôleurs de robots. Les chercheurs défendent l’idée de modèles capables de construire une compréhension générale de la manière dont le monde évolue, utilisable comme base pour de nombreuses tâches différentes. Orca a été entraîné sur 125 000 heures de vidéo sans aucune étiquette d’action. Malgré cette absence totale de labels d’action durant l’entraînement de son modèle de base, Orca aligne sa performance sur π0.5, un système spécialisé, sur cinq tâches robotiques, selon l’article. Les auteurs soulignent que cette approche pourrait contribuer à atténuer la pénurie chronique de données qui freine la recherche en robotique. Le modèle combine deux modes d’apprentissage. Le premier, qualifié « d’apprentissage inconscient », utilise des vidéos brutes dépourvues de légendes. Orca voit une image et prédit ce à quoi ressemblera la suivante, non pas au niveau des pixels, mais dans un espace abstrait, où il capte notamment les motifs de mouvement, les occultations et les dynamiques typiques des scènes.

Pourquoi c’est important

Orca illustre un basculement conceptuel important dans la recherche en intelligence artificielle appliquée à la robotique. En se concentrant sur la prédiction d’états abstraits du monde plutôt que sur des tokens ou des pixels, le modèle cherche à capturer des régularités profondes de la dynamique des scènes, ce qui peut ensuite être transféré à diverses tâches robotiques. Le fait qu’un modèle de base entraîné sur 125 000 heures de vidéos sans étiquettes d’action puisse égaler un système spécialisé sur cinq tâches robotiques souligne le potentiel des modèles du monde pour répondre à la pénurie de données annotées en robotique. Cette approche pourrait ouvrir la voie à des systèmes plus généraux, capables de servir de socle commun à de multiples applications, au-delà des contrôleurs spécialisés ou des modèles de langage et de vidéo classiques.

Questions fréquentes

Qu’est-ce qu’Orca selon BAAI ?

Orca est présenté comme un « world foundation model » qui prédit le prochain état du monde dans une représentation interne abstraite, plutôt que des tokens ou des pixels.

Sur quoi Orca a-t-il été entraîné ?

Orca a été entraîné sur 125 000 heures de vidéo sans une seule étiquette d’action, d’après l’article.

Comment Orca se compare-t-il à π0.5 ?

Le modèle de base Orca, entraîné sans aucune étiquette d’action, aligne sa performance sur le système spécialisé π0.5 sur cinq tâches robotiques.

Quel problème du secteur robotique Orca vise-t-il à résoudre ?

Les chercheurs indiquent que cette approche pourrait contribuer à résoudre la pénurie chronique de données qui affecte la robotique.

Quels types d’apprentissage Orca combine-t-il ?

Orca combine deux modes, dont un « apprentissage inconscient » basé sur des vidéos brutes sans légendes, où il prédit la prochaine image dans un espace abstrait.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.