L'IA physique impose une sécurité continue face à son déploiement

Résumé

L’IA physique gagne les routes et les usines : sa sécurité doit couvrir matériel, logiciels, intelligence artificielle, environnement et cycle de déploiement.

Les faits

L’IA physique passe rapidement de la recherche au déploiement à grande échelle. ABI Research prévoit une base installée de 49 millions de véhicules autonomes de niveaux 3 à 5 d’ici 2035, tandis qu’Omdia estime qu’environ 60 millions de robots industriels seront déployés entre 2026 et 2035. Ces machines doivent opérer sur les routes, dans les usines, les entrepôts et d’autres environnements partagés avec des personnes. La sécurité de l’IA physique consiste à démontrer que les machines pilotées par l’intelligence artificielle — véhicules autonomes, robots humanoïdes, robots industriels et autres systèmes — se comportent de manière sûre lorsque leurs décisions produisent une action physique. Cette démarche doit couvrir le matériel, les logiciels, l’intelligence artificielle, l’environnement d’exploitation et l’ensemble du cycle de déploiement. Elle ne peut pas se résumer à une vérification unique réalisée avant la mise en service. NVIDIA présente Halos comme une approche de sécurité couvrant toute la chaîne pour les véhicules autonomes et les robots. L’objectif décrit est d’intégrer la sécurité à chaque niveau de conception, de validation et de déploiement.

Pourquoi c’est important

L’augmentation attendue du nombre de véhicules autonomes et de robots industriels élargit les contextes dans lesquels des décisions algorithmiques peuvent produire des effets physiques. La sécurité devient donc une propriété continue du système, et non une étape isolée précédant son entrée en service. Cette approche impose d’examiner conjointement les composants matériels, les logiciels, les modèles d’intelligence artificielle et les conditions d’exploitation. Elle répond à la nécessité de faire évoluer la validation avec des machines appelées à fonctionner dans des environnements directement partagés avec les personnes.

Questions fréquentes

Qu’est-ce que la sécurité de l’IA physique ?

Elle consiste à démontrer que des machines pilotées par l’IA se comportent de manière sûre lorsque leurs décisions produisent une action physique.

Quels systèmes sont concernés ?

Les véhicules autonomes, les robots humanoïdes, les robots industriels et d’autres machines pilotées par l’intelligence artificielle.

Quels domaines la sécurité doit-elle couvrir ?

Le matériel, les logiciels, l’intelligence artificielle, l’environnement d’exploitation et le cycle de déploiement.

Pourquoi une vérification unique ne suffit-elle pas ?

Parce que la sécurité doit accompagner l’ensemble du cycle de déploiement, et pas seulement intervenir avant la mise en service.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.