Brad Smith réclame des règles mondiales pour l'IA

Résumé

Le président de Microsoft estime que l’IA reste moins encadrée qu’une machine à laver et demande des obligations mondiales de sécurité pour les systèmes autonomes.

Les faits

Brad Smith, président de Microsoft, estime que l’intelligence artificielle est aujourd’hui moins encadrée que des produits courants comme le lait ou les machines à laver. « À l’heure actuelle, votre machine à laver est soumise à davantage de règles de sécurité que l’IA », a-t-il déclaré dans une interview à la BBC. Le dirigeant demande la mise en place de règles de sécurité à l’échelle mondiale. Il propose notamment d’imposer aux entreprises de prévenir les personnes touchées lorsqu’un agent d’IA malveillant compromet leurs systèmes. Brad Smith plaide également pour des évaluations externes des produits d’IA avant leur commercialisation. Il souhaite en outre l’intégration d’un « frein de sécurité » capable de suspendre ou de ralentir les systèmes autonomes. Le président de Microsoft décrit enfin l’intelligence artificielle comme un outil, mais aussi comme une arme, et appelle à transposer à cette technologie des mécanismes de contrôle déjà appliqués à d’autres produits.

Pourquoi c’est important

Cette prise de position place la sécurité de l’IA au-delà des engagements volontaires des entreprises. Les propositions avancées associent contrôle avant mise sur le marché, signalement obligatoire des incidents et possibilité d’interrompre rapidement un système autonome. L’enjeu porte aussi sur la confiance du public. En comparant l’IA au lait et aux appareils domestiques, Brad Smith soutient que des technologies de plus en plus puissantes devraient être soumises à des garanties de sécurité comparables et coordonnées au niveau mondial.

Questions fréquentes

Qui demande de nouvelles règles mondiales pour l’IA ?

Brad Smith, le président de Microsoft, appelle à instaurer des règles mondiales de sécurité pour l’intelligence artificielle.[1]

Quelle comparaison Brad Smith utilise-t-il ?

Il affirme qu’une machine à laver est actuellement soumise à davantage de règles de sécurité que l’IA.[1][2]

Que devrait-il se passer lorsqu’un agent d’IA compromet un système ?

Les personnes touchées devraient être légalement informées lorsque leurs systèmes sont compromis par un agent d’IA malveillant.[1][4]

Qu’est-ce que le « frein de sécurité » proposé ?

Il s’agit d’un mécanisme destiné à tester, suspendre ou ralentir les systèmes autonomes lorsqu’ils présentent un risque.[1][8]

Brad Smith demande-t-il des évaluations avant la commercialisation ?

Oui. Il propose que des évaluateurs externes testent les produits d’IA avant leur mise sur le marché.[1]

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.