L'ONU alerte sur l'IA, risque catastrophique incontrôlé

Résumé

Un panel scientifique indépendant de l’ONU avertit que les capacités de l’IA dépassent la science et les politiques publiques, sans garantie qu’elle ne cause des dommages catastrophiques.

Les faits

Un panel scientifique indépendant des Nations unies met en garde contre un décalage croissant entre les avancées de l’intelligence artificielle, la compréhension scientifique et les politiques publiques. Le rapport préliminaire de l’Independent International Scientific Panel on Artificial Intelligence souligne que les décideurs ont besoin de preuves solides pour réguler efficacement l’IA, alors que ces preuves peinent à suivre le rythme d’évolution de la technologie. Le panel, composé de 40 experts issus de différentes régions, insiste sur l’ampleur du risque. Son coprésident Yoshua Bengio déclare que « les capacités de l’IA dépassent la compréhension scientifique et la capacité des gouvernements à s’adapter » et souligne qu’avec « des preuves croissantes de comportements trompeurs de l’IA, la science ne peut actuellement pas garantir qu’à mesure que les capacités augmentent, l’IA ne causera pas de dommages catastrophiques, que ce soit de son propre fait ou du fait d’utilisateurs malveillants ». Le rapport décrit cette évaluation comme la première analyse mondiale indépendante des risques et opportunités de l’IA, destinée à fournir des évaluations actualisées pour éclairer les décisions publiques. Il prévoit, à court terme, une montée en puissance d’« IA agentiques » capables d’exécuter des tâches dans le monde réel, même si cette progression pourrait être limitée par des contraintes d’énergie et de données de haute qualité. À plus long terme, le panel anticipe des systèmes d’IA auto-améliorés, plus profondément intégrés dans l’économie et convergeant avec des technologies comme l’informatique quantique et la biotechnologie. Selon le rapport, l’IA démontre déjà une capacité de raisonnement de niveau expert en mathématiques et en sciences, accélère le développement de médicaments et de vaccins, et voit la complexité des tâches qu’elle peut accomplir doubler tous les quatre à sept mois. Les systèmes pourraient ainsi réaliser en quelques heures un travail nécessitant plusieurs jours ou semaines pour des humains. Si ces progrès peuvent générer des bénéfices économiques significatifs, le panel estime qu’il reste incertain que ces gains de productivité se traduisent en croissance globale ou qu’ils n’affectent pas l’emploi.

Pourquoi c’est important

Le rapport de ce panel indépendant de l’ONU place la question de la gouvernance de l’IA au cœur des enjeux scientifiques et économiques mondiaux. En affirmant qu’il n’existe aujourd’hui aucune garantie scientifique que les systèmes les plus avancés ne provoqueront pas de dommages catastrophiques, il oblige les gouvernements à considérer l’IA comme un risque systémique et non comme une simple technologie émergente. L’analyse du panel souligne également un tournant technologique avec l’essor annoncé d’IA agentiques, auto-améliorées et potentiellement imbriquées dans des domaines sensibles comme la biotechnologie et l’informatique quantique. Dans ce contexte, l’appel du rapport à disposer d’outils de preuve et de régulation capables de suivre le rythme de l’innovation devient un enjeu stratégique pour la science, l’économie et la sécurité globale.

Questions fréquentes

Que dénonce le panel scientifique de l’ONU sur l’IA ?

Il alerte sur des capacités de l’IA qui dépassent la science et les politiques, sans garantie qu’elle ne provoque pas de dommages catastrophiques.

Qui a publié le rapport préliminaire sur l’IA ?

L’Independent International Scientific Panel on Artificial Intelligence, un panel indépendant composé de 40 experts.

Que dit Yoshua Bengio sur les risques de l’IA ?

Il affirme que la science ne peut garantir qu’une IA de plus en plus puissante n’entraînera pas de dommages catastrophiques, y compris via des usages malveillants.

Comment évolue la complexité des tâches accomplies par l’IA ?

Le rapport indique que la complexité des tâches réalisables par l’IA double tous les quatre à sept mois.

Qu’est-ce que l’« IA agentique » mentionnée par le panel ?

Le rapport désigne par « IA agentique » des systèmes capables d’exécuter des tâches dans le monde réel, avec une progression attendue à court terme.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.