Sam Altman rejette l'IA divine, un « vrai problème »

Résumé

Sam Altman juge dangereuse l’attribution d’un pouvoir religieux aux modèles d’IA, après avoir lui-même employé un vocabulaire spirituel pour décrire leur ambition.

Les faits

Sam Altman, directeur général d’OpenAI, affirme que l’attribution d’une force religieuse aux modèles d’IA le met « très mal à l’aise ». Il considère également comme problématique le fait de renoncer au jugement humain au profit de ces modèles, qualifiant cette évolution de « véritable problème de sécurité ». Cette prise de position intervient après un article du New York Times consacré aux échanges d’Anthropic avec des responsables religieux, ainsi qu’après une déclaration du pape Léon XIV selon laquelle les algorithmes « n’ont pas l’étincelle de l’humanité ». Le discours actuel de Sam Altman contraste avec certaines de ses déclarations antérieures. En 2023 et 2024, il avait décrit l’objectif d’OpenAI comme la construction d’une « intelligence magique dans le ciel ». La même année, il avait déclaré espérer être du côté de Dieu et se sentir « du côté des anges » dans son travail sur l’IA. OpenAI a également échangé avec des responsables religieux. Sam Altman a par ailleurs répété que son objectif était de parvenir à une IA comparable à celle du film de science-fiction « Her », c’est-à-dire profondément humanisée. Cette ambition diffère, selon l’article, de l’attribution d’une conscience ou d’une signification religieuse aux modèles.

Pourquoi c’est important

La déclaration de Sam Altman trace une distinction entre une IA conçue pour dialoguer de manière profondément humaine et des modèles auxquels seraient attribués une conscience, une autorité spirituelle ou un pouvoir religieux. Cette distinction place le maintien du jugement humain au centre de la question de sécurité. Le contraste entre les formulations spirituelles employées par Altman en 2023 et 2024 et sa mise en garde actuelle souligne la sensibilité du vocabulaire utilisé pour présenter les progrès de l’IA. Les échanges d’OpenAI et d’Anthropic avec des responsables religieux montrent que cette dimension dépasse désormais la seule communication technologique.

Questions fréquentes

Que critique Sam Altman à propos des modèles d’IA ?

Il critique l’attribution d’une force religieuse aux modèles et le renoncement au jugement humain en leur faveur.

Pourquoi Sam Altman parle-t-il d’un problème de sécurité ?

Il considère l’attribution d’une force religieuse aux modèles d’IA comme un « véritable problème de sécurité ».

Quelle expression Sam Altman avait-il utilisée en 2023 et 2024 ?

Il avait décrit l’objectif d’OpenAI comme la construction d’une « intelligence magique dans le ciel ».

À quelle œuvre Sam Altman compare-t-il son objectif pour l’IA ?

Il compare son objectif à l’IA du film de science-fiction « Her », qu’il décrit comme profondément humanisée.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.