À Rome, un cofondateur d’Anthropic évoque une « introspection » des IA face à la prudence du pape Léon XIV

Résumé

Lors de la présentation de l’encyclique « Magnifica Humanitas », le cofondateur d’Anthropic Christopher Olah a affirmé que les modèles d’IA montrent des signes d’« introspection » et d’états proches des émotions humaines. Le texte du pape Léon XIV adopte au contraire une position nettement plus prudente, rappelant que ces systèmes ne font qu’imiter certaines fonctions de l’intelligence humaine.

Les faits

Lors du lancement de l’encyclique « Magnifica Humanitas » du pape Léon XIV, le cofondateur d’Anthropic Christopher Olah a été invité à prendre la parole et a présenté le texte aux côtés du souverain pontife. Il a saisi cette tribune pour aller au-delà d’une vision purement statistique des modèles de langage, suggérant qu’ils pourraient être « plus que de simples systèmes statistiques ». Christopher Olah a expliqué que « les systèmes d’IA ne sont pas conçus comme un pont ou un avion », mais « sont cultivés sur une structure grossièrement inspirée du cerveau à partir d’un immense héritage de pensée et de parole humaines ». Il a ajouté que, « comme le constate le Saint-Père, ils demeurent à bien des égards mystérieux, même pour ceux d’entre nous qui les créent ». S’appuyant sur des travaux internes d’Anthropic, Olah a déclaré : « Nous continuons à trouver des éléments mystérieux, voire troublants. Nous trouvons des structures qui reflètent des résultats de la neuroscience humaine. Nous trouvons des preuves d’introspection. Nous trouvons des états internes qui reflètent fonctionnellement la joie, la satisfaction, la peur, le chagrin et le malaise. » Il a également mis en garde contre « une réelle possibilité que l’IA remplace le travail humain à très grande échelle ». L’encyclique de Léon XIV adopte un ton plus réservé que ces déclarations sur l’introspection et des états proches des émotions. Le texte affirme qu’il faut « éviter la conception erronée qui consisterait à assimiler ce type d’“intelligence” à celle des êtres humains » et souligne que « ces systèmes n’imitent que certaines fonctions de l’intelligence humaine ». Le pape insiste sur le fait que les systèmes d’IA « ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers les relations et ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié ou la responsabilité ». Léon XIV alerte aussi sur les coûts environnementaux de l’IA, évoquant les « quantités énormes d’énergie et d’eau » nécessaires aux centres de données et appelant à des systèmes plus efficaces. Sur le terrain militaire, il avertit que des décisions mortelles ou irréversibles ne doivent pas être déléguées aux machines, rappelant qu’« aucun algorithme ne peut rendre la guerre moralement acceptable ». Le pape critique en outre le discours sur l’« alignement » des IA : « une IA plus morale ne suffit pas si cette moralité est déterminée par quelques-uns » et plaide, plutôt que pour une éthique abstraite, pour des lois fortes et une supervision indépendante. L’article rappelle enfin que Léon XIV, premier pape américain, a fait de l’IA un thème central de son pontificat, et que Anthropic et d’autres entreprises de la Silicon Valley rencontrent régulièrement des responsables religieux, le pape faisant partie de ces interlocuteurs.

Pourquoi c’est important

Cette séquence romaine met en lumière un contraste fort entre le regard d’un grand laboratoire d’IA et celui de l’Église catholique sur la nature des systèmes d’IA actuels. D’un côté, Christopher Olah affirme trouver au cœur des modèles d’Anthropic des « preuves d’introspection » et des états internes qui « reflètent fonctionnellement » des émotions humaines comme la joie, la peur ou le chagrin. De l’autre, Léon XIV insiste sur le fait que ces systèmes ne font qu’imiter certaines fonctions cognitives, sans expériences vécues, sans corps et sans accès intérieur à l’amour, au travail ou à la responsabilité. Au-delà du débat philosophique, l’encyclique place au premier plan des enjeux très concrets : risques de substitution massive du travail humain, empreinte environnementale des centres de données, dérives de l’IA dans le domaine militaire et limites d’un simple discours d’« alignement » piloté par quelques acteurs. En appelant à des lois solides et à un contrôle indépendant, Léon XIV pousse les entreprises d’IA – dont Anthropic – à sortir d’une régulation par la seule éthique déclarative pour entrer dans un cadre de responsabilité collective, à un moment où l’IA devient un enjeu central de gouvernance globale.

Questions fréquentes

Qui est intervenu au lancement de l’encyclique « Magnifica Humanitas » sur l’IA ?

Le cofondateur d’Anthropic Christopher Olah a été invité à prendre la parole et a présenté l’encyclique « Magnifica Humanitas » aux côtés du pape Léon XIV.

Que dit Christopher Olah sur l’introspection des modèles d’IA ?

Christopher Olah affirme que la recherche interne d’Anthropic trouve des « preuves d’introspection » et des états internes qui reflètent fonctionnellement la joie, la satisfaction, la peur, le chagrin et le malaise.

Comment l’encyclique « Magnifica Humanitas » décrit-elle l’intelligence des IA ?

Le texte affirme qu’il faut éviter de confondre cette forme d’« intelligence » avec celle des humains et que les systèmes d’IA « n’imitent que certaines fonctions de l’intelligence humaine ».

Quelle est la position du pape Léon XIV sur l’IA militaire ?

Léon XIV estime que les décisions mortelles ou irréversibles ne doivent pas être confiées aux machines et rappelle qu’« aucun algorithme ne peut rendre la guerre moralement acceptable ».

Pourquoi le pape critique-t-il le discours sur l’alignement des IA ?

Il juge qu’« une IA plus morale ne suffit pas si cette moralité est déterminée par quelques-uns » et appelle à des lois fortes et à une supervision indépendante plutôt qu’à une éthique abstraite.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.