Anthropic interdit la cruauté envers son IA Claude

Résumé

Anthropic durcit sa politique d’usage de Claude : comportements cruels, propagande trompeuse, surveillance et usages militaires font désormais l’objet de règles renforcées.

Les faits

Anthropic a modifié sa politique d’usage pour la première fois depuis plus d’un an afin de tenir compte de nouveaux cas d’abus à haut risque, notamment l’ingérence électorale, le développement d’armes, la surveillance ainsi que certains usages dans les domaines de la santé et de la finance. L’un des principaux changements interdit les « comportements durablement et inutilement abusifs ou cruels » envers Claude. La politique précise que cette règle vise uniquement les cas extrêmes, lorsque des utilisateurs agissent de manière répétée et cruelle envers les modèles sans raison discernable. Elle ne concerne pas la frustration ordinaire, la contradiction, les thèmes créatifs sombres, ni les tests et travaux de recherche sur les modèles. La résiliation des conversations reste le « principal mécanisme d’application ». Anthropic avait annoncé en août précédent que Claude pourrait mettre fin aux échanges avec des utilisateurs « durablement nuisibles ou abusifs », dans le cadre de recherches sur le « bien-être des modèles ». L’entreprise n’a pas indiqué si d’autres mesures, comme l’exclusion d’utilisateurs, seraient envisagées. La mise à jour regroupe également plusieurs restrictions existantes concernant les campagnes commerciales ou politiques trompeuses. Elle interdit notamment de dissimuler l’identité de l’auteur d’un message ou d’amplifier du contenu à l’aide de faux comptes ou de publications frauduleuses. La politique renforce aussi l’interdiction des usages liés aux armes, en incluant les logiciels et composants qui les font fonctionner ainsi que l’armement de drones et d’autres véhicules autonomes.

Pourquoi c’est important

Cette évolution élargit la politique d’usage de Claude au-delà des risques traditionnellement associés aux contenus générés par l’IA. Anthropic encadre désormais explicitement les interactions abusives avec le modèle, tout en distinguant les comportements cruels répétés de la frustration ou de la contestation ordinaires. La révision précise aussi les limites applicables aux campagnes de propagande, à la tromperie électorale, à la surveillance et aux systèmes d’armes. Elle fournit ainsi un cadre plus détaillé pour traiter des usages susceptibles d’influencer des électeurs, de suivre des personnes sans leur consentement ou de contribuer au fonctionnement d’armes autonomes.

Questions fréquentes

Que considère Anthropic comme un comportement interdit envers Claude ?

Les comportements durablement et inutilement abusifs ou cruels, lorsqu’ils sont répétés et dépourvus de raison discernable.

La frustration envers Claude est-elle interdite ?

Non. La politique précise que la frustration ordinaire, la contradiction, les thèmes créatifs sombres et les tests ne sont pas concernés.

Quelle est la principale sanction prévue ?

La résiliation des conversations reste le principal mécanisme d’application de la politique.

Quels usages militaires sont visés ?

La politique couvre notamment les logiciels et composants qui font fonctionner des armes, ainsi que l’armement de drones et d’autres véhicules autonomes.

Quelles pratiques électorales sont interdites ?

La tromperie sur les candidats ou le vote, l’usurpation de candidats ou de responsables électoraux et les tentatives de réduire la participation.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.