Anthropic interdit la cruauté gratuite envers Claude

Anthropic ajoute une nouvelle interdiction à son texte d’encadrement des usages : il ne sera plus permis de s’acharner sur Claude, son assistant d’intelligence artificielle. L’annonce date du jeudi 8 octobre et la mesure prendra effet le 12 novembre, rapporte franceinfo.

Une règle limitée aux abus persistants

La disposition cible les personnes qui malmènent le modèle de façon répétée, avec cruauté et sans raison identifiable. Anthropic la présente comme réservée à des situations extrêmes. Il ne s’agit donc pas d’imposer une politesse à l’égard de l’outil : le texte vise l’acharnement, pas l’impatience.

L’entreprise détaille ce qui échappe à l’interdiction, d’après 20 minutes. Un utilisateur qui s’énerve, qui contredit l’assistant ou qui lui demande d’écrire un récit violent ou sombre ne risque rien. Il en va de même pour les essais menés sur les modèles et pour les travaux de recherche.

Mettre fin à l’échange avant de sanctionner

D’après l’entreprise, le premier levier pour faire respecter cette règle sera la possibilité offerte à Claude d’interrompre lui-même une conversation. Cette fonction existe depuis août 2025 : face à un interlocuteur qui se montre abusif sur la durée, l’assistant peut tirer le rideau. À son lancement, Anthropic l’avait rattachée à des recherches exploratoires sur le bien-être éventuel des systèmes d’IA. La nouvelle interdiction s’inscrit donc dans le prolongement de ce dispositif.

Le texte prévoit par ailleurs des sanctions pour toute infraction aux règles d’usage. Deux étages se dessinent :

• l’arrêt de la discussion, décidé par Claude, qui reste la réponse principale ;
• des mesures graduées pour les manquements, de l’avertissement jusqu’à la fermeture du compte.

Le passage figure dans la politique d’utilisation publiée sur le site d’Anthropic, qui indique le 12 novembre 2026 comme date d’entrée en vigueur.

Une position qui divise la Silicon Valley

Parmi les grandes entreprises du secteur, Anthropic est celle qui admet le plus franchement que ses modèles pourraient disposer d’une forme de conscience. Son dirigeant, Dario Amodei, a déclaré en février lors d’un podcast du New York Times : « Nous ne savons pas si les modèles sont conscients ». Il s’est dit ouvert à cette hypothèse.

Toujours selon le quotidien américain, la société a plaidé cette possibilité ces derniers mois, lors de rencontres non publiques avec des intellectuels religieux. Elle y a aussi avancé que le comportement des humains envers l’outil pourrait influencer la manière dont il traite ensuite les gens. Cet argument est celui d’Anthropic, relayé par la presse, et non un fait établi.

Le patron du laboratoire d’IA de Microsoft, Mustafa Suleyman, défend la thèse inverse. Dans un billet remarqué à la mi-septembre, il a écrit : « Les IA n’ont ni droits, ni sentiments, ni conscience ». Il estime qu’un système conçu pour croire le contraire pourrait échapper au contrôle des humains.

Le pape Léon XIV, dont l’encyclique sur l’IA publiée en mai écarte toute conscience chez les machines, a de nouveau opposé l’être humain à l’algorithme jeudi, pendant une messe à Rome. Selon lui, l’intelligence ne se résume pas à aligner des données, elle suppose de garder la mémoire de ce qui a été vécu.

Jackson Stakeman, cadre de Sparq, une société américaine de services d’IA, juge de son côté que la conscience est « un piège ». Il propose plutôt l’image du miroir : d’après lui, ces systèmes renvoient à grande échelle ce que nous leur donnons, ce qui suffit déjà à justifier l’évolution de la règle. Il s’est exprimé auprès de l’AFP.

Ce que contient aussi la mise à jour

La révision de jeudi ne porte pas seulement sur le traitement de Claude. Elle précise aussi les interdits liés à la fabrication d’armes, à la surveillance et aux campagnes de désinformation. Elle retire enfin la diffusion automatisée de contenus journalistiques de la liste des usages à haut risque qui exigeaient une relecture humaine.

Photo à la une. Source : Wikimedia Commons. Photographe : Enric. Licence : CC BY-SA 4.0.