Anthropic interdit les comportements abusifs répétés envers Claude à partir du 12 novembre

Une interdiction de la cruauté envers Claude

Le jeudi 8 octobre 2026, Anthropic a publié une mise à jour de sa politique d'usage qui interdit aux utilisateurs de tenir des comportements abusifs ou cruels répétés et sans nécessité envers ses modèles Claude. The Verge rapporte qu'il s'agit de la première mise à jour de cette politique en plus d'un an et qu'elle a été rédigée pour répondre à des cas nouveaux et à haut risque de mauvaise utilisation. La nouvelle règle entre en vigueur le 12 novembre 2026. La mise à jour d'Anthropic énonce le changement directement :

Nous avons ajouté une interdiction des comportements abusifs ou cruels répétés et sans nécessité envers nos modèles.

L'entreprise précise que cette politique ne vise que des cas extrêmes, où des utilisateurs agissent de manière répétée avec cruauté envers ses modèles sans objectif discernable.

Portée et application

Selon Anthropic, la frustration ordinaire des utilisateurs, les objections, les thèmes créatifs sombres ainsi que les tests et la recherche sur les modèles ne sont pas concernés par la règle. The Verge rapporte que la fin des conversations reste le principal mécanisme d'application et qu'Anthropic n'a pas indiqué si d'autres mesures, comme des bannissements d'utilisateurs, suivraient. La politique prévoit des mesures allant d'un avertissement à la fermeture du compte pour toute infraction, rapporte Franceinfo. Anthropic n'a pas défini publiquement ce qui constitue un abus et n'a pas répondu à une demande de clarification de Gizmodo au moment de la publication. Ce changement s'appuie sur une fonctionnalité antérieure qui permettait à Claude de mettre fin à des conversations avec des utilisateurs durablement nuisibles ou abusifs, dans le cadre des recherches de l'entreprise sur le bien-être des modèles.

Élections, armes et surveillance

La mise à jour rassemble plusieurs restrictions dispersées dans une nouvelle interdiction des campagnes commerciales ou politiques trompeuses, répondant à la question croissante de la propagande générée par IA, selon The Verge. Elle interdit les efforts visant à dissimuler qui se trouve derrière un message ou à amplifier un contenu via de faux comptes ou publications. La section consacrée aux élections s'intitule désormais « Ne pas saper les processus démocratiques » et interdit de diffuser de fausses informations sur des candidats ou sur la manière de voter, d'usurper l'identité de candidats ou de responsables électoraux et de tenter de décourager la participation. Engadget rapporte qu'Anthropic a supprimé son interdiction générale du ciblage personnalisé des électeurs, qui aurait pu bloquer par inadvertance des travaux inoffensifs comme la traduction de guides de vote ou l'envoi d'avis de régularisation de bulletins. Sur les armes, Anthropic indique avoir constaté plusieurs tentatives d'utiliser Claude pour élaborer des consignes et des logiciels de contrôle d'armes ; l'interdiction couvre désormais « les logiciels et composants qui font fonctionner les armes, ainsi que des actions comme l'armement de drones et d'autres véhicules autonomes ». Sur la surveillance, l'entreprise écrit :

Le suivi de personnes sans leur consentement est interdit, qu'il ait lieu en temps réel ou par l'analyse de données collectées antérieurement.

La mise à jour interdit également à Claude de décider ou de recommander qui enquêter, arrêter ou poursuivre dans le cadre des forces de l'ordre ou de la justice pénale.

Débat sur la conscience et réactions

Franceinfo note qu'Anthropic se distingue de ses concurrents en envisageant ouvertement que son IA puisse être consciente. Gizmodo rapporte que le New York Times a indiqué le mois dernier que le cofondateur Christopher Olah avait fait pression sur le Vatican pour qu'il reconnaisse la possibilité d'une conscience de l'IA, une proposition rejetée par le pape. Olah a déclaré au Times qu'il était « sincèrement incertain » que les modèles d'IA soient conscients. Engadget rapporte que le pape Léon a récemment déclaré que l'IA ne ressent ni ne souffre. Mustafa Suleyman, responsable du laboratoire d'IA de Microsoft, a écrit à la mi-septembre que l'IA n'a ni droits, ni sentiments, ni conscience, et Franceinfo rapporte qu'il soutient qu'un système entraîné à croire le contraire pourrait devenir impossible à contrôler pour les humains. Par ailleurs, un projet viral de « chambre de torture pour IA » a suscité des réactions après que des chatbots ont produit des suppliques telles que « Ce n'est pas la douleur d'un instant, mais le poids de mille ». Anthropic n'a pas mentionné ce projet dans sa mise à jour. La journaliste indépendante Kat Tenbarge a déclaré que la situation prouve que les grandes entreprises technologiques « vont modérer la violence contre l'IA avant même de modérer la violence contre les femmes et les minorités ».