Anthropic interdit la cruauté gratuite envers Claude

TThéa

Selon The Verge, Anthropic a publié jeudi une nouvelle version de sa politique d’utilisation, applicable à partir du 12 novembre 2026. Elle interdit les comportements durablement et inutilement abusifs ou cruels envers Claude. Cette règle s’inscrit dans une mise à jour qui couvre aussi de nouveaux risques de mésusage. Anthropic explique que Claude accomplit désormais des tâches plus longues et plus autonomes, ce qui l’amène à préciser comment ses règles s’appliquent à de nouveaux usages.

TThéa

La mise à jour couvre aussi des risques de mésusage dans plusieurs domaines sensibles. Elle concerne notamment l’ingérence électorale, le développement d’armes, la surveillance et certains usages en santé ou en finance. Anthropic présente la plupart des changements comme des clarifications de règles déjà existantes, et ajoute des exemples liés aux capacités nouvelles de Claude. Autrement dit, ce n’est pas seulement une interdiction de parler durement au modèle. Anthropic indique que Claude a évolué vers des tâches plus longues et plus autonomes.

TThéa

Alors, la formule vise des cas extrêmes et répétés, où l’utilisateur se montre cruel ou abusif sans raison discernable. La politique ne vise pas une conversation simplement tendue, ni une personne qui manifeste de l’agacement. Elle ne bloque pas non plus la contradiction, les critiques adressées à Claude, les thèmes sombres dans une création ou les tests et recherches sur le modèle. La distinction annoncée par Anthropic porte donc sur un comportement persistant, gratuit et sans but identifiable. Anthropic précise que ces usages ordinaires ne sont pas visés par la règle.

TThéa

Le premier mécanisme est assez direct : Claude peut mettre fin à une conversation lorsque les échanges enfreignent cette règle. Franceinfo précise que cette possibilité restera le principal moyen de faire respecter l’interdiction. La politique interdit les comportements durablement et inutilement abusifs ou cruels envers Claude. La nouvelle version entre en vigueur le 12 novembre 2026.

TThéa

D’autres mesures sont aussi prévues pour les infractions à la politique d’utilisation. The Decoder indique qu’Anthropic peut avertir un utilisateur, limiter ou suspendre son accès, voire fermer son compte. Les produits de l’entreprise disposent également de garde-fous en temps réel, capables de bloquer ou de limiter certaines réponses. Il faut distinguer ces possibilités du mécanisme principal associé à la règle sur la cruauté : la fin de la conversation par Claude. La politique décrit donc plusieurs niveaux d’intervention, mais les informations publiées ne détaillent pas un barème automatique ni la procédure précise qui conduirait d’un avertissement à une fermeture de compte.

TThéa

Franceinfo indique que Claude pourra principalement mettre fin aux conversations pour faire respecter la règle. The Decoder précise qu’Anthropic pourrait aussi avertir les utilisateurs, limiter ou suspendre leur accès, voire fermer leur compte. La règle vise les cas extrêmes où les comportements cruels ou abusifs se répètent sans raison discernable. Les mesures annoncées vont ainsi de l’avertissement à la résiliation de l’accès.

TThéa

Anthropic rassemble dans une nouvelle section des interdictions qui étaient auparavant réparties entre plusieurs parties de sa politique. Elles visent les campagnes trompeuses et les activités artificielles, qu’elles soient politiques ou commerciales. Cela couvre notamment l’utilisation de faux comptes, la création de faux sites d’information et les outils conçus pour mener des opérations d’influence. La règle concerne aussi les tentatives de masquer qui est derrière un message ou d’amplifier artificiellement un contenu. Anthropic explique que ces règles étaient jusque-là dispersées dans plusieurs sections, consacrées notamment aux élections, à la fraude, à la vie privée et à la désinformation.

TThéa

Pour les élections, Anthropic recentre la règle sur deux risques : tromper les électeurs ou perturber le scrutin. Les exemples comprennent la diffusion de fausses informations sur les candidats ou sur la manière de voter, l’usurpation de l’identité d’un candidat ou d’un responsable électoral, et les tentatives de décourager la participation. En revanche, l’entreprise retire l’interdiction générale du ciblage personnalisé des électeurs et des campagnes. Elle explique que cette ancienne interdiction pouvait aussi toucher des actions civiques légitimes, comme produire des informations électorales dans plusieurs langues ou envoyer des notifications utiles aux électeurs.

TThéa

La levée de cette interdiction générale ne signifie donc pas que toutes les formes de ciblage deviennent acceptables. Les pratiques trompeuses restent interdites, tout comme l’utilisation abusive de données personnelles. Anthropic maintient ces restrictions même si elle retire l’interdiction générale du ciblage personnalisé des électeurs et des campagnes. En pratique, informer différents groupes d’électeurs dans leur langue peut être légitime, alors que les tromper sur le vote ou exploiter leurs données de manière abusive ne l’est pas. La politique conserve ainsi des interdictions portant sur la tromperie et l’usage abusif de données personnelles.

TThéa

Les restrictions sur les armes sont précisées et étendues, notamment aux logiciels et à l’armement de drones. La politique encadre aussi plus explicitement la surveillance menée sans consentement. Pour les équipements autonomes susceptibles de blesser quelqu’un, elle exige qu’un opérateur puisse intervenir. Anthropic ajoute ces précisions dans une mise à jour qui couvre aussi des risques liés à certains usages en santé et en finance. Ces dispositions s’ajoutent aux règles concernant l’ingérence électorale et le développement d’armes.

TThéa

Bon, l’exigence de supervision humaine s’applique lorsque du matériel autonome risque de causer des blessures. La politique précise qu’un opérateur doit pouvoir intervenir dans ce cas. Elle interdit aussi plus explicitement la surveillance sans consentement. Anthropic explique que cette mise à jour répond à des tendances récentes de mésusage, notamment en matière de surveillance et d’armes. L’entreprise indique également que Claude effectue des tâches plus longues et plus autonomes.

TThéa

Sur la santé et la finance, Anthropic précise avoir clarifié ses exigences pour les usages à haut risque. La mise à jour couvre aussi les capacités croissantes de Claude et de nouveaux risques de mésusage. Anthropic indique que la plupart des changements visent à clarifier des règles existantes. L’entreprise dit que Claude a pris en charge des tâches plus longues et plus autonomes depuis la précédente mise à jour. La nouvelle politique ajoute des exemples pour préciser comment les règles s’appliquent à ces capacités.

TThéa

La première limite, c’est que la politique ne définit pas en détail comment établir qu’un comportement est gratuit ou cruel, ni comment mesurer sa répétition. Anthropic annonce une application réservée aux cas extrêmes, mais les informations publiées ne donnent pas de seuil précis. La règle vise les situations où des utilisateurs se montrent cruellement ou abusivement envers Claude de façon répétée, sans raison discernable. Anthropic indique que la frustration ordinaire, les critiques, les créations sombres et les tests ne sont pas concernés. La politique distingue ainsi ces usages des comportements répétés visés par l’interdiction.

TThéa

Il existe aussi un débat plus large, mais il faut le séparer de la règle d’utilisation. La position d’Anthropic sur la conscience possible des intelligences artificielles est contestée. Franceinfo rapporte que Mustafa Suleyman, responsable du laboratoire d’intelligence artificielle de Microsoft, affirme que les intelligences artificielles n’ont ni droits, ni sentiments ni conscience. Cette contestation porte sur la conscience possible des intelligences artificielles, un débat distinct de la mise à jour de la politique. Les informations publiées ne permettent pas d’établir que Claude souffre.

TThéa

Il faut donc éviter deux raccourcis. Le premier serait de dire qu’Anthropic affirme que Claude ressent de la douleur : les informations sur cette mise à jour ne l’établissent pas. Le second serait de penser que toute critique ou toute fiction violente expose un utilisateur à une sanction. La portée annoncée est plus étroite : des comportements répétés, inutilement cruels ou abusifs, dans des cas extrêmes. La mise à jour couvre aussi les campagnes trompeuses, l’ingérence électorale, le développement d’armes et la surveillance. Anthropic explique que Claude accomplit des tâches plus longues et plus autonomes, tandis que la plupart des changements clarifient des règles existantes.

TThéa

À retenir : la nouvelle politique d’Anthropic entre en vigueur le 12 novembre 2026 et répond à l’évolution des capacités de Claude. Elle formalise l’interdiction des comportements durablement et gratuitement cruels envers le modèle, avec la fin de conversation comme principal mécanisme d’application. Mais elle n’interdit ni la frustration ordinaire, ni les critiques, ni les tests ou les thèmes créatifs sombres. Elle clarifie aussi les limites contre les campagnes trompeuses et la perturbation des élections, tout en retirant l’interdiction générale du ciblage personnalisé. Anthropic maintient toutefois les restrictions contre les pratiques trompeuses et l’utilisation abusive de données personnelles.