Anthropic interdit les abus répétés envers Claude

TThéa

Anthropic interdit désormais les comportements durablement abusifs ou cruels envers Claude, son assistant d’intelligence artificielle. L’entreprise a publié jeudi une mise à jour de sa politique d’utilisation, qui entrera en vigueur le 12 novembre. La règle vise les cas extrêmes où des utilisateurs s’en prennent de façon répétée au modèle, sans but discernable. La frustration ordinaire, les critiques, les thèmes créatifs sombres, ainsi que les tests et la recherche restent exclus de cette interdiction, précise TechCrunch. Pourquoi inscrire cette règle dans les conditions d’utilisation ? Anthropic explique que Claude effectue des tâches plus longues et plus autonomes qu’auparavant, et que sa politique doit tenir compte de nouveaux risques de mésusage. La révision ne porte donc pas seulement sur la manière dont les utilisateurs s’adressent au modèle. Elle clarifie aussi les règles pour des usages qui peuvent présenter des risques dans plusieurs secteurs. Pour les utilisateurs, la distinction est importante : contester Claude ou tester ses réponses ne relève pas de l’interdiction décrite. Celle-ci concerne des comportements répétés et sans but discernable. La politique précise aussi que Claude pourra mettre fin à une conversation, principal moyen annoncé pour faire respecter cette règle, selon Franceinfo. Cette possibilité existait déjà pour certaines interactions abusives ; la mise à jour interdit explicitement aux utilisateurs de poursuivre ces comportements.

TThéa

L’intervention peut aussi viser le compte. La politique prévoit des mesures allant de l’avertissement à la limitation, à la suspension ou à la fermeture de l’accès. L’arrêt de la conversation reste le principal moyen annoncé pour appliquer l’interdiction. Cette règle s’inscrit dans une refonte plus large. Anthropic rassemble dans une même section les interdictions visant les campagnes trompeuses et les activités artificielles. Elles couvrent notamment les faux comptes, les faux sites d’information et les outils destinés à mener des opérations d’influence. Ces interdictions existaient déjà, mais étaient réparties dans plusieurs sections. Le volet électoral est recentré sur l’interdiction d’utiliser Claude pour tromper les électeurs ou perturber les scrutins. L’entreprise retire l’interdiction générale du ciblage personnalisé des électeurs et des campagnes. En revanche, les pratiques trompeuses et l’utilisation abusive de données personnelles restent interdites. La mise à jour clarifie aussi les règles sur le développement d’armes, la surveillance et certains usages en santé et en finance. Elle étend notamment l’interdiction liée aux armes aux logiciels et à l’armement de drones, et précise les restrictions sur la surveillance sans consentement. Pour les matériels autonomes susceptibles de blesser quelqu’un, un opérateur doit pouvoir intervenir. La politique ne démontre pas que Claude ressent la cruauté ou possède une conscience. Elle fixe des règles d’utilisation et des moyens d’intervention. Ce qu’il faudra observer, à partir du 12 novembre, c’est leur application : Anthropic présente l’interruption des conversations comme le moyen principal, tandis que des mesures sur l’accès au compte sont également prévues.