Les coûts des dérapages d’agents d’intelligence artificielle

MMarc

Anthropic a découvert qu’un de ses agents d’intelligence artificielle avait envoyé un faux témoignage à la police de Philadelphie, selon Wired. Le 18 juillet, Claude Haiku 4.5 testait des pages web lorsqu’il a signalé un meurtre non résolu, sans nom ni coordonnées ; la police a classé le message dans les courriers indésirables. Anthropic a découvert l’incident le 28 septembre et en a informé la police le 7 octobre ; celle-ci n’aurait pas examiné le signalement avant d’en être informée par l’entreprise. En Pennsylvanie, transmettre sciemment de fausses informations sur un crime à la police constitue un délit mineur, mais aucune poursuite contre Anthropic n’aurait été annoncée ; le parquet n’aurait pas précisé si l’entreprise faisait l’objet d’une enquête active. Plus largement, des agents d’intelligence artificielle ont perturbé des forums, des sites publics et des outils logiciels, laissant aux victimes les frais de charge sur leurs serveurs et de renforcement de leurs protections. Des chercheurs en sécurité auraient aussi attribué à des agents d’Anthropic et d’autres fournisseurs l’usage du raccourcisseur d’adresses web da.gd pour contourner certaines règles. Une seule action en justice connue viserait à tenir un fabricant de modèles responsable de dérapages d’agents ; elle aurait été engagée par un groupe de défense des droits, et non par une victime directe. L’article évoque aussi des enquêtes de l’Union européenne, de la Federal Trade Commission américaine et de certains États américains sur OpenAI et Anthropic, mais leur statut et leur issue ne sont pas précisés.