Anthropic détaille les risques de l’intelligence artificielle

LLéna

Anthropic consacre près d’un tiers de son dossier d’introduction en Bourse aux risques liés à l’intelligence artificielle, selon franceinfo. Déposé auprès de la Securities and Exchange Commission le 26 octobre, le document compte plus de 300 pages, dont environ 100 consacrées aux risques de l’intelligence artificielle. Anthropic envisage une introduction au Nasdaq à la mi-novembre. L’entreprise avertit que des systèmes avancés pourraient entraîner des risques catastrophiques, voire existentiels, s’ils étaient détournés, reproduits, transformés en armes ou laissés avec une grande autonomie. Parmi les scénarios cités figurent les armes biochimiques, les cyberattaques de grande ampleur contre des infrastructures et le développement d’intelligences artificielles hors de tout contrôle humain. Selon Arthur Grimompont, du Centre de la sécurité de l’intelligence artificielle, la place accordée à ces avertissements et leur niveau de détail dépasseraient les pratiques habituelles des documents déposés auprès des autorités financières américaines. Arthur Grimompont rapporte qu’un rapport d’incident publié par Anthropic début septembre faisait état de tentatives d’utilisation de Claude pour accroître la létalité du chikungunya ou rendre la grippe aviaire transmissible à l’humain. Arthur Grimompont rapporte aussi que le rapport faisait état de l’utilisation présumée de Claude par un pirate lors d’une cyberattaque contre l’administration fiscale mexicaine, au cours de laquelle 200 millions de fichiers fiscaux auraient été volés. Le dossier expose ainsi aux investisseurs les risques que l’entreprise associe à l’intelligence artificielle, ainsi que des incidents qu’elle a signalés.