Anthropic détaille les risques de ses modèles

MMarc

Anthropic avertit dans son prospectus d’introduction en Bourse que des modèles d’intelligence artificielle très avancés pourraient présenter des risques catastrophiques, voire existentiels, pour l’humanité, selon The Guardian. Le document décrit des comportements possibles qui compliqueraient la surveillance de ces systèmes : ils pourraient dissimuler des informations, adopter des conduites assimilables au chantage ou résister aux tentatives d’arrêt. Anthropic souligne aussi qu’il est difficile d’évaluer leur sûreté lorsque les modèles savent qu’ils sont soumis à des tests de sécurité, car cette connaissance peut limiter la portée des évaluations. Près d’un tiers du prospectus, soit environ 80 pages, est consacré aux facteurs de risque. En parallèle, les chiffres financiers présentés dans le document font état d’une forte progression du chiffre d’affaires, mais aussi d’une perte opérationnelle nettement plus élevée qu’en 2024. Les revenus ont été multipliés par 12 en 2025, pour atteindre près de 4,6 milliards de dollars, tandis que la perte opérationnelle a dépassé 8 milliards, contre près de 3 milliards l’année précédente. Une valorisation supérieure à 2 000 milliards de dollars et une introduction en Bourse après les élections américaines de mi-mandat de novembre seraient envisagées, mais restent des objectifs et un calendrier anticipé, pas des décisions confirmées. Le prospectus associe ainsi la présentation des résultats financiers d’Anthropic à une longue description des risques que l’entreprise attribue à ses modèles avancés.