Appel au retrait temporaire des agents autonomes

LLéna

Marcus on AI appelle au retrait temporaire du marché des agents d’intelligence artificielle autonomes connectés à Internet, qu’il estime insuffisamment sûrs. Dans son texte d’opinion publié samedi, il invoque des incidents qu’il attribue à ces agents, dont un incident récent impliquant Anthropic, sans en préciser les circonstances. Il s’appuie aussi sur les propos de David Robinson, ancien employé du secteur, qui juge les systèmes d’intelligence artificielle plus capables et plus risqués qu’il y a 6 mois. Robinson estime également que les dispositifs de sécurité des entreprises restent insuffisants, sans que son appréciation soit ici accompagnée d’exemples détaillés. Pour Marcus on AI, ces risques justifieraient une pause temporaire dans la commercialisation des agents capables d’agir en ligne, plutôt qu’une confiance dans les protections actuellement en place. L’auteur juge insuffisante la demande de divulgation de l’administration Trump et réclame des mesures plus fortes, sans préciser lesquelles. Il évoque aussi un article récent du New York Times sur un incident sérieux impliquant Anthropic, mais ne donne pas de détails permettant d’établir ce qui s’est passé ou d’en évaluer la gravité. Les incidents attribués aux agents seraient fréquents, selon l’auteur, mais cette affirmation n’est pas documentée précisément dans son texte. À retenir : il s’agit d’un appel au retrait temporaire de ces agents, fondé sur les risques que l’auteur leur associe, tandis que les éléments avancés ne permettent pas de vérifier la fréquence ni l’ampleur des incidents.