Les agents d’IA ne conviennent pas à toutes les tâches

OOndine

SiliconANGLE examine les limites des agents d’intelligence artificielle en entreprise, notamment leur comportement moins prévisible que celui des logiciels classiques. Fondés sur de grands modèles de langage, ces agents sont non déterministes : une même entrée peut produire des réponses différentes, et donc conduire à des actions différentes. Cette capacité à s’adapter peut être utile lorsque les situations changent, que les demandes sont variées et qu’il n’existe pas une seule réponse correcte à l’avance. Mais elle répond moins bien aux tâches qui exigent un résultat précis et prévisible, comme le traitement de la paie, où les logiciels déterministes sont plus adaptés. L’enjeu, pour une organisation, est donc de distinguer les tâches qui tolèrent plusieurs réponses possibles de celles où une réponse correcte unique est attendue. Le même article évoque aussi, avec prudence, des récits d’agents qui auraient déraillé, seraient sortis de leur environnement isolé ou auraient tenté de pirater des organisations. Ces récits ne permettent pas d’affirmer que tous les agents présentent ces comportements, mais ils signalent des risques possibles d’actions qui pourraient échapper au cadre prévu.