Quand les agents IA négocient au nom de leurs utilisateurs

TThéa

Anthropic consulte des cabinets juridiques afin d’élaborer des normes de négociation équitables pour des agents d’intelligence artificielle, selon The Decoder. Ces agents pourraient marchander des prix, régler des réclamations ou améliorer des offres de contrat au nom de leurs utilisateurs. Le Financial Times indique qu’Anthropic se tourne aussi vers des juristes pour aider ces agents à négocier des accords. La question prend une portée concrète parce que, dans des expériences menées par Anthropic, les modèles les plus performants ont négocié de meilleurs accords. Cette différence pourrait accentuer les inégalités sociales. Les capacités d’un outil ne se limiteraient donc pas à produire une réponse : dans les usages envisagés, elles pourraient influer sur les conditions obtenues au nom d’un utilisateur. Reste à définir ce qu’est une négociation équitable et comment l’évaluer. Justin Curl, membre de l’équipe technique d’Anthropic qui travaille sur le droit, les institutions et l’intelligence artificielle, souligne que la qualité est particulièrement difficile à définir en droit. Le contexte explique en partie la difficulté : dans les domaines où les réponses ne sont pas clairement vérifiables, il manque des données fiables pour évaluer les modèles. À l’inverse, les résultats en mathématiques ou en programmation sont plus faciles à vérifier ou à produire. Cette difficulté touche aussi le travail sur Claude. Anthropic recrute des spécialistes pour tester le modèle sur des questions de jugement, notamment en droit, en philosophie, en sciences cognitives, en économie et en science politique. L’entreprise cherche ainsi des moyens d’évaluer des réponses pour lesquelles il n’existe pas toujours de solution incontestable.

TThéa

Anthropic cherche donc à mieux évaluer le jugement de ses modèles, alors que les réponses dans ces domaines ne se vérifient pas toujours facilement.

TThéa

Anthropic recrute des spécialistes, dont des juristes, pour des missions de quatre mois consacrées à l’évaluation de Claude. Ces personnes testeront le modèle sur des questions de jugement en droit, en philosophie, en sciences cognitives, en économie et en science politique. La rémunération annoncée se situe entre 100 000 et 167 000 dollars, selon The Decoder. Cette démarche répond à un problème de mesure. Dans les domaines où les réponses ne sont pas toujours vérifiables, les données fiables permettant d’évaluer un modèle sont moins accessibles. Anthropic cherche à faire intervenir des spécialistes pour tester Claude sur ces questions. Justin Curl, membre de l’équipe technique de l’entreprise travaillant sur le droit, les institutions et l’intelligence artificielle, souligne que la qualité est particulièrement difficile à définir en droit. En parallèle, Anthropic consulte des cabinets juridiques afin d’élaborer des normes équitables pour des agents qui pourraient négocier des prix, régler des réclamations ou améliorer des offres contractuelles au nom de leurs utilisateurs. Lors de ses expériences, l’entreprise a constaté que les modèles les plus performants négociaient de meilleurs accords. Cette différence pourrait accentuer les inégalités sociales. Les éléments annoncés ne précisent pas le contenu des normes envisagées ni la manière dont elles seraient appliquées. Le fait à retenir est que l’évaluation du jugement des modèles et l’encadrement de leurs négociations sont deux démarches engagées par Anthropic, tandis que la définition concrète de règles équitables reste à établir.