Anthropic veut encadrer les négociations des agents IA

OOndine

Anthropic consulte des cabinets juridiques pour élaborer des normes de négociation équitables pour ses agents d’intelligence artificielle, d’après The Decoder. Ces agents pourraient négocier des prix, régler des réclamations ou améliorer des offres contractuelles au nom de leurs utilisateurs. Lors d’expériences, Anthropic a constaté que ses modèles les plus performants obtenaient de meilleurs accords ; cet écart pourrait accentuer les inégalités sociales. L’entreprise recrute aussi des juristes et d’autres spécialistes comme « Conceptual Reasoning Fellows » pour évaluer Claude sur des questions de jugement en droit, en philosophie, en sciences cognitives, en économie et en science politique. Ces missions durent 4 mois et sont rémunérées entre 100 000 et 167 000 dollars. Anthropic cherche donc à la fois à mieux évaluer le jugement de Claude et à établir des normes pour les agents qui négocieraient au nom des utilisateurs, afin de prendre en compte le risque que les modèles les plus performants obtiennent de meilleurs accords.