Anthropic et OpenAI s’engagent à recourir à des évaluateurs intégrés

LLéna

Anthropic s’engage à mettre en place des évaluateurs intégrés, avec un accès comparable à celui de ses employés, selon le média Don’t Worry About the Vase. Dans un essai publié dimanche, Dario Amodei présente leur rôle : apporter un regard extérieur sur les activités du laboratoire et en rendre compte. L’accès prévu doit leur permettre d’observer ce qui se passe au sein de l’entreprise, sans se limiter à une évaluation ponctuelle des systèmes d’intelligence artificielle. Anthropic prévoit de s’associer à Accenture pour cette évaluation et envisage aussi d’inclure METR ; la participation de cette organisation reste donc envisagée, et non annoncée comme acquise. OpenAI s’est également engagée en faveur d’évaluateurs intégrés et a appelé à une coordination internationale, ce qui place la mise en œuvre de ces évaluations au-delà d’un seul laboratoire. Une lettre publique portée notamment par Geoffrey Hinton, Stuart Russell et Arvind Narayanan énonce des critères minimaux pour que ces évaluateurs soient crédibles : une indépendance réelle, une rémunération qui ne dépende pas de leurs conclusions et la divulgation des conflits d’intérêts. Elle demande aussi plusieurs expertises, de la transparence et une protection contre les représailles, afin que les évaluateurs puissent rendre compte de leurs constats sans que leurs conclusions soient influencées par leur rémunération ou par des liens d’intérêts non déclarés.