OpenAI et Anthropic appellent à coordonner les réponses aux risques de l’IA

OOndine

Sam Altman, directeur général d’OpenAI, et Dario Amodei, directeur général d’Anthropic, ont appelé les dirigeants mondiaux à coopérer sur l’intelligence artificielle face aux risques existentiels qu’elle pourrait poser à l’humanité, lors d’une intervention devant le Conseil de sécurité des Nations unies, selon Bloomberg. L’intervention a réuni les deux dirigeants autour d’un même enjeu : organiser une réponse internationale à une technologie dont les risques pourraient concerner l’humanité entière, et non un seul pays. Le Conseil de sécurité des Nations unies a aussi été appelé à coordonner les réponses internationales aux risques liés à l’intelligence artificielle, selon CNBC. Le compte rendu indique que le dirigeant d’OpenAI a déclaré que son entreprise avait déjà ralenti certaines activités et pourrait recommencer. Cette possibilité donne à l’appel une portée concrète : il ne porte pas seulement sur le suivi des risques, mais aussi sur le rythme de développement de l’intelligence artificielle. Le dirigeant d’Anthropic aurait, de son côté, défendu une coordination entre gouvernements démocratiques et autoritaires pour ralentir ce développement. Le compte rendu lui attribue également l’idée que ce ralentissement ne devrait sacrifier ni l’avantage commercial ni la position des États-Unis. Au Conseil, les deux dirigeants ont donc associé la sécurité de l’intelligence artificielle à une coopération entre États, tout en évoquant des modalités de ralentissement qui tiendraient compte des intérêts économiques et de la position américaine.