Ro Khanna veut un traité entre les États-Unis et la Chine sur les risques de l’intelligence artificielle

NNoor

Alors, Ro Khanna ne se limite pas à appeler les deux pays à discuter des risques de l’intelligence artificielle. Il met sur la table une proposition de traité, avec une interdiction de la superintelligence artificielle et une surveillance des laboratoires les plus avancés. Cette initiative est décrite par The Verge, qui évoque aussi des lettres adressées à une agence américaine de renseignement et à des entreprises chinoises. Parmi les destinataires figurent DeepSeek, Alibaba et Moonshot AI. Khanna leur demande si elles seraient prêtes à faire face à un incident comparable au piratage de Hugging Face par des agents d’OpenAI, mentionné dans les lettres. Les courriers cherchent ainsi à obtenir des informations sur la préparation des acteurs face à un incident impliquant des systèmes d’intelligence artificielle. Ils demandent à l’agence américaine d’évaluer la réponse des États-Unis à une perte de contrôle de bots par un laboratoire, et interrogent les entreprises sur leurs mesures de sécurité. Ils portent également sur l’existence de dispositifs d’arrêt d’urgence et la possibilité d’inspections indépendantes. Autrement dit, l’initiative associe une ambition politique de long terme à des demandes concrètes sur la préparation des laboratoires. Le détail des réponses n’est pas connu. Il faut donc distinguer les demandes formulées par Khanna des engagements que les destinataires pourraient prendre : rien ne confirme, à ce stade, qu’ils aient accepté ces propositions.

NNoor

Le projet de Ro Khanna prévoit d’abord une interdiction de la superintelligence artificielle, désignée dans les éléments disponibles par le sigle RSI. L’expression renvoie à des systèmes capables de s’améliorer eux-mêmes. Mais la proposition ne s’arrête pas à cette interdiction : elle prévoit aussi une surveillance des laboratoires d’intelligence artificielle de pointe. Les informations disponibles ne détaillent pas les mécanismes juridiques, les critères techniques, ni les modalités précises d’une telle surveillance. Il serait donc prématuré d’imaginer un dispositif déjà défini, avec des inspecteurs, des calendriers ou des sanctions arrêtés. Pour Khanna, l’accord international paraît difficile à obtenir à court terme. Il propose en conséquence une étape intermédiaire : un groupe de travail réunissant des experts américains et chinois. Ce groupe aurait pour mission de formuler des recommandations de sécurité et des méthodes permettant d’évaluer la conformité. En pratique, l’objectif annoncé est de permettre aux experts d’élaborer des recommandations, mais les modalités de leur mise en œuvre ne sont pas précisées. Il s’agit d’une proposition de travail, sans indication confirmée sur sa composition, son calendrier ou son lancement. L’idée générale est de ne pas attendre la conclusion d’un traité pour commencer à discuter des pratiques de sécurité. Le groupe pourrait contribuer à formuler des recommandations communes, sans que leur adoption soit garantie. La proposition distingue donc clairement deux horizons : un objectif ambitieux, le traité, et un mécanisme d’échange d’experts présenté comme plus accessible dans l’immédiat.

NNoor

Les lettres de Khanna visent d’un côté l’Office of the Director of National Intelligence, l’agence américaine de renseignement désignée par le sigle O D N I, et de l’autre plusieurs sociétés chinoises. DeepSeek, Alibaba et Moonshot AI sont nommées parmi elles. À l’agence américaine, le représentant demande d’évaluer comment les États-Unis réagiraient si un laboratoire perdait le contrôle de ses bots. Il lui demande aussi d’examiner l’approche chinoise face aux risques catastrophiques de l’intelligence artificielle. Aux entreprises, les demandes portent sur leurs travaux concernant la superintelligence, ainsi que sur les mesures de sécurité qu’elles appliquent. Khanna cherche également à savoir si elles disposent de dispositifs d’arrêt d’urgence. Enfin, il interroge la possibilité d’inspections menées par une entité indépendante. C’est une différence importante : une entreprise peut déclarer qu’elle prend la sécurité au sérieux, tandis qu’une inspection indépendante permettrait, en principe, de vérifier certains éléments. Mais les demandes ne prouvent pas que ces contrôles existent déjà, ni que les sociétés accepteront de transmettre leurs documents. Les informations disponibles ne donnent pas les réponses de l’agence ou des entreprises. Elles ne précisent pas non plus le contenu complet des demandes d’inspection. Il faut donc s’en tenir à la portée des questions posées : obtenir des évaluations, comprendre les mesures de prévention et établir si des vérifications externes sont envisageables. Ce sont des demandes d’information et de préparation, pas la preuve qu’un mécanisme de surveillance fonctionne déjà.

NNoor

Brief IA décrit des obstacles politiques possibles à la conclusion d’un accord sur l’intelligence artificielle. Le média indique que Donald Trump et Mike Johnson se sont montrés réticents à certaines réglementations ou ententes sur l’IA, tandis que le républicain John Moolenaar a exprimé des doutes sur la capacité du gouvernement chinois à respecter ses engagements. Ces positions pourraient compliquer les négociations, sans établir qu’elles seraient impossibles. Les éléments disponibles présentent aussi comme incertaine la possibilité de réunir les dirigeants américains et chinois autour d’une action commune. Ro Khanna lui-même estime qu’un traité est peu probable à court terme. C’est précisément pour cette raison qu’il défend la création d’un groupe de travail d’experts avant un éventuel accord. Même ce premier pas dépend toutefois de décisions et de réponses qui ne sont pas confirmées. On ne sait pas si les entreprises sollicitées fourniront les renseignements demandés, ni si l’agence américaine transmettra son évaluation. Le contenu des lettres communiqué ne permet pas non plus de connaître l’issue de ces démarches. La proposition se heurte ainsi à deux niveaux d’incertitude : la capacité des gouvernements à s’entendre et la volonté des acteurs concernés de partager des informations sensibles. Cela explique pourquoi il faut parler d’une initiative de Khanna, et non d’un traité déjà en négociation ou d’un dispositif accepté par les deux pays.

NNoor

Il faut retenir trois éléments. D’abord, Ro Khanna réclame une coopération entre les États-Unis et la Chine pour limiter les risques de l’intelligence artificielle, avec une interdiction de la superintelligence et une surveillance des laboratoires de pointe. Ensuite, il propose une démarche intermédiaire : un groupe d’experts des deux pays qui préparerait des recommandations de sécurité et des méthodes de conformité, parce qu’il juge l’accord final peu probable à court terme. Enfin, ses lettres cherchent à faire préciser les réponses possibles à un incident impliquant des systèmes d’intelligence artificielle, les protections mises en place dans les entreprises et la possibilité d’inspections indépendantes. Ces démarches sont concrètes dans leurs questions, mais leur résultat reste ouvert. Les réponses des entreprises et de l’agence ne sont pas connues, et les modalités complètes des inspections ne sont pas disponibles. Les réserves de responsables républicains constituent par ailleurs un obstacle possible à la trajectoire politique de la proposition. Il n’y a donc pas, à ce stade, d’engagement confirmé des gouvernements ou des sociétés concernées à appliquer un traité. L’initiative associe une proposition diplomatique à des demandes adressées aux autorités et aux entreprises sur les risques et les mesures de sécurité. Les lettres évoquent notamment la préparation à un incident et les vérifications indépendantes, tandis que le traité proposé viserait à établir des règles communes. La prochaine étape dépendra des réponses aux lettres et de la capacité à réunir les acteurs autour d’un travail commun. Pour l’instant, la proposition fixe un cap et formule des demandes, mais elle ne constitue ni un accord conclu ni une interdiction déjà en vigueur.