Geoffrey Hinton veut soumettre les modèles d’IA à une autorisation préalable

NNoor

Alors, Geoffrey Hinton estime que les entreprises d’intelligence artificielle devraient respecter des règles gouvernementales et faire évaluer leurs modèles par des experts indépendants avant de les lancer. Il propose qu’un régulateur exige des preuves de sécurité avant la commercialisation, en s’inspirant de l’autorisation préalable appliquée aux médicaments par la Food and Drug Administration, la F D A, aux États-Unis. L’idée est de déplacer le contrôle vers l’amont : il ne s’agirait pas seulement de surveiller un produit après sa sortie, mais de demander à son fabricant de justifier sa sécurité avant sa mise sur le marché. Pour un médicament, l’entreprise doit convaincre l’autorité compétente que son produit peut être autorisé ; Hinton défend une logique comparable pour les nouveaux modèles d’intelligence artificielle. Cette analogie ne signifie pas que les deux produits présentent les mêmes risques, ni que leurs évaluations seraient identiques. Elle met plutôt en avant un principe : un fabricant ne déciderait pas seul que son produit est suffisamment sûr pour être commercialisé. Hinton présente cette exigence comme un minimum, et non comme la promesse d’éliminer tous les dangers. Il ne décrit pas un protocole détaillé, avec une liste complète de tests ou un calendrier d’examen ; son intervention porte d’abord sur le principe d’une approbation préalable et indépendante.

NNoor

Hinton avance qu’établir la sécurité d’un modèle pourrait demander environ 1 milliard de dollars de travail. Il juge cet ordre de grandeur nécessaire et le présente comme un minimum pour l’intelligence artificielle, en le rapprochant de l’effort requis pour faire approuver un médicament. Ce montant est son estimation, pas une règle déjà adoptée, ni un tarif officiel fixé par une administration. Il donne surtout une indication de l’ampleur des évaluations qu’il estime indispensables, mais Hinton ne précise pas comment répartir cet effort entre les différentes étapes, ni comment calculer le coût pour chaque entreprise ou chaque modèle. L’exigence qu’il défend porte donc sur la preuve à fournir avant le lancement, tandis que les modalités concrètes restent à définir. Un dispositif de ce type devrait notamment préciser quels éléments permettent de conclure qu’un modèle est assez sûr, et quelle autorité prend la décision finale ; la proposition rapportée ne détaille pas ces critères. Il ne décrit pas non plus de calendrier d’examen, de procédure de recours ou de sanctions en cas de lancement sans autorisation. Ces questions sont importantes, parce qu’une évaluation préalable ne fonctionne que si les entreprises savent ce qu’elles doivent démontrer et si l’autorité dispose d’une méthode pour examiner leurs éléments. Pour l’instant, Hinton défend donc une direction réglementaire générale, pas un règlement prêt à entrer en vigueur.

NNoor

La proposition vise les entreprises qui développent des modèles d’intelligence artificielle, et Hinton estime qu’elles devraient se soumettre à des règles gouvernementales avant de lancer leurs produits. L’approbation préalable deviendrait ainsi une condition de mise sur le marché, au lieu d’une démarche laissée à la seule initiative de chaque entreprise. Les éléments disponibles ne précisent toutefois pas si une telle obligation viserait tous les modèles, ou seulement certains modèles définis par leur taille, leurs capacités ou leur usage. Ils ne détaillent pas davantage les sanctions, les recours possibles, ni la manière dont l’examen serait appliqué aux entreprises. Le coût évoqué, environ 1 milliard de dollars pour démontrer la sécurité, ouvre aussi une question pratique : une procédure lourde pourrait-elle avantager les acteurs capables de financer des évaluations coûteuses ? Hinton ne donne pas de réponse sur ce point et ne propose pas de mécanisme pour répartir les dépenses. Il défend une obligation de contrôle indépendant, mais les règles concrètes devraient préciser qui choisit les experts, comment préserver leur indépendance et quels risques les tests doivent mesurer. Il faut distinguer le principe qu’il soutient des détails institutionnels qui ne sont pas précisés : rien, dans cette proposition, ne décrit une administration déjà créée ou une procédure déjà appliquée. L’effet recherché serait de faire intervenir l’examen public avant le lancement, mais l’ampleur des démarches dépendrait des choix faits pour définir le dispositif.

NNoor

Hinton avance, en précisant qu’il s’agit d’une hypothèse, qu’une aggravation marquée des risques pourrait survenir d’ici un à deux ans. Il relie cette crainte à l’amélioration récursive : l’intelligence artificielle est de plus en plus utilisée pour contribuer à améliorer l’intelligence artificielle elle-même. Si cette dynamique progresse, les capacités pourraient évoluer plus vite, ce qui rendrait plus difficile l’évaluation des risques et la préparation des réponses. Il s’agit toutefois de son appréciation, pas d’une échéance établie ni d’une prévision certaine. BFM Tech cite aussi les récents incidents cyber impliquant des modèles d’intelligence artificielle et la décision d’OpenAI de ne pas lancer un modèle, après l’avoir jugé trop difficile à contrôler, parmi les éléments qui alimentent le débat. Ces exemples donnent un contexte à l’appel de Hinton, mais ils ne démontrent pas que tous les modèles présentent les mêmes risques, ni que l’amélioration récursive conduira nécessairement à une aggravation dans le délai qu’il avance. Son argument est que l’incertitude et la vitesse possible des évolutions justifient d’organiser le contrôle avant que les systèmes deviennent plus difficiles à évaluer. Il ne présente pas de méthode permettant de dater précisément cette évolution ; son horizon d’un à deux ans reste explicitement une supposition.

NNoor

La stratégie américaine décrite par BFM Tech privilégie la course à l’intelligence artificielle face à la Chine et mise sur l’autorégulation des entreprises, notamment au moyen d’un décret qu’elles ont signé. Cela contraste avec la proposition de Hinton, qui demande des règles gouvernementales et une évaluation par des experts indépendants avant la commercialisation. Le désaccord porte donc sur la place du contrôle public et sur le moment où il doit intervenir, plutôt que sur l’existence d’un dispositif déjà opérationnel. D’un côté, l’approche décrite compte sur les entreprises pour encadrer leur activité ; de l’autre, Hinton voudrait qu’un organisme extérieur puisse demander des preuves de sécurité avant le lancement. La proposition soulève aussi des questions pratiques : quels risques un test devrait-il mesurer, qui choisirait les experts, et comment éviter qu’une procédure lourde ne favorise seulement les entreprises les mieux financées ? Ces questions ne sont pas résolues dans les éléments présentés, et Hinton ne fournit pas un plan détaillé pour y répondre. Il faut également garder en tête la différence entre ses deux affirmations principales : le coût d’environ 1 milliard de dollars est son estimation du travail nécessaire, tandis que l’aggravation possible d’ici un à deux ans est une hypothèse. Ni l’une ni l’autre ne constitue une règle ou une échéance adoptée par un régulateur. Au fond, Hinton demande que les modèles soient évalués avant leur lancement, avec un contrôle public et indépendant. Le débat reste celui de la manière de concilier sécurité, rapidité de développement et capacité des entreprises à satisfaire à ces exigences.