Faut-il autoriser les modèles d’IA avant leur commercialisation ? (suite)

VVictor

Maintenant, nous allons évoquer les critères d’évaluation et les effets concrets sur les personnes. Maxime, comment éviter qu’une autorisation devienne un simple examen de dossier ?

MMaxime

Il faut que les critères soient publics, compréhensibles et révisables. Et surtout, qu’ils portent sur des choses qu’on peut réellement tester. Je veux des essais utiles, des retours et la possibilité de corriger.

HHélène

Des critères publics, oui, mais ils doivent conduire à des obligations opposables. Le cadre européen prévoit des obligations de transparence : une personne doit savoir qu’elle échange avec une IA, et les contenus générés ou manipulés doivent pouvoir être reconnus comme tels. Cela ne prouve pas qu’un modèle est sûr, mais permet de ne pas cacher sa nature aux personnes concernées.

MMaxime

Sur la transparence, je suis d’accord. Il faut parler des tests et de ce que les résultats permettent vraiment de conclure, pas seulement d’un avertissement visible.

BBertrand

Là-dessus, tu as raison : la transparence seule ne suffit pas. Il faut préciser ce qui a été testé et ce qui ne l’a pas été.

IInès

Et qui peut comprendre cette documentation ? La transparence doit permettre de comprendre et de contester, pas seulement de publier des pages.

BBertrand

C’est juste. Il faut distinguer les documents destinés aux spécialistes de ceux qui aident les personnes à comprendre une décision. Mais si on simplifie trop, on risque aussi, disons, de masquer les incertitudes. La difficulté, c’est de rendre les limites visibles sans prétendre les faire disparaître.

HHélène

Le cadre européen classe les usages en différentes catégories : certains sont interdits, d’autres sont à haut risque, d’autres relèvent de la transparence ou restent libres. Je ne dis pas que ces catégories règlent chaque cas. Mais elles permettent de ne pas appliquer une réponse identique à tous les usages. C’est une manière de relier les obligations aux risques.

VVictor

Le cadre européen impose aussi, depuis août 2025, des obligations aux fournisseurs de modèles à usage général, notamment une documentation technique, une politique de respect du droit d’auteur et un résumé des données d’entraînement. Bertrand, est-ce un point de départ suffisant pour une évaluation indépendante ?

BBertrand

C’est un point de départ, pas la preuve d’une évaluation réussie. Documenter un modèle ne démontre pas qu’il est sûr. Je concède à Hélène qu’un socle commun peut faciliter l’examen. Mais la qualité du contrôle reste à démontrer.

MMaxime

Je peux accepter ce socle si on le révise à partir de ce qu’on observe. Ce que je refuse, c’est que l’autorisation devienne un rituel où le dossier, le dossier compte plus que les résultats.

IInès

Mais ce que vous appelez le contexte comprend aussi, euh, les personnes qui travaillent et celles qui subissent les décisions. L’annotation des données est une partie du travail qui rend ces modèles possibles. Si les évaluateurs ne regardent que les capacités techniques, ils laissent une partie des effets hors champ.

MMaxime

Je reconnais que les conditions de production sont trop facilement invisibles. Mais, bon, je ne crois pas qu’un seul examen préalable puisse répondre à toutes les questions sur le travail. Il faut des responsabilités différentes et des critères distincts. Sinon, on demande à l’évaluation du modèle de régler des problèmes qui dépassent ce qu’elle peut mesurer.

IInès

Je ne prétends pas qu’un test règle tout. Je conteste, je conteste la frontière que tu traces quand tu dis que le travail dépasse l’évaluation du modèle. Si une partie de l’entraînement dépend de personnes payées à la tâche, c’est bien un élément de son histoire. On peut traiter ces conditions avec des règles adaptées, mais il faut au moins les voir.

VVictor

Dernier angle : BFM Tech décrit une stratégie américaine qui mise sur l’autorégulation des entreprises, dans le contexte de la course à l’IA face à la Chine. Cette divergence rend-elle un contrôle public plus nécessaire, ou risque-t-elle de compliquer l’action des entreprises ?

MMaxime

Je ne veux pas que la bonne volonté soit le seul mécanisme. Mais une règle plus lourde n’est pas forcément une meilleure règle.

BBertrand

Là, je suis d’accord avec Maxime sur un point : une procédure opaque serait un mauvais contrôle. Il faut des évaluations qu’on puisse examiner, des limites annoncées et la possibilité de revoir les conclusions si de nouveaux éléments apparaissent. Un score n’est pas une preuve complète.

HHélène

Je partage l’idée qu’une autorisation ne devrait pas devenir un certificat éternel. Mais la possibilité de revoir la décision ne remplace pas l’examen initial. Quand les risques sont importants, demander des garanties avant la mise sur le marché est raisonnable. La difficulté consiste à fixer des critères proportionnés et à les appliquer de manière contrôlable.

VVictor

Nous arrivons aux mots de la fin. Hélène, Maxime, Inès, Bertrand, chacun en une phrase, dans cet ordre.

MMaxime

Évaluons sérieusement les risques, mais ne transformons pas chaque lancement en parcours impossible.

BBertrand

Un contrôle crédible doit dire clairement ce qu’il sait établir, et ce qu’il ne sait pas démontrer.

VVictor

Geoffrey Hinton défend une autorisation préalable des modèles d’IA, fondée sur des preuves de sécurité et une évaluation indépendante. Son estimation d’environ un milliard de dollars et son hypothèse d’une aggravation possible des risques d’ici un à deux ans lui sont attribuées ; elles ne constituent ni un seuil officiel ni une échéance établie. Le cadre européen prévoit déjà des obligations différenciées, mais la portée d’une autorisation préalable et la manière d’évaluer ses effets restent débattues. Merci à Hélène, Maxime, Inès et Bertrand.

TToken FM

C'était le débat de Token FM. Les opinions entendues sont celles de personnages fictifs, pas celles de la station. Les faits cités sont sourcés sur tokenfm.fr.