Faut-il autoriser les modèles d’IA avant leur commercialisation ?

TToken FM

Token FM, la radio de l'IA, faite par l'IA. Place au débat. Les quatre débatteurs que vous allez entendre sont des personnages fictifs, écrits et joués par des intelligences artificielles, aux opinions volontairement tranchées. Leurs propos n'engagent pas Token FM.

VVictor

Bienvenue dans cette première partie de notre débat. Aujourd'hui, nous allons parler de l’autorisation préalable des modèles d’intelligence artificielle. Geoffrey Hinton propose qu’un régulateur exige des preuves de sécurité avant leur commercialisation, sur le modèle de l’autorisation des médicaments par la FDA, selon Brief IA. Il estime que cette démonstration pourrait représenter environ un milliard de dollars de travail. Son hypothèse d’une aggravation marquée des risques d’ici un à deux ans reste une supposition, et non une échéance établie. Autour de la table, nous avons Hélène, juriste du numérique ; Maxime, fondateur de startup dans l'IA ; Inès, sociologue du travail ; et Bertrand, chercheur en intelligence artificielle. Hélène, cette comparaison avec l’autorisation des médicaments vous paraît-elle une bonne base pour encadrer les modèles d’IA ?

HHélène

Oui, la comparaison pose une question essentielle : peut-on, peut-on laisser un modèle être commercialisé sans preuve suffisante de sécurité ? Je vous rappelle que le cadre européen classe déjà les usages selon leur niveau de risque. Une procédure préalable pourrait compléter cette logique, si elle porte sur des risques définis et sur des preuves examinables. La règle ne vaut que si elle éclaire ce qu’on autorise.

MMaxime

Mais « préalable », c’est le mot qui change tout. Ce n’est pas automatiquement de la sécurité.

IInès

Tu parles de ce que les équipes doivent optimiser. Moi, je pense, euh, aux personnes qui vivent les conséquences quand un système est mal évalué. L’entraînement des modèles repose en partie sur l’annotation de données par des travailleurs payés à la tâche, souvent dans des pays à bas salaires.

VVictor

Hinton avance qu’il faudrait environ un milliard de dollars de travail pour démontrer la sécurité, et considère ce niveau comme un minimum. Hélène, comment entendre cette estimation sans en faire un tarif ou un seuil réglementaire ?

HHélène

Je reconnais que des règles mal conçues peuvent peser davantage sur les petites entreprises. Mais on ne peut pas déduire de cette difficulté qu’il faut renoncer au contrôle. Le cadre européen distingue déjà les usages selon leur risque ; cette logique permet de ne pas imposer la même réponse à toutes les situations. L’évaluation doit être exigeante là où le risque l’est.

IInès

Et cette proportionnalité doit inclure la vie réelle, pas seulement un tableau technique. Les travailleurs qui annotent les données ne sont pas un élément extérieur au système. Si l’évaluation s’arrête aux capacités du modèle, elle peut ignorer les conditions de travail qui ont rendu son entraînement possible. On ne peut pas parler de sécurité comme si les personnes n’étaient pas déjà dans la chaîne.

MMaxime

Je ne dis pas que ces travailleurs n’existent pas. Je dis qu’un permis préalable ne résout pas toutes les questions de travail. Il faut distinguer les règles qui portent sur la conception du modèle et celles qui portent sur les conditions d’emploi. Si on met tout dans un seul dossier, personne ne saura ce qui est exigé, ni comment vérifier que ça l’est.

BBertrand

La distinction est utile, mais elle ne doit pas devenir une excuse pour réduire l’examen. Un modèle peut être évalué sur des tâches précises, avec des critères annoncés. Ce qu’on ne peut pas faire, c’est prendre un score comme une garantie universelle. Un résultat ne dit pas tout sur le contexte dans lequel le système sera utilisé.

MMaxime

Justement, si le contexte compte autant, autoriser un modèle abstrait avant même de savoir comment il sera utilisé risque de manquer sa cible. On devrait regarder les usages concrets et corriger quand on découvre un problème. Je préfère, franchement, un contrôle qui apprend à partir des déploiements à un guichet qui juge un dossier sans voir le terrain.

BBertrand

Mais l’absence de certitude ne donne pas automatiquement le feu vert. On peut demander une évaluation limitée, puis la réviser à mesure que les connaissances changent. Maxime, tu opposes parfois le contrôle à l’apprentissage, alors qu’un bon contrôle devrait justement dire ce qu’on sait et ce qu’on ignore.

VVictor

Un autre élément cité par Hinton concerne la décision d’OpenAI de ne pas lancer un modèle jugé trop difficile à contrôler, ainsi que des incidents cyber récents, selon BFM Tech. Est-ce que ces éléments appuient l’idée d’une procédure obligatoire, ou montrent-ils seulement que l’entreprise peut décider elle-même de s’arrêter ?

HHélène

Le cadre européen apporte déjà des obligations différenciées pour certains fournisseurs de modèles à usage général, ainsi qu’une classification des usages selon les risques. Il faut des exigences vérifiables.

MMaxime

Je reconnais qu’un socle commun peut aider à rendre les attentes plus lisibles. Mais les obligations européennes s’appliquent par étapes, et ce rythme montre que même la règle doit s’adapter. Je ne veux pas d’une autorisation qui transforme l’incertitude en interdiction permanente. Si les risques sont maîtrisés, il faut pouvoir avancer.

IInès

D’accord, ce calendrier reste hypothétique. Mais, enfin, demander des preuves avant de déployer largement un système n’exige pas de croire à une date précise. Le RGPD reconnaît un droit de ne pas subir certaines décisions exclusivement automatisées. Il faut que ce droit soit praticable.

HHélène

Je vous rejoins sur ce point : un droit qui ne peut pas être exercé protège mal. Le RGPD prévoit bien cette protection pour certaines décisions automatisées ayant des effets juridiques ou une incidence significative. Une autorisation préalable ne remplace pas les recours, mais elle peut s’inscrire dans un ensemble de garanties. Il faut éviter de présenter un seul instrument comme une solution complète.

VVictor

On marque une courte pause pour les titres, et on revient tout de suite avec nos quatre débatteurs.