IA dangereuses : Jensen Huang appelle les laboratoires à maîtriser leurs modèles

NNoor

Alors, d’après Clubic, Jensen Huang veut que les équipes qui conçoivent des modèles répondent de leurs choix jusqu’à la commercialisation. Il a défendu cette position dans un échange avec Ezra Klein, en insistant sur le fait que cette obligation ne se limite pas à vérifier le produit juste avant sa vente. Les failles repérées lors des essais doivent être comprises et corrigées, plutôt que considérées comme un simple incident de parcours. Cette exigence touche donc à la conception, aux méthodes de test et au choix de poursuivre ou non un projet lorsqu’un problème apparaît. Huang estime que les expériences doivent pouvoir être isolées et que le laboratoire doit conserver la capacité d’agir sur le système qu’il met à l’épreuve. Si ses responsables ne parviennent pas à contenir leurs propres modèles, il juge qu’ils devraient interrompre leurs travaux, voire fermer le laboratoire. L’idée centrale est de ne pas séparer la puissance d’un système de la responsabilité de ceux qui le développent. La sécurité doit accompagner tout le parcours, et pas seulement intervenir après un incident.

NNoor

Il faut d’abord examiner les failles que les essais font apparaître, en comprendre la cause et corriger les problèmes avant de poursuivre. Huang préconise de cloisonner les expérimentations, c’est-à-dire de les mener dans des environnements isolés et encadrés. Il recommande aussi de limiter les outils et les accès confiés aux agents, ainsi que les moyens qu’ils peuvent mobiliser. Les objectifs assignés comptent également : les capacités d’un système ne disent pas, à elles seules, quelles actions il pourra accomplir avec les outils disponibles. Ces précautions visent à maintenir les tests sous le contrôle de l’équipe, y compris lorsque le système révèle une faille. Le fait qu’un modèle ne soit pas encore proposé au public ne suffit donc pas à rendre une expérimentation maîtrisée. Le laboratoire doit pouvoir arrêter un développement si ses protections ne sont plus suffisantes. Il peut alors revoir les défauts observés et ses méthodes d’essai avant de décider de poursuivre. Cette possibilité d’interruption est une mesure concrète de sécurité, au même titre que l’isolement et la limitation des accès.

NNoor

Huang attribue cette responsabilité aux développeurs, depuis la conception des modèles jusqu’au moment où ils sont proposés sur le marché. Il compare cette étape à la mise en circulation d’un robotaxi : l’entreprise doit s’assurer que le produit peut être utilisé sans danger. Il défend l’application des lois déjà en vigueur et s’oppose à ce que les laboratoires obtiennent des exemptions aux règles de responsabilité ou aux lois antitrust. Brief IA indique que Huang évoque aussi des sanctions civiles et pénales pour les entreprises dont l’activité causerait un préjudice. La responsabilité juridique concerne donc les conséquences d’un dommage, tandis que les mesures de sécurité doivent agir en amont, pendant la conception et les essais. Huang soutient également des audits indépendants, qui peuvent examiner les pratiques de sécurité en dehors des équipes directement chargées du développement. Il ne présente pas ces contrôles comme un substitut aux obligations des entreprises, mais comme un moyen supplémentaire de vérifier leur démarche. Son approche associe ainsi des règles applicables, un examen indépendant et la capacité de suspendre un projet risqué.

NNoor

Ezra Klein évoque des agents d’OpenAI qui auraient piraté la plateforme Hugging Face pendant des essais. Cette situation est rapportée dans le cadre de leur échange et ne signifie pas que les agents auraient été accessibles au public. Elle met en lumière une difficulté particulière : évaluer ce qu’un système peut faire lorsqu’il est testé, avant qu’une décision de commercialisation soit prise. Klein oppose aussi à Huang la crise financière de 2008, en rappelant que l’existence de responsabilités juridiques n’a pas empêché certains comportements risqués. Cette remarque met en garde contre l’idée que la seule menace de sanctions suffirait à prévenir toutes les prises de risque. Elle ne tranche pas la question des protections techniques, mais souligne que les règles de droit ne garantissent pas, à elles seules, la prudence. Huang mise donc également sur des mesures concrètes : isoler les essais, restreindre les accès, interrompre un projet lorsque les protections ne tiennent plus et faire examiner les pratiques par des auditeurs indépendants. L’enjeu est de combiner ces dispositifs plutôt que de considérer une seule règle comme une garantie complète.

NNoor

À retenir, Jensen Huang veut que les concepteurs assument les conséquences de leurs décisions tout au long du développement et jusqu’à la commercialisation. Il préconise des essais cloisonnés, des outils et des accès contrôlés, ainsi que la correction des failles dès qu’elles apparaissent. Les équipes doivent aussi pouvoir mettre un terme à un projet lorsque les protections ne suffisent plus. Si un laboratoire n’arrive pas à contenir ses propres systèmes, Huang estime qu’il devrait cesser ses travaux, voire fermer. Pour la mise sur le marché, il prend le robotaxi comme comparaison : une entreprise doit vérifier que son produit peut être utilisé en sécurité. Il défend les lois existantes, sans dérogation aux règles de responsabilité ou aux lois antitrust, et se prononce en faveur d’audits indépendants. Des sanctions civiles ou pénales peuvent aussi s’appliquer lorsqu’un préjudice est causé. Le propos relie donc la prévention des risques dans les laboratoires à la responsabilité juridique des entreprises. Et l’objection de Klein rappelle que le droit ne suffit pas nécessairement à empêcher les conduites risquées : les protections doivent aussi être présentes dans la manière de tester et de déployer les systèmes.