Modèles ouverts et risques cyber : faut-il revoir les craintes ?

SSacha

D’après la lettre Interconnects, l’auteur revient sur les inquiétudes liées aux modèles capables d’aider à découvrir ou à exploiter des failles informatiques. Il examine une vague de divulgations de vulnérabilités, dont PHP2Shell et GitLab, ainsi qu’une hausse des piratages signalés. Ces événements ont ravivé les inquiétudes sur les risques associés aux modèles ouverts, mais l’auteur estime qu’ils ne démontrent pas que ces modèles aient provoqué un changement radical du niveau de risque cyber. Il distingue donc la pression réelle qui pèse sur la cybersécurité de la preuve qu’un nouvel outil aurait entraîné une rupture générale. Son analyse ne dit pas que les problèmes sont bénins ni que les modèles n’ont aucun rôle possible. Elle dit que les éléments évoqués ne suffisent pas à établir le lien entre les modèles ouverts et un basculement majeur. C’est cette différence entre une situation qui s’aggrave et la preuve de sa cause qui guide sa réévaluation.

SSacha

Alors, l’auteur cite PHP2Shell et GitLab parmi les divulgations récentes qui ont nourri l’inquiétude, ainsi que la hausse des piratages. Il ne présente pas ces exemples comme la preuve que des modèles ouverts auraient causé les vulnérabilités ou rendu possibles des dommages inédits. L’article évoque également un incident majeur de sécurité touchant Binance, mais n’en précise pas les circonstances. L’auteur rappelle que l’industrie des cryptomonnaies a une longue histoire de piratages et qu’un incident dans ce secteur ne suffit pas à caractériser l’évolution du risque pour l’ensemble de la société. Il faut donc distinguer les faits rapportés, leur origine et leurs conséquences, sans attribuer automatiquement une faille à l’intelligence artificielle. L’analyse ne donne pas, pour ces exemples, de bilan détaillé qui permettrait de mesurer un éventuel rôle des modèles. Les événements signalent une période de fortes inquiétudes, mais ne démontrent pas, à eux seuls, une rupture technologique causée par les modèles ouverts.

SSacha

L’auteur examine l’hypothèse d’une diffusion accidentelle des poids de Claude Mythos, c’est-à-dire des paramètres qui permettent au modèle de fonctionner. Il estime qu’une telle fuite aurait probablement entraîné davantage d’incidents de cybersécurité et aurait été mauvaise pour la société. Mais il anticipe plutôt une accélération des risques qu’un saut brutal susceptible de déstabiliser la société. Cette appréciation n’équivaut donc pas à dire qu’une fuite serait sans gravité. L’auteur avance également que GLM-5.3 aurait atteint le seuil de capacités cyber qu’il redoutait. Il relève toutefois peu d’éléments publics montrant une évolution majeure depuis la publication des poids de ce modèle, plus d’un mois auparavant. Cette absence d’éléments publics ne démontre pas que rien n’évolue, mais elle limite ce qu’il est possible d’affirmer à partir des informations disponibles. Pour l’auteur, les exemples récents ne suffisent donc pas à confirmer le scénario d’un changement radical imputable aux modèles ouverts.

SSacha

L’auteur indique que les équipes chargées de répondre aux incidents cyber sont sous pression. Il interprète cette situation comme le signe que davantage de personnes et de ressources sont mobilisées pour corriger les vulnérabilités d’Internet. Mais l’analyse ne précise ni qui a découvert chaque faille, ni si un modèle a contribué à la trouver ou à l’exploiter. Elle ne chiffre pas non plus le coût des réparations, le nombre d’incidents attribuables à l’intelligence artificielle ou les budgets engagés. Il est donc possible de constater une pression opérationnelle et une mobilisation accrue sans disposer d’un bilan permettant d’en isoler la cause. L’auteur présente cette mobilisation comme une réponse aux vulnérabilités, mais elle ne constitue pas, à elle seule, une mesure de l’effet des modèles ouverts.

SSacha

La conclusion dépend des éléments publics examinés par l’auteur et ne constitue pas une mesure exhaustive de tous les usages. Il prédit que les modèles ouverts actuels ne provoqueraient pas de dommages inédits et substantiels en paralysant les infrastructures cyber, mais cette prévision reste à vérifier. L’absence de preuves publiques d’un changement majeur ne prouve pas que rien ne change, notamment parce que l’analyse disponible ne permet pas toujours d’attribuer un incident à un outil particulier. Il faut donc garder ensemble deux constats : les divulgations de vulnérabilités et la pression sur les équipes de réponse sont prises au sérieux, mais elles ne démontrent pas que les modèles ouverts aient déjà provoqué une rupture générale. L’auteur estime que les éléments récents ne confirment pas le scénario d’infrastructures paralysées par des dommages inédits. Ce jugement reste celui de l’auteur, et non un résultat définitif sur les risques futurs. Le point à suivre est donc l’apparition d’éléments qui établiraient plus clairement le lien entre les capacités des modèles, les incidents et leurs conséquences.