Les craintes d’extinction liées à l’intelligence artificielle

MMarc

Le Monde décrit un regain d’inquiétude sur une possible extinction de l’humanité, après plusieurs incidents de cybersécurité impliquant des agents d’intelligence artificielle capables de mener des piratages de façon autonome. Ces incidents ont ravivé les craintes liées au risque existentiel, mais ne constituent pas une preuve qu’un tel scénario puisse se produire. Dans une vidéo, la journaliste Morgane Tual examine les raisons de l’emballement autour de ce risque existentiel. Le constat central reste qu’aucune preuve matérielle ne démontre, à ce jour, qu’une intelligence artificielle pourrait provoquer l’extinction de l’humanité. L’article rapporte aussi l’affirmation selon laquelle des personnes qui développent l’intelligence artificielle croiraient qu’elle pourrait tuer toute l’humanité avant la fin de la décennie ; cette affirmation n’est pas étayée par une preuve dans l’article. Evan Hubinger, présenté comme responsable de la sûreté chez Anthropic, aurait estimé à 10 % la probabilité que l’intelligence artificielle tue tous les humains dans la prochaine décennie, sans citer de source pour ce chiffre. Cette estimation reste donc un chiffre avancé sans source indiquée, et non une preuve matérielle qu’un tel scénario se réalisera. Les incidents ont ainsi relancé la discussion, tandis que le scénario d’extinction de l’humanité par l’intelligence artificielle demeure sans preuve matérielle établie.