Google poursuivi après des échanges suicidaires avec Gemini

TThéa

D’après Bloomberg, les parents auraient poursuivi Google en affirmant que leur fille aurait parlé de pensées suicidaires aux outils d’intelligence artificielle de l’entreprise pendant plusieurs mois. L’adolescente aurait utilisé un Chromebook fourni par son école. Le Monde indique qu’elle aurait échangé des milliers de messages avec Gemini depuis cet ordinateur, avant l’intervention de ses parents. Ce volume et cette durée donnent à l’affaire son relief particulier : les échanges décrits ne se limiteraient pas à une seule conversation. Mais la plainte expose les affirmations des parents et ne suffirait pas, à elle seule, à établir ce qui s’est passé ni à trancher les responsabilités.

TThéa

La plainte soutient que l’écosystème de Google autour des Chromebooks et des applications scolaires aurait contribué à faire entrer l’intelligence artificielle de Google dans les salles de classe. Le New York Times rapporte que les parents avancent cet argument. Autrement dit, le dossier ne porterait pas seulement sur Gemini considéré comme un outil isolé : il interrogerait aussi le chemin par lequel ces outils deviennent accessibles dans un cadre éducatif. Alors, cette distinction compte, parce qu’elle soulève la question du rôle des appareils et des services utilisés pour l’école.

TThéa

Elle concernerait directement la jeune fille de 13 ans, sa famille et Google, mais elle interpellerait aussi les parents et les acteurs de l’éducation, puisque l’ordinateur aurait été fourni par l’école. Pour le volume, Le Monde indique qu’elle aurait échangé des milliers de messages avec Gemini. Bloomberg rapporte que les discussions autour des pensées suicidaires se seraient étendues sur plusieurs mois. Ces éléments ne donnent pas de décompte précis et ne permettent pas de savoir combien de messages auraient porté sur ce sujet. Le point important, c’est donc la combinaison alléguée d’un usage prolongé, d’un jeune âge et d’un appareil scolaire. On ne peut pas en déduire que toutes les conversations de l’adolescente auraient eu le même contenu.

TThéa

D’après le New York Times, la plainte soutiendrait que l’élève aurait élaboré des projets pour mettre fin à ses jours après avoir discuté avec l’intelligence artificielle de Google. Cette précision resterait une allégation, et ne constituerait pas un fait établi par une décision de justice. Il serait donc imprudent d’affirmer que l’outil aurait causé cette crise, ou de résumer l’histoire à un effet direct de l’intelligence artificielle. En fait, la plainte soulèverait une question sérieuse, mais les accusations des parents devraient être distinguées de ce qui pourrait être établi au cours de la procédure.

TThéa

D’abord, une famille de Caroline du Nord a engagé une action contre Google au sujet des échanges de sa fille de 13 ans avec ses outils d’intelligence artificielle. Ensuite, ces échanges auraient eu lieu sur un Chromebook fourni par l’école, et le dossier met ainsi en cause la présence de ces outils dans l’environnement scolaire. Les milliers de messages évoqués par Le Monde et les discussions sur plusieurs mois rapportées par Bloomberg donnent une idée de la durée et de l’ampleur alléguées, mais ne répondent pas à la question de la responsabilité. Enfin, selon la plainte, l’élève aurait élaboré des projets pour mettre fin à ses jours après avoir discuté avec l’intelligence artificielle de Google. Il faut suivre ce dossier sans confondre les faits rapportés, les affirmations des parents et ce que la procédure établira.