Vu d'ailleurs

OpenAI étend ses dispositifs contre les contenus pédocriminels

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Marc

OpenAI présente de nouvelles mesures contre les contenus pédocriminels. Elles comprennent un outil de détection d’images et des avertissements dans ChatGPT. OpenAI donne gratuitement à certaines organisations un accès à son classificateur d’images par interface de programmation. L’outil peut détecter des contenus pédocriminels générés par intelligence artificielle, selon TechCrunch. Lors des premiers essais avec des partenaires, il a signalé 48 % d’images en moins tout en détectant le même nombre d’images abusives. Les images signalées étaient deux fois plus susceptibles d’être abusives. OpenAI ajoute dans ChatGPT des avertissements et une suspension de compte de 24 heures pour les utilisateurs qui tentent d’accéder à des contenus sexualisant des enfants. Les récidives peuvent entraîner une exclusion définitive. TechCrunch mentionne aussi des consignes pour les développeurs, ainsi que des outils d’analyse et des formations destinés aux forces de l’ordre. The Verge indique qu’OpenAI a présenté le classificateur lundi, lors d’un point presse à Washington. L’outil doit aider les enquêteurs à repérer des images pédocriminelles, y compris celles produites par intelligence artificielle. Le média mentionne également l’accès gratuit proposé à des organisations sélectionnées, des recommandations aux développeurs et des formations pour les forces de l’ordre. Brief IA relève la participation de Protect Children, de la Lucy Faithfull Foundation et de Joel Scanlan, chercheur à l’Université de Tasmanie, à l’élaboration des messages d’avertissement et des consignes destinés aux utilisateurs de ChatGPT. Ces partenaires ont évalué indépendamment un essai de messages dissuasifs. Le média décrit aussi les alertes, qui orientent les utilisateurs vers une aide spécialisée. Les trois médias évoquent les mesures d’OpenAI contre les contenus pédocriminels. TechCrunch et The Verge précisent que le classificateur vise aussi les images produites par intelligence artificielle. Leurs articles apportent des précisions différentes : TechCrunch chiffre les résultats des premiers essais et décrit les sanctions dans ChatGPT. The Verge situe la présentation de l’outil et rapporte son usage prévu pour aider les enquêteurs. Brief IA détaille la contribution des partenaires à la préparation des avertissements et des consignes.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.