Le papier du jour

Détecter les vidéos truquées dans le monde réel

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Marc

Des chercheurs présentent Reality Perception Gap, un test pour mesurer si les détecteurs de vidéos manipulées par l’intelligence artificielle résistent aux conditions réelles de circulation des images. L’idée est de ne pas tester les détecteurs uniquement sur des vidéos propres et soigneusement choisies. Les chercheurs ont constitué un ensemble de 10 000 vidéos, issues de générateurs récents ou modifiées en partie par intelligence artificielle. Ils les ont fait passer par des compressions comparables à celles qui surviennent quand une vidéo est republiée sur différentes plateformes. Cela permet d’observer ce qui arrive aux images après leur circulation en ligne. Le test comprend aussi de vraies vidéos marquées par des défauts optiques de caméra. Le benchmark inclut également des images de crimes et de conflits armés. Dans ces situations sensibles, une vidéo fabriquée peut entraîner des dommages importants. Le résultat est préoccupant. Parmi les 18 détecteurs évalués, aucun ne repère plus de 15 % des vidéos truquées lorsqu’on exige que les fausses alertes restent à 1 %. Autrement dit, même en limitant les erreurs qui accusent à tort une vidéo réelle, les détecteurs manquent la plupart des vidéos manipulées dans ce test. Les chercheurs distinguent deux difficultés. Certains détecteurs sont déjà fragilisés par le sujet ou le type de vidéo, avant même toute compression. Ensuite, les republications peuvent effacer les petits indices visuels sur lesquels s’appuient les méthodes qui cherchent des traces techniques de génération. Les auteurs estiment qu’il faut entraîner les détecteurs dans des conditions proches de celles de leur utilisation, et combiner plusieurs types d’indices, visuels, temporels et liés au sens de la scène. La limite à garder en tête est que ce test ne démontre pas que toute détection est impossible. Il montre que les détecteurs évalués peinent dans ces conditions précises, et que leurs résultats sur des vidéos propres ne suffisent pas à garantir leur efficacité une fois les images partagées.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.