Détecter les vidéos truquées dans le monde réel
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Marc
Des chercheurs présentent Reality Perception Gap, un test pour mesurer si les détecteurs de vidéos manipulées par l’intelligence artificielle résistent aux conditions réelles de circulation des images. L’idée est de ne pas tester les détecteurs uniquement sur des vidéos propres et soigneusement choisies. Les chercheurs ont constitué un ensemble de 10 000 vidéos, issues de générateurs récents ou modifiées en partie par intelligence artificielle. Ils les ont fait passer par des compressions comparables à celles qui surviennent quand une vidéo est republiée sur différentes plateformes. Cela permet d’observer ce qui arrive aux images après leur circulation en ligne. Le test comprend aussi de vraies vidéos marquées par des défauts optiques de caméra. Le benchmark inclut également des images de crimes et de conflits armés. Dans ces situations sensibles, une vidéo fabriquée peut entraîner des dommages importants. Le résultat est préoccupant. Parmi les 18 détecteurs évalués, aucun ne repère plus de 15 % des vidéos truquées lorsqu’on exige que les fausses alertes restent à 1 %. Autrement dit, même en limitant les erreurs qui accusent à tort une vidéo réelle, les détecteurs manquent la plupart des vidéos manipulées dans ce test. Les chercheurs distinguent deux difficultés. Certains détecteurs sont déjà fragilisés par le sujet ou le type de vidéo, avant même toute compression. Ensuite, les republications peuvent effacer les petits indices visuels sur lesquels s’appuient les méthodes qui cherchent des traces techniques de génération. Les auteurs estiment qu’il faut entraîner les détecteurs dans des conditions proches de celles de leur utilisation, et combiner plusieurs types d’indices, visuels, temporels et liés au sens de la scène. La limite à garder en tête est que ce test ne démontre pas que toute détection est impossible. Il montre que les détecteurs évalués peinent dans ces conditions précises, et que leurs résultats sur des vidéos propres ne suffisent pas à garantir leur efficacité une fois les images partagées.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.