Le papier du jour

Les détecteurs de vidéos truquées face au réel

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Ondine

Des chercheurs présentent Reality Perception Gap, un test pour mesurer si les détecteurs de vidéos manipulées par l’intelligence artificielle fonctionnent encore quand les images ressemblent à celles qui circulent réellement, selon arXiv. L’idée est de sortir du laboratoire et des vidéos impeccables. Les chercheurs reproduisent la compression qui peut dégrader une vidéo lorsqu’elle est republiée sur différentes plateformes. Ils la confrontent à une autre difficulté : de vraies caméras peuvent laisser des traces optiques qui ressemblent à des défauts artificiels. Pour mettre les détecteurs à l’épreuve, les chercheurs ont construit un ensemble de 10 000 vidéos. Il réunit des vidéos générées par des modèles de pointe, des montages partiellement synthétiques et des images réelles avec des artefacts de caméra. Certaines vidéos portent sur des sujets sensibles, comme des crimes ou des conflits armés, où une fausse image peut causer des dommages importants. Le résultat est frappant. Parmi les 18 détecteurs testés, aucun ne repère plus de 15 % des vidéos truquées lorsque le taux de fausses alertes est limité à 1 %. Autrement dit, dans ces conditions, les outils laissent passer la grande majorité des faux s’ils doivent limiter les alertes erronées. Les chercheurs distinguent deux difficultés. Même sans compression, les détecteurs peuvent être déstabilisés par des contenus différents de ceux qu’ils ont rencontrés auparavant. Ensuite, les republications effacent certaines traces discrètes sur lesquelles s’appuient les détecteurs. Le test montre donc pourquoi des résultats obtenus sur des vidéos propres ne garantissent pas les mêmes performances après leur circulation sur les réseaux. Ce résultat concerne les 18 détecteurs évalués et les conditions de ce benchmark. Il ne permet pas de conclure que tous les détecteurs échouent dans toutes les situations. Il souligne toutefois les limites des évaluations sur des vidéos propres et soigneusement sélectionnées, surtout face à des contenus dégradés ou sensibles.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.