Imaginez votre visage dans une vidéo que vous n'avez jamais tournée, prononçant des propos que vous n'avez jamais tenus. C'est la réalité des deepfakes générés par intelligence artificielle. YouTube vient d'étendre son système de détection de ces faux aux journalistes, responsables gouvernementaux et politiques, dans le cadre d'un programme pilote.
L'outil fonctionne comme Content ID, le système qui repère automatiquement les musiques et vidéos protégées par droits d'auteur, mais cette fois, il scanne les visages plutôt que les œuvres. Une évolution qui pose autant de questions qu'elle n'apporte de solutions.
YouTube, terrain de jeu privilégié des deepfakes
Avec plus de 2 milliards d'utilisateurs mensuels, YouTube est devenu un vecteur massif de diffusion de contenus générés par IA. Ces derniers mois, la plateforme a vu affluer des milliers de vidéos créées artificiellement : fausses bandes-annonces de films, contenus de basse qualité cumulant des millions d'abonnés, et surtout des deepfakes de plus en plus crédibles.
L'attrait de ces technologies se comprend : elles permettent de produire du contenu plus facilement. Mais leur utilisation détournée transforme notre réalité en zone à risque pour la désinformation.
Comment fonctionne le nouvel outil de détection
Pour rejoindre ce programme pilote, les personnes éligibles doivent soumettre une vidéo d'elles-mêmes et une pièce d'identité. YouTube utilise ces données pour entraîner son système de reconnaissance faciale. Lorsqu'une correspondance est détectée, la personne concernée peut demander le retrait de la vidéo.
Toutes les demandes ne seront pas acceptées. YouTube maintient des exceptions explicites pour la parodie, la satire et la critique politique. Leslie Miller, vice-présidente des affaires gouvernementales de YouTube, le dit clairement : « Si une vidéo d'un dirigeant mondial est clairement une parodie, elle restera probablement en ligne. »
Mais la frontière entre satire légitime et manipulation malveillante est floue. Qui décide ? Sur quels critères précis ? YouTube reste vague sur le processus d'évaluation exact.
Et les citoyens ordinaires ?
Etendre cette fonctionnalité à l'ensemble des internautes n'est « probablement pas » au programme, admet YouTube. Les particuliers victimes de deepfakes disposent d'un processus de plainte distinct, mais sans l'automatisation et la rapidité offertes aux personnalités publiques.
Autrement dit, vous êtes ministre ou journaliste connu ? Vous bénéficiez d'une protection automatisée. Vous êtes citoyen lambda ? Vous devez vous débrouiller avec un formulaire de plainte classique. Je doute que ce deux poids, deux mesures soit très rassurant pour la majorité d'entre nous.
Bref
- Restez critique face aux vidéos virales : avant de partager, posez-vous la question : cette vidéo paraît-elle naturelle ? A qui profite t-elle ?
- Protégez vos images publiques : limitez la diffusion de vidéos de vous en ligne, surtout en haute qualité. Plus il y a de matériel disponible, plus il est facile de créer un deepfake convaincant de vous.