Table des matières
La manipulation de vidéos et d’audios à l’aide de l’intelligence artificielle s’est démocratisée rapidement, donnant naissance à des contenus de plus en plus crédibles : les deepfakes. Imitations de voix, visages répliqués à la perfection, expressions réalistes… ces faux peuvent être utilisés dans des contextes problématiques : désinformation, fraude, extorsion ou atteinte à la réputation.
Mais face à cette montée en puissance, des solutions open source basées sur l’IA permettent de détecter ces contenus fabriqués artificiellement.
Les deepfakes produits en 2018 étaient souvent grossiers et facilement repérables à l’œil nu. Mais depuis l’arrivée des modèles génératifs avancés comme StyleGAN, Synthesia ou D-ID, les résultats sont bien plus réalistes. En 2024, plus de 65 % des vidéos deepfake circulant en ligne sont jugées “convaincantes” selon une étude de la société Sensity AI.
Les méthodes traditionnelles d’authentification comme l’analyse manuelle d’un expert ou la vérification croisée des sources ne suffisent plus. Les algorithmes d’IA sont aujourd’hui indispensables pour traiter ces volumes de données avec fiabilité et rapidité.
Connu pour avoir été utilisé à la fois pour créer et détecter des deepfakes, DeepFaceLab permet également d’analyser une vidéo image par image pour repérer des signes de génération artificielle :
Bien qu’il demande une configuration technique (Python, GPU requis), il est l’un des outils les plus complets pour scruter la stabilité morphologique d’un visage au fil des frames.
Mis au point par une équipe de chercheurs européens, FaceForensics++ n’est pas un détecteur direct, mais un jeu de données massif de vidéos truquées permettant d’entraîner ou tester des modèles de détection.
Des réseaux convolutifs préentraînés sont disponibles, capables d’analyser des artefacts invisibles à l’œil nu grâce à la détection de microscopiques incohérences de compression, de morphologie ou de mouvement.
Le projet est particulièrement utile pour les développeurs ou institutions souhaitant bâtir leur propre système de détection IA en environnement local.
Deepware Scanner propose une interface simplifiée, utilisable sans compétences en développement. C’est un scanner vidéo alimenté par des modèles open source, qui effectue :
Bien qu’il repose sur des ressources open source, il fonctionne via une API cloud, ce qui facilite son usage sans installation locale. Cela en fait un outil pertinent pour les journalistes, les enseignants ou les modérateurs de contenu.
Plusieurs bibliothèques Python orientées IA intègrent des modules ou modèles pour l’analyse de contenu falsifié :
Des scripts prêts à l’emploi sont disponibles, mais un minimum de compétence en IA est requis pour adapter les modèles à votre cas d’usage (type de deepfake, qualité de la source, etc.).
Aucune solution open source, aussi avancée soit-elle, n’offre de fiabilité à 100 %. Certaines vidéos sont volontairement compressées ou modifiées pour contourner les algorithmes de détection.
De plus, les systèmes IA de détection doivent être régulièrement mis à jour pour suivre l’évolution des techniques de génération.
À noter que certaines vidéos authentiques peuvent être faussement marquées comme truquées (faux positifs), notamment si elles ont été mal encodées, trop compressées ou contiennent des effets spéciaux.
La lutte contre les contenus générés artificiellement passe désormais par l’usage d’outils open source appuyés par l’intelligence artificielle. Que vous soyez développeur, journaliste ou simple utilisateur soucieux de la véracité des contenus, des solutions existent pour détecter et analyser les vidéos suspectes.
DeepFaceLab, FaceForensics++, Deepware Scanner, ou des modèles comme XceptionNet, offrent chacun des approches complémentaires, selon votre niveau technique et le type de contenu à analyser.