Les Réseaux Antagonistes Génératifs, ou GANs, sont au cœur de la révolution des deepfakes. Ces modèles d’intelligence artificielle novateurs, introduits par Ian Goodfellow en 2014, ont ouvert la voie à la création de contenus synthétiques ultra-réalistes.
Les GANs mettent en compétition deux réseaux de neurones : un générateur qui produit de fausses données, et un discriminateur qui tente de les distinguer des vraies. Cet entraînement adversarial permet de générer des images, des vidéos et des voix d’une qualité bluffante.
Découvrons comment cette technologie fascinante fonctionne et explorons ses applications, des plus créatives aux plus controversées.
Qu’est-ce qu’un Réseau Adverse Génératif (GAN) ?
Un Réseau Adverse Génératif, ou GAN, est un type de réseau de neurones profonds composé de deux modèles distincts : un générateur et un discriminateur. Le générateur a pour objectif de créer de nouvelles données synthétiques ressemblant aux données réelles, tandis que le discriminateur cherche à distinguer les données authentiques des données générées.
Les deux composants clés : le générateur et le discriminateur
L’entraînement d’un GAN se fait de manière adversariale, c’est-à-dire que le générateur et le discriminateur sont en compétition. Le générateur produit des échantillons de plus en plus réalistes pour tromper le discriminateur, qui lui s’améliore constamment dans sa capacité à détecter les faux. Ce processus se poursuit jusqu’à ce que les données générées soient quasiment indiscernables des vraies.
L’entraînement adversarial des GANs
Cette architecture unique permet aux GANs d’apprendre la distribution statistique des données d’entraînement et de générer de nouveaux échantillons plausibles. C’est cette capacité à créer des données synthétiques très réalistes, comme des visages ou des voix, qui est au cœur de la technologie deepfake.
Historique et évolution des GANs
Les Réseaux Antagonistes/Adverses Génératifs (GANs) ont été inventés en 2014 par Ian Goodfellow, alors doctorant à l’Université de Montréal. Cette innovation est née d’une discussion informelle entre amis, où Goodfellow a eu l’idée d’utiliser deux réseaux en compétition pour améliorer la génération d’images. On peut clairement dire que cette avancée majeure a ouvert la voie à une nouvelle ère dans le domaine de l’intelligence artificielle générative.
Depuis leur création, les GANs ont connu de nombreuses avancées et variantes. Par exemple, les GANs conditionnels (cGANs) permettent de générer des images basées sur des conditions spécifiques, tandis que les StyleGANs, introduits en 2019, ont révolutionné la génération de visages réalistes. Des modèles comme StyleGAN (2019) et StyleGAN2 (2020), développés par Nvidia, ont encore repoussé les limites en termes de résolution et de diversité des images générées. Ces avancées ont été le moteur de l’essor fulgurant des deepfakes ces dernières années, en rendant leur création toujours plus accessible et leurs résultats plus convaincants.
Les GANs sont devenus un outil incontournable dans de nombreux domaines, de la création artistique à la recherche médicale en passant par la lutte contre la désinformation. Leur potentiel semble illimité et leur développement ne cesse de s’accélérer, soulevant autant d’espoirs que d’inquiétudes pour le futur.
Comment les GANs sont utilisés pour créer des deepfakes ?
Le processus de création d’un deepfake avec un GAN se déroule généralement en trois étapes clés. Tout d’abord, lors de l’extraction, un grand nombre d’images de la personne cible sont collectées pour constituer le dataset d’entraînement. Ensuite, pendant la phase d’entraînement, le GAN apprend à générer de nouveaux visages en faisant s’affronter son générateur, qui crée des images, et son discriminateur, qui tente de différencier le vrai du faux.
Ce processus est répété jusqu’à obtenir des résultats convaincants. Enfin, la conversion applique le visage généré sur des images ou vidéos existantes, en ajustant les expressions et mouvements pour plus de réalisme.
Les GANs permettent ainsi de générer différents types de deepfakes, tels que des visages entièrement synthétiques qui n’existent pas dans la réalité, des échanges de visages d’une personne à une autre dans une vidéo, ou encore des synchronisations labiales pour faire dire de nouvelles phrases à quelqu’un. Des datasets comme CelebA ou FaceForensics++ sont couramment utilisés pour entraîner les GANs à reproduire des visages humains le plus fidèlement possible.
Bien maîtrisés, les GANs sont donc un outil puissant pour créer des deepfakes bluffants de réalisme, avec de nombreuses applications potentielles, positives comme négatives.
Les applications des deepfakes générés par GANs
Les deepfakes créés par les GANs offrent un vaste potentiel d’applications positives dans de nombreux domaines :
- Cinéma : les deepfakes permettent de recréer le visage d’acteurs disparus dans de nouvelles scènes ou de rajeunir numériquement des acteurs pour des rôles.
- Jeux vidéo : des personnages ultra-réalistes peuvent être générés grâce aux GANs pour peupler des mondes virtuels immersifs.
- Réalité virtuelle : la création d’avatars par des GANs rend les expériences VR plus naturelles et personnalisées.
- Éducation : des deepfakes de personnages historiques peuvent servir de support pédagogique interactif.
Cependant, les deepfakes comportent aussi des risques d’usages malveillants :
- Désinformation : de fausses vidéos d’hommes politiques ou de célébrités créées par des GANs peuvent influencer l’opinion et manipuler les foules.
- Manipulation : des deepfakes d’une personne à son insu violent son image et sa vie privée.
- Atteinte à la réputation : la diffusion de deepfakes compromettants fabriqués de toutes pièces peut détruire des réputations.
Les enjeux éthiques et sociétaux des deepfakes sont donc majeurs. Il est crucial d’encadrer cette technologie pour en maximiser les bénéfices tout en prévenant les dérives.
Détecter les deepfakes créés par des GANs
Il existe plusieurs indices visuels et auditifs permettant de repérer un deepfake généré par un GAN. Au niveau visuel, on peut observer des incohérences au niveau des reflets dans les yeux, des mouvements de tête peu naturels ou encore un clignement des yeux anormal. Côté audio, une voix synthétique présente souvent un timbre et une intonation légèrement différents d’une vraie voix humaine.
Voici un aperçu des différentes méthodes pour détecter les deepfakes et les médias générés par l’IA :
Vérifier la provenance
Une des façons importantes de détecter les deepfakes est de vérifier leur provenance. Il faut effectuer une recherche inversée de l’image pour voir si elle apparaît dans d’autres contextes en ligne. Si l’image n’existe nulle part ailleurs, il y a de fortes chances qu’elle soit générée par l’IA.
Analyser les visages
Les visages générés par les GANs présentent souvent des anomalies subtiles comme des asymétries, des dents irrégulières, des oreilles mal formées, des bijoux flous ou des arrière-plans étranges. L’outil « GANpaint » permet de mettre en évidence les artefacts dans les visages synthétiques.
Examiner les yeux
Dans les vidéos deepfakes, le clignement des yeux est souvent peu naturel. Les personnages clignent moins fréquemment ou de manière non synchronisée. Des outils comme « DeepVision » se concentrent sur les mouvements oculaires pour détecter les deepfakes.
Étudier les émotions
Les deepfakes peinent à reproduire fidèlement les micro-expressions et la synchronisation labiale-audio. Si les émotions semblent artificielles ou décalées par rapport au son, c’est un signe d’une possible manipulation.
Détecter le bruit numérique
Les images générées par l’IA ont une distribution de bruit numérique différente de celle des photos réelles. Des chercheurs du MIT ont mis au point une technique pour révéler ce « bruit » caractéristique et ainsi identifier les images de synthèse.
La détection des deepfakes est un domaine en constante évolution. Il faut rester à l’affût des nouvelles techniques émergentes pour s’adapter aux progrès rapides de la technologie des deepfakes.
Utiliser l’IA pour détecter les deepfakes
Pour automatiser la détection des deepfakes, des approches basées sur l’intelligence artificielle ont été développées. Des réseaux de neurones convolutifs (CNN) sont entraînés à analyser image par image les vidéos pour y déceler des artefacts caractéristiques des deepfakes. Des modèles de réseaux de neurones récurrents (RNN) sont aussi utilisés pour détecter des incohérences temporelles dans les séquences audio et vidéo des deepfakes.
Malgré ces avancées, la détection des deepfakes créés par des GANs comporte encore des limites. Les techniques de GANs progressant rapidement, les deepfakes sont de plus en plus réalistes et difficiles à discerner des vrais contenus. Certains deepfakes de haute qualité parviennent à tromper les détecteurs actuels. La détection doit donc s’améliorer en continu pour s’adapter aux nouvelles générations de deepfakes.
