Qu'est-ce qu'un deepfake ? Risques et méthodes de détection

Accueil / Ressources / Glossaire / Qu'est-ce qu'un deepfake ?

Actualités Cybersécurité

Ce qu'il faut retenir du deepfake

Un deepfake, ou hypertrucage, est un contenu audio, image ou vidéo créé ou modifié par intelligence artificielle pour imiter de façon réaliste le visage, la voix ou les gestes d’une personne réelle. Le terme associe « deep learning » et « fake » (faux). Le risque principal pour l’entreprise est l’usurpation d’un dirigeant.

Les deepfakes sont des contenus audio ou vidéo générés par IA capables d’imiter humains, discours et situations de façon réaliste, créant une illusion crédible et manipulatrice.
Apparue en 2017 avec l’essor des GAN, cette technologie s’est rapidement perfectionnée, rendant difficile la distinction entre vrai et faux.
D’abord utilisés comme outil créatif, les deepfakes sont désormais exploités pour des arnaques, usurpations, cyberfraudes, manipulations politiques et montages sans consentement.
Certains signaux d’alerte permettent encore de les repérer, comme des mouvements oculaires anormaux, des clignements irréguliers et une synchronisation labiale imparfaite.
Aucun outil de détection n’est infaillible. Les organisations combinent donc formation des équipes, authentification renforcée et vérification par un second canal avant toute action sensible.

Par ailleurs, grâce au deep learning (apprentissage profond), cette technique génère de manière automatique des images, vidéos ou audios à l’apparence authentique, mais entièrement fictifs. Les deepfakes constituent désormais une menace redoutable pour la société, les données et la sécurité des organisations, notamment par l’usurpation d’identité et les escroqueries numériques.

Comment est née la technologie des deepfakes ?

Les GAN (Generative Adversarial Networks) sont des réseaux de neurones à l’origine des deepfakes. Apparue en 2014, cette technique, inventée par le chercheur Ian Goodfellow, est un duo de deux algorithmes s’entraînant mutuellement. Pendant que le premier crée des « fakes » aussi vrais que possible, l’autre tente de détecter les faux. Les deepfakes sont officiellement nés à l’automne 2017 sur Reddit, un site du web.

Comment fonctionne un deepfake ?

Un modèle d’IA, ou intelligence artificielle, s’entraîne sur des images, des vidéos ou des enregistrements d’une personne, puis sait générer un résultat qui la reproduit. Selon la CNIL, les techniques les plus répandues sont le remplacement d’un visage (face swapping), la modification des paroles avec resynchronisation des lèvres (lip synching) et la création d’éléments entièrement fictifs. Le clonage de voix suit la même logique, à partir d’extraits sonores.

D’après l’ANSSI, des cybercriminels exploitent pour quelques dizaines de dollars des services de deepfakes d’usurpation d’identité, disponibles en ligne.

Quels sont les types de deepfake ?

Un deepfake prend quatre formes de contenu (vidéos, images, sons, textes) créées par l’IA, avec des données du web et des enjeux distincts.

Type	Ce qui est imité	Risque pour l'entreprise
Vidéo	Les visages et les gestes	Visioconférence truquée avec un dirigeant
Audio	La voix d'un dirigeant	Appel demandant un virement
Image	Des images ou un justificatif	Création de comptes frauduleux
Texte	Le style d'un interlocuteur	Emails d'hameçonnage plus crédibles

À quoi servent réellement les deepfakes ?

Les “faux profonds” sont parfois produits de manière automatisée à grande échelle et sont malheureusement, dans certains cas, utilisés à des fins malveillantes :

Les arnaques numériques et le piratage

Les cybercriminels combinent images modifiées et trucage sonore grâce à l’utilisation de l’IA pour tromper leurs cibles en temps réel. Par exemple, ils pourraient créer la fausse déclaration d’un dirigeant d’une entreprise du CAC 40 admettant une activité criminelle.

La pornographie non consensuelle et les atteintes à la vie privée

Les deepfakes à caractère pornographique sans consentement sont sévèrement punis par le droit français. Selon l’article 226-8-1 du Code pénal, la diffusion de tels montages est passible de deux ans d’emprisonnement et de 60 000 euros d’amende.

Manipulation de l’opinion et des processus électoraux

Des vidéos truquées ont visé des leaders mondiaux tels que Donald Trump et Barack Obama, afin d’influencer des électeurs. Cette désinformation, relayée par des contenus truqués, sème le doute.

L’ingénierie sociale renforcée

Les escroqueries d’ingénierie sociale évoluent avec l’intégration de deepfakes, qui poussent les cibles à divulguer des données ou à exécuter des transactions financières critiques.

Un exemple édifiant a secoué Hong Kong. Un employé d’une multinationale a transféré 25 millions de dollars après avoir cru participer à une visioconférence avec son supérieur. Il ignorait que les autres participants n’étaient que des avatars hyperréalistes créés par l’intelligence artificielle.

Attention

Cet incident illustre le degré de raffinement des cyberattaques modernes. Les deepfakes confèrent aux manipulations une crédibilité suffisante pour déstabiliser les protocoles de sécurité habituels. La vigilance humaine, la formation continue et l’authentification s’imposent comme remparts contre cette menace.

La désinformation automatisée

Cette nouvelle technologie permet de saturer les réseaux sociaux d’infox en peu de temps. Cette désinformation touche aussi Facebook et Instagram, comme avec Mark Zuckerberg, qui se vante fictivement de « contrôler des milliards de données personnelles ».

Deepfake et fraude au président, comment l’entreprise est ciblée ?

La fraude au président consiste à se faire passer pour un dirigeant afin d’obtenir un virement. Cybermalveillance.gouv.fr la décrit avec un caractère « urgent et confidentiel », par appel téléphonique ou par messages électroniques. Le deepfake la rend plus crédible, car la victime entend la voix de son dirigeant. Elle prolonge la compromission de messagerie et le vishing.

Quelle procédure de vérification avant un virement ?

Avant d’effectuer un virement, il est essentiel de prendre quelques précautions pour éviter les fraudes et les tentatives d’usurpation d’identité. Toute demande inhabituelle, urgente ou impliquant un changement de coordonnées bancaires doit faire l’objet d’une vérification par un canal de communication fiable et d’une validation interne.

Rappel sur un numéro connu : Rappeler sur le numéro de l’annuaire interne, jamais sur celui qui vient d’appeler
Double validation : Un second responsable valide tout virement imprévu ou changement de RIB
Mot de code : Un mot convenu à l’avance, demandé en cas de doute sur un appel ou une visio

Quels sont les signes révélateurs d’un deepfake ?

Bien qu’ils soient de plus en plus sophistiqués, certains détails trahissent encore leur origine artificielle. Heureusement, certains signes permettent de distinguer un deepfake d’un contenu authentique, il est essentiel de savoir repérer les activités inhabituelles ou les mouvements non naturels :

Les anomalies dans les mouvements des yeux

Un manque de mouvement est un bon indicateur pour repérer un deepfake. Il est difficile de reproduire le mouvement naturel des yeux, généralement rigides ou mal coordonnés, il manque souvent de naturel sur un deepfake.

Clignements des yeux non naturels

Le clignement des yeux, ou plutôt son absence. En effet, il est difficile de reproduire l’action naturelle et humaine du clignement régulier avec la technologie de faux profond.

Expressions faciales non naturelles

Les faux profonds ont aussi du mal à reproduire les micro-expressions humaines. Les visages étant simplement cousus d’une image à l’autre, le résultat implique habituellement des expressions faciales inhabituelles ou non naturelles.

Incohérences dans la morphologie du corps

Les images falsifiées se concentrent principalement sur les visages plutôt que sur l’ensemble du corps. Des proportions anormales ou des mouvements désarticulés sont des signes clairs d’un montage artificiel.

Cheveux et textures capillaires étranges

La technologie deepfake n’est pas capable de générer des caractéristiques individuelles réalistes, telles que des cheveux frisottés ou désordonnés.

Couleurs de peau anormales et pixellisées

Une anomalie fréquente, facile à voir, réside dans les teints de peau, souvent artificiels ou légèrement décalés de la réalité.

Angles de tête et de corps non naturels

Les fausses images profondes présentent habituellement un positionnement incohérent. Si la tête semble désalignée par rapport au corps, c’est souvent un signe de détournement.

Expressions faciales qui ne correspondent pas aux émotions

Les expressions faciales qui ne reflètent pas l’émotion que la personne devrait afficher. Par exemple, un visage souriant qui n’atteint pas les yeux est probablement un faux.

Problèmes d’éclairage et dégradations de couleur

Les faux profonds ont du mal à gérer l’éclairage réaliste. Comme pour les raisons des carnations non naturelles, les images, contrefaites, présentent fréquemment des ombres mal placées ou une lumière qui ne suit pas les contours du visage.

Synchronisation défaillante entre les lèvres et le son

Les montages vidéo artificiels présentent aussi une mauvaise correspondance entre le mouvement des lèvres et l’audio. Les mots ne correspondent pas toujours parfaitement au mouvement des lèvres, surtout lors de phrases rapides ou complexes.

Les indices sonores d’un deepfake vocal

Au téléphone, une voix au rythme trop régulier, un décalage entre question et réponse ou des bruits de fond absents doivent alerter.

Les deepfakes ne cherchent pas qu’à manipuler l’opinion. Ils cherchent à manipuler vos équipes. Sensibilisez-les efficacement.

Sensibilisez vos collaborateurs aux deepfakes

Comment détecter un deepfake en entreprise ?

Les deepfakes peuvent imiter de manière convaincante le visage et la voix d’un dirigeant ou d’un collaborateur pour tromper les salariés et obtenir des virements frauduleux. Il est donc important de combiner vigilance humaine, outils technologiques et procédures de vérification pour identifier les manipulations et éviter les fraudes.

Les indices visuels et sonores permettent de détecter une manipulation. Ils restent le premier filet pour qui reçoit des demandes de paiement.
Des outils de détection rapide basés sur l’IA analysent les artefacts d’image et de son, et le tatouage numérique (watermarking) marque les contenus que l’IA génère.
Pour toute demande inhabituelle d’argent, même venant d’un collègue, la CNIL recommande de vérifier par un autre moyen, comme un appel ou un message direct.

Quels sont les exemples les plus célèbres de deepfakes ?

Les faux profonds ont fait irruption dans l’actualité avec des exemples frappants, qu’il s’agisse d’usages malveillants ou d’un deepfake positif, ayant fasciné et inquiété. De la satire politique à la désinformation flagrante, ces vidéos modifiées témoignent de l’impact que cette technologie peut avoir, qu’il soit ludique ou destructeur.

Les deepfakes du président Emmanuel Macron ciblé

Un cas marquant a circulé en juillet 2023 : on y voit le faux Emmanuel Macron qui annonce sa démission, cette séquence utilise en réalité des images détournées d’une déclaration officielle du Président. Bien qu’elle ait été rapidement démentie, la vidéo a connu une large diffusion, alimentant des débats sur la désinformation en ligne.

En février 2024, un autre canular impliquait Emmanuel Macron dans une vidéo montée de toutes pièces, imitant un journal télévisé de France 24, annonce une tentative d’assassinat contre le Président lors d’une visite en Ukraine. Identifiée comme une intox pro-russe, cette vidéo a continué de circuler sur certains sites.

Le faux Barack Obama qui interpelle Donald Trump

Un cas qui a beaucoup fait parler en 2018. Il s’agit d’une vidéo représentant Barack Obama en train d’insulter Donald Trump. Bien sûr, cette vidéo n’était pas réelle. L’objectif de cette vidéo, consultée des millions de fois, était de sensibiliser les internautes aux dangers des deepfakes.

Les révélations du faux Mark Zuckerberg

Une intervention vidéo de quelques secondes a commencé à circuler sur Instagram le 7 juin 2019. Elle met en scène Mark Zuckerberg, le PDG de Facebook, tenant des propos inquiétants en se vantant d’avoir un contrôle total sur les données personnelles de milliards d’utilisateurs. Encore une fois, il s’agissait d’un faux, créé de toutes pièces par deux artistes, travaillant en collaboration avec plusieurs agences de communication américaines spécialisées dans la manipulation audio-vidéo. La vidéo a vu le jour peu après que Facebook et Instagram ont annoncé qu’ils refusaient de bannir les deepfakes. Son but était alors de critiquer les dérives des grandes entreprises technologiques

La fausse allocution de Volodymyr Zelensky

En 2022, deux semaines après l’invasion de l’Ukraine par la Russie, un deepfake de Vlodomir Zelensky a fait son apparition sur les réseaux sociaux. Ce montage repose sur une modification de portrait convaincante, où le président ukrainien annonce la reddition de l’Ukraine. C’est la première fois qu’un faux profonds fait office d’arme de démobilisation de forces armées. Si les incohérences visuelles ont rapidement permis de la démasquer, cet exemple montre à quel point les deepfakes sont susceptibles d’être utilisés en tant qu’arme de guerre psychologique !

La fausse performance de Tom Cruise

Début mars 2021, une série de vidéos est devenue virale sur TikTok et Twitter, prétendant montrer le célèbre acteur Tom Cruise. On le voyait rigoler, faire des tours de magie ou encore raconter des anecdotes. Bien que ces vidéos soient à la frontière entre canulars et divertissement, elles étaient tellement réalistes qu’elles ont suscité des inquiétudes sur les dérives possibles de cette technologie. Ces deepfakes sont considérés en tant qu’éléments des médias synthétiques les plus convaincants à ce jour.

Comment les deepfakes audio diffèrent-ils des deepfakes vidéo ?

Les deepfakes audio et vidéo reposent sur des technologies similaires, cependant ils jouent sur des perceptions bien distinctes. Les vidéos attirent l’attention par leur impact visuel. Les trucages vocaux reproduisent une voix à partir d’enregistrements existants, en capturant ses intonations.

Bon à savoir

La vidéo sert surtout à la manipulation de l’opinion publique. La voix se glisse dans des scénarios plus ciblés, comme les escroqueries financières.

Quelles mesures les réseaux sociaux prennent-ils pour lutter contre les deepfakes ?

Sur les réseaux sociaux, Meta étiquette depuis mai 2024 les créations de l’intelligence artificielle (« Made with AI »), et YouTube comme TikTok appliquent des politiques d’avertissement sur les vidéos manipulées. Les gouvernements agissent aussi pour protéger les utilisateurs et améliorer la détection.

Quel est le cadre légal des deepfakes en France et en Europe ?

En droit français, créer ou partager un deepfake n’est pas illégal en soi, mais le faire sans consentement ou sans mention claire peut l’être.

Texte	Ce qu'il prévoit	Sanction ou échéance
Article 226-8 du Code pénal, modifié par la loi du 21 mai 2024	Diffuser sans consentement un montage généré par un traitement algorithmique reprenant la voix ou l'image d'une personne, sans mention	1 an et 15 000 euros, portés à 2 ans et 45 000 euros en ligne
Article 226-8-1 du Code pénal	Même diffusion à caractère sexuel	2 ans et 60 000 euros, portés à 3 ans et 75 000 euros en ligne
Règlement européen sur l'IA, article 50	Indiquer qu'un hypertrucage a été généré ou manipulé par une IA	Applicable depuis le 2 août 2026

L’escroquerie, article 313-1, est punie de 5 ans d’emprisonnement et de 375 000 euros d’amende (CNIL), qui protège aussi les données personnelles.

Comment les entreprises peuvent-elles se protéger contre les deepfakes ?

Les deepfakes sont un danger croissant pour les entreprises pouvant exposer leurs opérations et leur réputation à divers risques. Pour s’en prémunir efficacement, les entreprises adoptent plusieurs stratégies :

Sensibilisation et formation des employés

Former les employés à reconnaître les deepfakes et à réagir de manière appropriée est crucial. Une équipe formée constitue la première ligne de défense contre ces menaces. La formation cybersécurité en entreprise est essentielle pour se protéger efficacement.

Renforcement des protocoles de cybersécurité

L’ANSSI observe que l’IA sert à concevoir des messages d’hameçonnage. Pour se protéger, la mise à jour des logiciels et la protection des messageries réduisent l’exposition.

Mise en place de processus d’authentification robustes

Clés de sécurité FIDO2 et vérifications multifacteurs protègent les données et réduisent les risques d’usurpation d’identité.

Pour les entreprises cherchant à renforcer leur cybersécurité face à ces menaces émergentes, la plateforme U-Cyber 360° propose une approche globale. Elle détecte en temps réel les vulnérabilités humaines et délivre un CyberScore afin de faciliter une gestion proactive des risques.

Protégez votre organisation du cyber-risque humain

Demandez une démo gratuite de U-Cyber 360°

Mailinblack répond à vos questions sur les deepfakes

Un deepfake est-il illégal en France ?

Diffuser sans consentement la voix ou l’image d’une personne, sans mention qu’il s’agit d’un trucage, est puni d’un an d’emprisonnement et de 15 000 euros d’amende (article 226-8).

Comment savoir si l'appel d'un dirigeant est un deepfake vocal ?

Raccrochez et rappelez la personne sur son numéro habituel, tiré de l’annuaire interne. Demandez le code convenu. Seule la vérification par un second canal lève le doute.

Que faire si un deepfake usurpe votre dirigeant ?

Conservez les preuves, signalez le contenu à la plateforme et déposez plainte. Si un virement est parti, alertez la banque et demandez son aide et son assistance pour obtenir le retour des fonds.