L’intelligence artificielle, avec sa capacité à automatiser et personnaliser les attaques, facilite la simulation de scénarios réalistes, intensifiant ainsi les risques d’atteinte à la vie privée, à l’honneur ou à la considération des personnes ainsi qu’à leur (E)réputation...
Cette pratique est perçue comme une nouvelle dérive de l’intelligence artificielle aussi bien en Europe qu’aux États-Unis, où le FBI comptabilise plus de 3000 victimes mineures de "sextorsion".
« Je ne crois que ce que je vois », cette citation de Saint Thomas, ne semble plus, aujourd’hui, faire autorité.
Au regard de l’évolution des techniques de création de contenus numériques, il semble que les photos et les vidéos ne sont plus des preuves quasi-irréfutables. L’utilisation malicieuse de l’intelligence artificielle engendre une nouvelle forme de dérive dont les femmes et les mineurs sont les principales victimes.
Les « deepfakes », générés par des IA, renvoient à l’utilisation de logiciels d’intelligence artificielle dont l’objectif est de truquer des contenus audio et vidéo à l’aide de critères physiques, morphologique ou encore par la gestuelle et les tics de langage. La société fait face depuis plusieurs années à une recrudescence de cette nouvelle technique de création notamment dans le domaine journalistique et humoristique, mais également dans le cadre d’infractions sexuelles comme le « revenge porn » ou plus récemment dans des faits d’extorsion et de chantage à l’encontre des mineurs.
L’influence que détiennent les réseaux sociaux sur les mineurs est telle, qu’il est parfois aisé de faire pression sur eux afin de les déterminer à remettre certaines sommes à leur maître-chanteur.
Des sommes entre 100 et 150 euros en moyenne sont alors demandées sous la menace de diffuser des vidéos de nature sexuelle montées de toute pièce.
L’agressivité des cybercriminels et le peu de temps laissé à leurs victimes pour agir leur ôte toute résistance.
I. La nature juridique du phénomène de "sextorsion".
Le phénomène de sextorsion, ainsi appelé par la doctrine, a d’ores et déjà été transposé au sein du Code pénal au sein de l’article 227-22-2 disposant qu’ « Hors les cas de viol ou d’agression sexuelle, le fait pour un majeur d’inciter un mineur, par un moyen de communication électronique, à commettre tout acte de nature sexuelle, soit sur lui-même, soit sur ou avec un tiers, y compris si cette incitation n’est pas suivie d’effet, est puni de sept ans d’emprisonnement et de 100 000 euros d’amende ».
Toutefois, l’utilisation de l’IA et des deepfakes fait émerger une nouvelle forme de "sextorsion" mélangeant atteintes aux biens et à la personne.
A) L’utilisation de l’IA et la construction de deepfakes.
À première vue, il semblerait que le Code pénal réprime le « deepfake » à travers notamment l’article 226-8 du Code pénal considérant que :
« est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention. Lorsque le délit prévu par l’alinéa précédent est commis par la voie de la presse écrite ou audiovisuelle, les dispositions particulières des lois qui régissent ces matières sont applicables en ce qui concerne la détermination des personnes responsables ».
Nonobstant cette définition assez large, la Cour de cassation a pu juger que :
« l’article 226-8 du code pénal ne réprime pas le montage en tant que tel, mais en ce qu’il tend à déformer de manière délibérée des images ou des paroles, soit par ajout, soit par retrait d’éléments qui sont étrangers à son objet » [1].
Ainsi, s’il l’on s’accorde à dire que le montage consiste en des coupes et découpes d’images, alors la création et la transformation voire la création d’images à l’aide d’autres données, par un algorithme, ne peut rentrer dans le champ d’application de l’article 226-8 du Code pénal.
Par ailleurs, et à défaut de texte spécifique au deepfake, ce type de fait pourrait être réprimé sous la qualification de l’usurpation d’identité réprimée par l’article 226-4-1 du Code pénal disposant que : « le fait d’usurper l’identité d’un tiers ou de faire usage d’une ou plusieurs données de toute nature permettant de l’identifier en vue de troubler sa tranquillité ou celle d’autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d’un an d’emprisonnement et de 15 000 € d’amende. Cette infraction est punie des mêmes peines lorsqu’elle est commise sur un réseau de communication au public en ligne ».
Cependant, cette infraction reste très délicate puisqu’il doit s’agir pour la plupart du temps de données identifiantes (adresse mail, nom et prénom, photo...).
Il appert donc que ce nouveau phénomène reste délicat à caractériser, de sorte qu’il convient de l’étudier sous deux autres fondements : l’extorsion et le chantage.
B) Le "sextorsion", à mi-chemin entre l’extorsion et le chantage.
Concernant l’extorsion, celle-ci est définie par l’article 312-1 du Code pénal comme :
« le fait d’obtenir par violence, menace de violences ou contrainte soit une signature, un engagement ou une renonciation, soit la révélation d’un secret, soit la remise de fonds, de valeurs ou d’un bien quelconque.
L’extorsion est punie de sept ans d’emprisonnement et de 100 000 euros d’amende ».
Cette infraction complexe et matérielle, qui se distingue du vol avec violence, nécessite, pour sa caractérisation :
- l’emploi de moyens violents : c’est-à-dire un danger grave, certain et imminent. La pression exercée par l’auteur doit être suffisamment importante pour pousser la victime à remettre la chose ;
- la présence de la victime et la remise d’une chose : Signature, engagement ou renonciation ou la révélation d’un secret, fond, valeur ou bien quelconque ;
- Enfin, la conscience d’obtenir par la violence ce qui n’aurait pu être obtenu par un accord librement consenti.
Concernant le chantage, celui-ci est défini par l’article 312-10 du Code pénal comme :
« le fait d’obtenir, en menaçant de révéler ou d’imputer des faits de nature à porter atteinte à l’honneur ou à la considération, soit une signature, un engagement ou une renonciation, soit la révélation d’un secret, soit la remise de fonds, de valeurs ou d’un bien quelconque. Le chantage est puni de cinq ans d’emprisonnement et de 75 000 euros d’amende ».
Afin de caractériser l’infraction, il faut :
- Une menace de révéler un fait de nature à porter atteinte à l’honneur ou à la considération, peu importe que le fait soit réel ou imaginaire. La menace doit nécessairement déterminer la remise ;
- Obtenir une ignature, un engagement ou une renonciation, soit la révélation d’un secret soit la remise de fonds, valeurs ou bien quelconque ;
- L’auteur doit avoir conscience de l’absence de liberté avec la victime qui lui remet la chose.
Au sein de ces deux infractions, il est nécessaire, puisque ce sont des infractions matérielles, qu’il y ait une remise de la chose convoitée, à défaut de quoi l’infraction ne peut être caractérisée.
À titre d’illustration, le 2 novembre 2023, la 13ème chambre du tribunal correctionnel de Paris a condamné deux jeunes hackeurs, âgés de 20 ans au moment des faits, à trois ans de prison, dont deux ans de sursis, sur le fondement du chantage et de tentative de chantage, de l’accès et du maintien frauduleux dans un système de traitement automatisé de données ainsi que pour blanchiment.
Pour autant, nous pouvons constater que seules des infractions relatives aux biens semblent être exploitées méprisant ainsi l’atteinte à la personne en omettant le caractère sexuel de celle-ci.
II. La répression du deepfake et la protection des victimes mineures.
Le Gouvernement s’est emparé de cette question et travaille avec les parlementaires à la répression de cette nouvelle forme de sextorsion.
A) Une évolution législative attendue.
Pour remédier à certaines difficultés juridiques, un Projet de loi a été déposé en mai 2023 et est actuellement en Commission Mixte Paritaire.
Ce projet a pour objectif de lutter contre les deepfakes à caractère pornographique [2] :
Ledit projet modifie substantiellement l’article 226-8 du code pénal comme suit :
1° Le premier alinéa est complété par une phrase ainsi rédigée : « Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier, par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou s’il n’en est pas expressément fait mention » ;
2° Il est ajouté un alinéa ainsi rédigé : « Ces peines sont portées à deux ans d’emprisonnement et à 45 000 euros d’amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisée en utilisant un service de communication au public en ligne ».
Il faut ajouter qu’un nouvel article ferait son apparition au sein de l’arsenal répressif.
Il s’agit de l’article 226-8-1 du Code pénal disposant :
« Est puni de deux ans d’emprisonnement et de 60 000 euros d’amende le fait de publier, sans son consentement, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne, et présentant un caractère sexuel.
Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier, par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, et présentant un caractère sexuel ».
Ainsi, cet article 226-8-1 répondrait à un objectif de lutte contre le sexisme et de protection des personnes victimes de deepfakes sexuels, puisque 99% des deepfakes pornographiques concernent des femmes, selon l’association Deeptrace.
Malgré cette évolution législative future, il semble regrettable qu’aucune aggravation des peines ne soit prévue lorsqu’il s’agit de faits commis à l’encontre de mineurs.
Malgré ces propositions législatives, il semble toutefois que la création de nouveaux délits ne simplifie guère notre droit. En effet, une simple circonstance aggravante de l’extorsion et du chantage n’aurait-elle pas suffit ?
B) Une mise en oeuvre nuancée de la protection des mineurs.
Le Projet de loi n°175 visant à sécuriser et réguler l’espace numérique modifie substantiellement l’article 10 de la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique permettant à l’Autorité de régulation de la communication audiovisuelle et numérique (ARCOM) de veiller à ce que les contenus pornographiques mis à la disposition du public par un service de communication au public en ligne ne soient pas accessibles aux mineurs.
Pour rappel, une loi du 30 juillet 2020 a créé une procédure judiciaire de blocage et de déréférencement des sites.
Toutefois, pour le gouvernement, cette législation doit être complétée et modifiée pour "permettre une application efficace de cette interdiction".
L’ARCOM serait en mesure notamment d’infliger des sanctions importantes dont le montant de la sanction ne peut excéder 150 000 euros ou 2 % du chiffre d’affaires mondial hors taxes réalisé au cours de l’exercice précédent, le plus élevé des deux montants étant retenu. Ce maximum est porté à 300 000 euros ou à 4 % du chiffre d’affaires.
Elle pourra notamment enjoindre aux hébergeurs de retirer dans les 24 heures les contenus pédopornographiques qui leur sont signalés par la police et la gendarmerie, sous peine d’un an de prison et 250 000 euros d’amende, voire plus en cas de manquement habituel.
Pour autant, malgré de nombreuses mesures, de plus en plus de mineurs et de femmes sont victimes de ces deepfakes sexuels et malheureusement pour les victimes, les cybercriminels arrivent à contourner les contrôles notamment à travers des VPN ou bien parce que ces derniers se trouvent dans un pays étranger.
Conclusion
Dès lors, pour se prémunir contre ce genre de pratique, il est possible de respecter plusieurs règles "simples".
Pour les parents :
- Éviter de diffuser les photos de ses enfants sur les réseaux sociaux (Facebook, instagram, Snapchat...) afin d’éviter toute captation et enregistrement de l’image du mineur ;
- Mettre un contrôle parental pour limiter les personnes susceptibles de pouvoir communiquer avec le mineur ;
- Être attentif à tout virement suspect ;
- Évoquer ce phénomène avec le mineur afin qu’il ne se sente pas dépourvu si cela devait se produire ;
- Le sensibiliser aux dangers des réseaux sociaux.
Pour les mineurs :
- Mettre un cache-caméra sur les ordinateurs, tablettes et téléphones ;
- Ne pas entrer en contact avec les cybercriminels ;
- Mettre ses comptes en mode privé.
Si cette situation se produit :
- En informer immédiatement les parents si un individu exerce ce genre de pressions ;
- Faire des captures d’écran afin de constituer des preuves ;
- Aller immédiatement porter plainte auprès d’un commissariat de Police ou de la Gendarmerie ;
- Signaler et bloquer l’utilisateur sur internet ;
- Ne jamais donner d’argent aux cybercriminels ;
- Signaler les contenus sur PHAROS.
