La technologie évolue rapidement, et avec elle, de nouvelles pratiques pas toujours des plus éthiques émergent. C’est le cas des deepfakes, pratique dérangeante qui utilise l’intelligence artificielle pour créer des images ou des vidéos de personnes sans leur consentement, souvent à caractère pornographique. Dans cet article, nous allons explorer ce phénomène et comment une autre technologie de rupture (la blockchain) pourrait offrir une solution.
Qu’est-ce qu’un Deepfake pornographique?
Un deepfake pornographique utilise l’IA pour superposer des visages sur des corps dans des vidéos pornographiques, créant l’illusion que la personne représentée participe à ces actes. C’est une forme de manipulation numérique à la fois sophistiquée et troublante car elle est souvent très proche du réel et difficilement détectable.
Les Conséquences des Deepfakes pornographiques
Les conséquences de ces vidéos sont graves. Pour les victimes, c’est une atteinte à leur dignité, des dommages à leur réputation et un impact psychologique profond.
Plus généralement, ces faux contenus, qui sont désormais particulièrement difficiles à différencier d’un contenu authentique, représentent un fort risque de désinformation et donc de défiance vis-à-vis des contenus et informations disponibles en ligne.
Deepfakes : ce que dit la loi
Côté français, La loi LCEN (Loi pour la Confiance dans l’Économie Numérique) établit les règles concernant la responsabilité des éditeurs et des hébergeurs de contenu sur internet.
La loi LCEN précise que les hébergeurs ne sont pas responsables du contenu qu’ils stockent à condition qu’ils ne soient pas au courant de son caractère illégal ou si, dès qu’ils en ont eu connaissance, ils ont agi promptement pour retirer ces données ou en rendre l’accès impossible.
L’article 6-1-2 de la LCEN définit la notion légale d’hébergeur. Elle les considère comme des intermédiaires et précise qu’ils ne sont pas tenus de surveiller les informations qu’ils transmettent ou stockent, ni de rechercher activement des faits ou des circonstances révélant des activités illégale.
Le statut d’éditeur est différent de celui de l’hébergeur. Un éditeur est considéré comme responsable du contenu qu’il publie sur internet. Contrairement aux hébergeurs, les éditeurs sont présumés connaître le contenu qu’ils mettent en ligne et sont donc responsables dès la publication du contenu.
Ce dispositif a été complété par le Règlement européen sur les services numériques (Digital Services Act), entré en vigueur le 25 août 2023 et qui renforce, sur tout le territoire européen, le traitement rapide des contenus illicites qui sont signalés.
Par ailleurs, le projet de loi SREN (loi sur la sécurisation de l’espace numérique) prévoit (outre de nouvelles exigences relatives à la sécurisation des sites pornographiques et l’encadrement des JONUM) :
- de modifier l’article 226-8 du Code pénal qui prévoit qu’ « est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention », afin d’y intégrer les deepfakes ;
- de créer un nouvel article 226-8-1 qui sanctionnera de deux ans de prison et 60 000 € d’amende tout hypertrucage à caractère sexuel diffusé sans consentement, même s’il est précisé qu’il s’agit d’un hypertrucage.
Côté américain, l’article 230 du Communication Decency Act garantit une forme d’immunité aux plateformes en ligne qui hébergent du contenu sans en être l’auteur.
Depuis 2019, des députés démocrates entendaient modifier le DCA afin d’intégrer, comme dans notre dispositif français, une responsabilité de l’hébergeur en cas de non modération d’un contenu signalé comme étant illicite.
Mais toutes les propositions de loi présentées ont été rejetées.
L’affaire Taylor Swift (la chanteuse a été récemment victime de photograhies truquées qui ont été vues plusieurs millions de fois) a créé des remous et va probablement relancer la machine.
Comment la blockchain peut nous aider à lutter contre les Deepfakes
La blockchain est souvent associée aux cryptomonnaies, mais son potentiel va bien au-delà. C’est une technologie de registre distribué qui permet de sécuriser et de vérifier des informations de manière transparente et immuable.
Blockchain et sécurité Numérique
Dans le contexte de la sécurité numérique, la blockchain offre des moyens uniques d’authentifier et de préserver l’intégrité des données. Chaque transaction ou enregistrement sur la blockchain est vérifié et enregistré de manière indélébile.
L’utilisation de la blockchain pour lutter contre les deepfakes pornographiques repose sur l’idée d’une authentification numérique robuste. En garantissant l’authenticité des images et des vidéos à la source, la blockchain peut jouer un rôle clé dans la prévention de ces abus.
Le Portefeuille d’Identité Numérique
Un portefeuille d’identité numérique sur la blockchain pourrait permettre aux individus de contrôler et de vérifier l’authenticité de leurs données personnelles, y compris les images et vidéos. Cela rendrait beaucoup plus difficile la création de deepfakes crédibles sans consentement.
Imaginons un système où chaque image ou vidéo téléchargée est accompagnée d’un certificat numérique vérifiable. Si une image est altérée, le certificat ne correspondra plus, signalant la manipulation. Des projets pilotes et des études de cas sont en cours pour explorer cette possibilité.
Une technologie de vérification des visas par blockchain a été développée à Dubaï.
En Europe, la Commission européenne travaille à la mise en place d’un portefeuille d’identité numérique dont l’objectif premier est de permettre au titulaire de données personnelles de les compiler pour pouvoir les gérer plus facilement dans le respect du RGPD.
Cabinet implanté à Toulouse et Paris, Halt Avocats est composée d’une équipe d’avocats expérimentés et possédant une expertise de pointe en matière de technologies de rupture (intelligence artificielle, blockchains …). Partenaire de la French tech, notre département IT accompagne les startups et grands groupes dans leurs projets DeepTech.
Une projet, des questions ? N’hésitez pas à nous contacter pour en savoir plus sur nos modalités d’accompagnement.
