Le scandale du "Deepfake" dans un lycée incite les législateurs à agir

La technologie Deepfake n'est pas un concept nouveau, mais les élèves d'un lycée du New Jersey ont été victimes de leurs camarades de classe qui utilisaient cette technologie d'IA. Plusieurs garçons de l'école avaient utilisé les images de leurs camarades féminines. L'une des victimes, Francesca, une élève de 14 ans, a déclaré qu'elle et plus de 30 autres adolescentes apparaissaient sur ces photos, qui ont été distribuées dans l'école sans leur consentement. Toutefois, selon un courriel de l'école, le nombre réel de victimes semble être inférieur à 30.

Francesca a ensuite contacté plusieurs législateurs et a reçu des réponses de Joe Morelle, représentant américain de New York, de Tom Kean Jr., représentant américain du New Jersey, et de Jon Bramnick, sénateur de l'État du New Jersey, entre autres. Grâce à ses efforts, de nouvelles propositions législatives ont été introduites récemment, qui mettent l'accent sur l'étiquetage et l'identification des contenus générés par l'IA et sur la prévention de l'inclusion de contenus mineurs. En outre, la jeune fille a créé un site web ( ) pour aider les personnes touchées par la technologie deepfake.

J'ai réalisé ce jour-là [que] je devais m'exprimer, parce que je pense vraiment que ce n'est pas acceptable. Il s'agit d'une technologie tellement nouvelle que les gens ne la connaissent pas vraiment et ne savent pas vraiment comment s'en protéger.

- Francesca

Joe Morelle a rédigé un projet de loi en 2022 pour criminaliser la production de deepfakes sans consentement, mais elle n'a pas bénéficié d'un soutien suffisant et a finalement échoué. D'autres initiatives ont également été introduites pour réglementer les deepfakes, comme la loi DEEPFAKES Accountability Act de 2019 de la représentante Yvette Clarke, qui exige que tous les deepfakes soient marqués en filigrane par leurs auteurs.

Depuis, la création de deepfakes est devenue plus facile car l'intelligence artificielle s'est considérablement développée. Avec un minimum de matériel d'image, il est possible de réaliser des deepfakes d'apparence réelle. Par exemple, Lensa, une application d'IA générative, permet entre autres de déshabiller des personnes.

Nous venons de donner aux lycéens la mère de toutes les armes nucléaires, à savoir la possibilité de créer du porno avec [une seule image] de qui ils veulent. Et bien sûr, ils le font.

- Hany Farid, professeur à l'université de Californie, Berkeley

Le projet de loi de Joe Morelle permettrait d'engager des poursuites pénales contre les créateurs et les distributeurs de deepfake sans consentement, en les qualifiant de crime fédéral.