Oubliez les deep fakes, les intelligences artificielles génèrent du porno à la chaîne

Il n’a pas fallu longtemps avant que les internautes trouvent un moyen de générer des images pornos et même pédopornographiques grâce aux IA.

Les aficionados de la culture web connaissent la règle 34 d'Internet qui dit : « Si quelque chose existe, il en existe une version porno. Sans exception ». Cet aphorisme vient à nouveau de se vérifier : des internautes ont trouvé le moyen de générer des images érotiques et pornographiques à l’aide de l’outil Stable Diffusion.

De l’open source à l’open saucisse

Sorti en août 2022, Stable Diffusion est un nouvel outil de génération d’images qui concurrence directement Dall-E et même le surpasse, selon ses créateurs. Les deux modèles peuvent, théoriquement, créer n’importe quel type d’images, mais sont plus ou moins bridés par des filtres de mots-clés placés au niveau des sites web. Cependant, à la grande différence de Dall-E, les créateurs de Stable Diffusion ont mis en ligne une version moins performante, mais totalement open source de leur modèle. Les internautes ont ainsi pu détourner l’outil et lui ajouter des couches supplémentaires de données et d’images afin de lui faire générer des visuels moins conventionnels. À partir de là, de nouveaux modèles d’images custom ont fait leur apparition, nourrie avec des milliers d’images de porno et de Hentai, une catégorie de mangas japonais, dans lequel les dessins et les dialogues sont à caractère sexuel.

Hentai et clowns tout nus

Avec l’arrivée de ces outils alternatifs, une branche consacrée à l’érotique et au porno s’est donc créée sur le serveur Discord Unstable Diffusion en clin d’œil à Stable Diffusion. C’est ici que les internautes partagent les outils, les prompts et les images obtenues. Et le moins que l’on puisse dire, c’est que ces créateurs explorent toutes les possibilités. Parmi les catégories, on trouve des tags classiques de sites pornos comme du softcore (tout ce qui est érotique), du BDSM, du Hentai, mais aussi une section horrifique permettant la création de clowns nus et sanguinolents. La plupart des visuels sont clairement des illustrations, mais il existe aussi une section photo réaliste très troublante donnant l’impression de voir des photographies de personnes réelles. Et c’est à partir de là que les choses commencent à vraiment déraper.

La boîte de Pandore des pédophiles

Les règles d’Unstable Diffusion sont claires : il est interdit de partager sur le serveur Discord des images mettant en scène des enfants ou des personnalités connues. Et si dans l’ensemble, cette règle semble bien respectée, il n’empêche que ces outils permettent de créer des images pédopornographiques ou bien des montages pornos semblables aux deep fakes. Certains utilisateurs partagent d’ailleurs des prompts pouvant donner ces résultats et permettant à n’importe qui de tester le résultat chez lui. Si l’on ne voit pas ces images sur le serveur Discord, ces dernières sont largement partagées sur l’imageboard 4chan, bien connu pour montrer toutes les nouveautés technologiques embarrassantes. De quoi faire grincer des dents les développeurs de chez Stability (la boîte en charge de Stable Diffusion) qui estiment que ces images interdites vont apporter de l’eau au moulin des nombreux anti I.Artist. Une chose est certaine. À partir du moment où une technologie est assez mature pour générer de nouveaux visuels, on peut compter sur Internet pour penser au pire.