L’IA bouleverse l’industrie du porno

[duJambon]

Les contenus sexuels synthétiques vont bientôt inonder internet, apportant de nouvelles opportunités et de nouveaux dangers.

Le porno a longtemps été un terrain d’essai pour les nouvelles technologies. Lorsque Johannes Gutenberg a inventé l’imprimerie au XVe siècle, elle a été rapidement utilisée pour imprimer des pamphlets grivois. Les films pornographiques ont été mis sur cassette vidéo en 1977, un an avant les films hollywoodiens mainstream, et ont dominé les ventes pendant un certain temps. Lorsque le Minitel, un précurseur français d’internet, a été lancé au début des années 1980, les services érotiques représentaient initialement entre un tiers et la moitié du trafic. L’histoire est similaire avec les caméras 8 mm, la télévision par câble – et maintenant l’intelligence artificielle (IA), aussi.

Alors que de nombreuses entreprises hésitent encore à déployer l’IA, la technologie est déjà utilisée pour produire du porno. Les sites pornographiques regorgent de vidéos et d’images générées par IA. Les grandes entreprises d’IA, qui peinent à gagner de l’argent avec leurs modèles ultraperformants et à justifier leurs valorisations astronomiques, entrent dans la danse. Grok, de xAI, propose déjà un mode «spicy» capable de générer des images et des vidéos explicites. OpenAI proposera de l’érotisme sur ChatGPT à partir de décembre (mais uniquement aux adultes vérifiés). Le marché du contenu adulte généré par IA vaudra 2,5 milliards de dollars cette année, selon Global Commerce Media, un groupe de recherche, et il devrait croître à un rythme constant de 27% par an jusqu’en 2028.

Les acteurs bientôt évincés par des algorithmes?

La rapidité avec laquelle l’IA est adoptée soulève des questions existentielles pour l’industrie du porno, et pour la société. Les acteurs seront-ils évincés par des algorithmes? Si le porno synthétique devient omniprésent, les spectateurs paieront-ils encore pour du contenu réel? Et qu’en est-il des studios et plateformes pornographiques qui ont dominé l’industrie si longtemps? Les réponses donnent un aperçu de la façon dont l’IA pourrait transformer ensuite des secteurs plus guindés. Plus préoccupantes encore sont les questions liées aux nouveaux dangers posés par les outils d’IA, déjà utilisés pour contourner les interdictions d’images montrant des abus sexuels sur enfants ou pour produire des deepfakes pornographiques utilisés dans des arnaques.

Pour les entreprises d’IA, l’attrait de l’industrie pornographique est évident: le sexe fait vendre. En Grande-Bretagne, les trois quarts des hommes et la moitié des femmes reconnaissent avoir vu du contenu pornographique, selon YouGov, un institut de sondage (et comme beaucoup de gens ont trop honte pour l’avouer à un inconnu, le chiffre réel est sûrement plus élevé). Dans le monde, l’industrie porno encaisse près de 100 milliards de dollars de revenus chaque année, soit deux fois plus que l’IA. Cinq des 50 sites les plus visités au monde sont des sites pornographiques, selon Similarweb, un fournisseur de données. L’industrie a longtemps été dominée par les «tube sites», comme Pornhub et xHamster, qui proposent des vidéos gratuites et gagnent de l’argent via la publicité. Des plateformes d’abonnement plus lucratives ont émergé, facturant l’accès au contenu, avec des frais supplémentaires pour du contenu personnalisé et des discussions individuelles. OnlyFans, probablement le plus connu, a réalisé plus de 1,4 milliard de dollars de revenus et 520 millions de dollars de profits au cours de l’année fiscale 2024.

Créer un partenaire idéal

Par le passé, chaque nouvelle technologie, des vidéos au streaming sur internet, a généralement gagné du terrain parce qu’elle réduisait le coût de distribution du porno. Mais l’IA est plus révolutionnaire qu’évolutive, car elle peut produire du porno personnalisé à la demande. La gamme d’utilisations possibles dépend surtout de l’imagination (et des restrictions que les entreprises d’IA accepteront d’intégrer à leurs modèles). Certains générateurs de porno IA permettent à un utilisateur de créer un partenaire idéal — jusqu’à la couleur de peau, la morphologie, la personnalité et même la relation avec l’utilisateur — et de les faire jouer des fantasmes ou offrir de la compagnie. (Vous voulez des nus d’une personne de 92 ans avec une silhouette athlétique, qui aime lire et a un fétichisme des pieds? L’IA peut les fournir.) Pour ceux qui préfèrent laisser un peu de place à l’imagination, il existe des sexbots qui produisent des textes et de l’audio érotiques à partir de quelques instructions.

Certains dans l’industrie évoquent des objectifs plus élevés. Arman Chaudhry, le fondateur d’Unstable Diffusion, un générateur d’images non censuré, compare les développeurs entraînant l’IA à créer du porno à des professeurs d’art commençant par le dessin de nus. «C’est un excellent test de la façon dont les modèles comprennent le monde et l’anatomie», explique-t-il. Mais cela semble difficilement être le but des applications «nudify», qui prennent des images de personnes habillées et produisent des nus plausibles, et qui sont dangereusement populaires parmi les harceleurs dans les écoles.

La révolte des machines

Bien que l’industrie adulte soit mal suivie, tous les signes suggèrent que le porno généré par IA explose. Les recherches Google pour «AI porn generators» et «nudify apps» ont augmenté ces dernières années. Indicator, une publication spécialisée dans la manipulation numérique, a suivi 85 sites «nudify» pendant six mois, jusqu’en mai, et a constaté qu’ils recevaient environ 18,5 millions de visites par mois et généraient jusqu’à 36 millions de dollars sur l’année. Les dix sites les plus populaires offrant des compagnons IA axés sur «l’accouplement» ont attiré 78,5 millions de visites au premier trimestre 2025, selon une étude menée par des chercheurs des Universités d’Oxford et de Cambridge. Les calculs de The Economist suggèrent qu’ils ont reçu trois fois plus de trafic dans les trois mois jusqu’en octobre.

Les outils d’IA conçus pour des usages plus sages sont également entraînés pour des contenus olé olé. Lauren Kunze, directrice de Pandorabots, un développeur de chatbots qui bloque le contenu obscène, observe que les deux groupes les plus susceptibles de passer des heures à parler avec des machines sont les enfants qui s’ennuient et les personnes cherchant du sexe. Un personnage féminin hébergé par Pandorabots, Kuki, est sollicité sexuellement par un tiers des utilisateurs et s’est vu dire «je t’aime» 90 millions de fois en 15 ans. Parmi toutes les utilisations de l’IA, Mme Kunze explique que «le sexe par chat en ligne a le mandat consommateur le plus fort, est le plus facile à activer et est le plus monétisable.»

«Excités par des modèles virtuels»

Comme dans de nombreuses industries confrontées à la disruption technologique, les effets du changement se font sentir immédiatement pour les travailleurs et les entreprises traditionnelles. La demande pour faire passer des humains à l’écran ne disparaîtra probablement pas totalement. Dans une étude publiée l’an dernier dans Cognition and Emotion, une revue scientifique, des chercheurs ont montré à des participants des images de personnes peu vêtues et leur ont demandé de dire lesquelles, selon eux, étaient faites par IA (spoiler: aucune ne l’était), puis d’évaluer leur excitation. L’étude a révélé que les participants étaient excités par ce qu’ils pensaient être des images générées par IA, mais moins que par celles qu’ils pensaient montrer de vraies personnes. «Tout comme les gens ressentent de l’empathie pour Anna Karénine ou Ned Stark en sachant qu’ils sont fictifs, ils peuvent aussi être excités par des modèles virtuels», écrivent les chercheurs.

Cependant, concurrencer le porno fabriqué par machine devient plus difficile à mesure que la technologie avance. Une autre étude, publiée dans iScience en 2022, a découvert que des visages synthétiques étaient plus souvent perçus comme réels que ceux de vraies personnes. Une autre étude, publiée dans Psychological Science, a trouvé qu’il était particulièrement difficile pour les participants d’identifier les images fausses parmi celles montrant des visages blancs, qui sont surreprésentés dans les données d’entraînement de l’IA et dans le porno. Leo Saros, fondateur de Flirtflow, un service de chat automatisé pour les créateurs d’OnlyFans, affirme que l’IA s’est tellement améliorée ces derniers mois que les utilisateurs ne réalisent presque jamais qu’ils parlent à une machine. «C’est un peu comme la matrice», dit M. Saros. «Tant que vous ne savez pas que vous êtes dedans, vous n’avez pas de doutes et vous appréciez.»

Interaction avec les fans

Les stars pornos les plus connues ont le plus à perdre. Les fans utiliseront inévitablement la technologie de deepfake pour greffer leur visage sur des vidéos pornographiques ou utiliser leurs productions pour entraîner des outils d’IA sans leur consentement. Quelques stars, résignées à l’inévitable, choisissent de surfer sur la vague en accordant une licence de leur image à des entreprises d’IA et en créant des avatars qui reçoivent des pourboires des fans. Pour Vicky Vette, qui a 60 ans et a lancé plus tôt cette année un double numérique sur l’application de compagnon Eva AI (depuis transféré à l’application Joi AI de l’entreprise), l’IA pourrait prolonger sa carrière dans une industrie âgiste. Bonnie Blue, qui a fait la Une des journaux en couchant avec plus de 1000 hommes en une journée, estime que son travail est pérenne car elle interagit avec ses fans en ligne et hors ligne. «Une grande partie se fait avec des inconnus et une grande partie avec le public», dit-elle. «Comment remplacer cela?»

Parmi les acteurs et modèles amateurs, l’IA est un outil utile pour se préserver des tâches ingrates. Plutôt que de travailler pour de grands studios pornographiques, la plupart gagnent désormais de l’argent directement auprès des fans sur des plateformes d’abonnement. Ils sont à la fois acteurs pornos, cameramans, monteurs et assistants administratifs. Les générateurs vidéo IA réduisent le temps nécessaire pour produire un clip finalisé de deux minutes, passant de plusieurs jours à quelques heures. Les chatbots effectuent le travail lucratif de messagerie privée. Flirtflow, par exemple, prend 8% des revenus issus des chats personnalisés, ce qui est bien moins que ce qu’il en coûte aux créateurs pour embaucher de vraies personnes pour répondre aux fans et utilisateurs. «L’IA leur permet de développer leur activité sans s’épuiser», explique Alison Boden, directrice exécutive de la Free Speech Coalition, une association de l’industrie du divertissement pour adultes, et ancienne patronne de Kink.com, un site qui propose ce que son nom suggère (sexualité).

Robo-school

Les intermédiaires qui contrôlent la distribution du porno depuis des générations sont également touchés. Les studios, après avoir perdu du terrain face aux sites d’abonnement, font face à un nouveau risque: que les vidéos pour lesquelles ils ont dépensé des sommes considérables soient discrètement utilisées pour entraîner des robots. En juillet, Strike 3 Holdings, un producteur américain de films érotiques, a poursuivi Meta, propriétaire de Facebook, pour avoir prétendument enfreint les règles de copyright en entraînant des modèles IA à partir de ses films. (Meta nie l’accusation.) Lawrence Walters, avocat, constate une augmentation du nombre d’acteurs pornographiques exigeant des clauses dans leurs contrats empêchant les studios d’utiliser leur travail passé pour entraîner un modèle. «L’IA devient seulement plus omniprésente», ajoute M. Walters, «donc les studios doivent se demander: veulent-ils abandonner ces droits ?»

Les plateformes qui hébergent du contenu adulte doivent prendre une grande décision: autoriser ou non le contenu généré par IA? Selon l’évolution de la technologie, cela pourrait faire la différence entre croître rapidement ou disparaître. OnlyFans autorise le contenu modifié par machine, mais celui pas entièrement créé artificiellement. La plateforme parie que le porno réel attirera les utilisateurs lorsque internet sera saturé de contenus pornographiques IA. D’autres sites, comme Fanvue, communiquent largement sur le fait qu’ils hébergent du porno généré par IA. Amrapali Gan, ancienne directrice générale d’OnlyFans, lance en décembre une plateforme sociale réservée aux adultes appelée Vylit, sur laquelle le contenu généré par IA sera clairement signalé. «La transparence fait vraiment une différence», dit Mme Gan.

Dans l’ensemble, l’IA promet d’augmenter considérablement la productivité de l’industrie. Bien que cela se fasse probablement au prix de pertes d’emplois, l’IA pourrait également libérer les acteurs de certaines demandes farfelues des spectateurs, comme effectuer des actes violents ou extrêmes, ou avoir des rapports sexuels non protégés au risque d’attraper des infections sexuellement transmissibles. Cependant, la technologie pourrait aussi créer les mêmes risques chez les acteurs devant la caméra que pour une personne lambda, que ce soit via la création d’un porno violent et illégal, ou à travers la diffusion de deepfakes sexuels.

Un risque de normalisation des abus

Les régulateurs s’inquiètent surtout de l’utilisation de l’IA pour produire des contenus qui seraient illégaux s’ils étaient réalisés avec des humains. L’Internet Watch Foundation (IWF), une association caritative, a trouvé des milliers d’images générées par IA montrant des abus sexuels sur enfants circulant en ligne. Les signalements de ces images ont plus que doublé dans les dix premiers mois de cette année par rapport à toute l’année 2024. Elles semblent devenir de plus en plus réalistes et abusives. Bien que la plupart des outils d’IA tentent d’empêcher les utilisateurs de créer ce genre de contenu illégal, de nombreuses images trouvées par l’IWF ont été réalisées par des personnes ayant téléchargé des modèles IA open source sur leurs propres ordinateurs, où ils peuvent contourner les protections via des instructions codées.

Les défenseurs de la liberté d’expression pourraient faire valoir que, puisqu’aucun enfant n’est blessé dans la création de ces images, elles ne devraient pas être interdites. Mais affaiblir ce tabou pourrait mettre en danger de vrais enfants si cela normalisait de tels abus. Il existe certainement des preuves solides que des personnes imitent d’autres formes d’actes sexuels agressifs devenus courants en ligne. Eran Shor, de l’Université McGill au Canada, et ses coauteurs ont constaté une augmentation frappante de la prévalence de l’étranglement, des coups et du bâillonnement forcé dans les vidéos pornographiques les plus vues (voir graphique 1). Trop de personnes sont étranglées lors de rapports sexuels sans leur consentement.

L’essor inquiétant de l’étranglement

Debby Herbenick, de l’Université de l’Indiana, et ses collègues ont également trouvé une augmentation inquiétante de la proportion de jeunes femmes affirmant avoir été étranglées consensuellement durant des rapports sexuels. Fait frappant, plus de 40% des femmes âgées de 25 à 29 ans ont déclaré avoir été étranglées par leurs partenaires (voir graphique 2). Bien que cela se fasse avec leur accord, c’est également préoccupant. Les experts de santé avertissent qu’il n’existe aucun moyen de pratiquer l’étranglement en toute sécurité; une personne peut perdre connaissance en quelques secondes lorsqu’elle est étranglée. Plus tôt cette année, le gouvernement britannique a introduit une nouvelle législation visant à interdire les contenus pornographiques montrant des étranglements. «L’essor des pratiques d’étranglement dans la pornographie mainstream et dans le discours sur la sexualité peut encourager les jeunes à ajouter ces pratiques à leur répertoire sexuel régulier simplement parce qu’ils croient qu’elles sont devenues une partie normale du script sexuel», notait le professeur Shor, avec ironie.

Un deuxième sujet de préoccupation est la technologie des deepfakes, qui peut transformer l’image de n’importe qui en contenu pornographique. Home Security Heroes, un groupe qui tente de prévenir le vol d’identité, estime qu’il faut désormais moins de 25 minutes pour produire un deepfake à partir d’une seule photo de visage claire. Cette technologie a fait la Une des journaux l’année dernière lorsque des images explicites générées par machine de Taylor Swift sont devenues virales. De plus en plus, les victimes sont des gens ordinaires. Une enquête de l’Alan Turing Institute, l’institut national britannique pour l’IA, a révélé qu’environ un tiers des femmes et un cinquième des hommes craignent d’être ciblés.

«Un espace tellement vulnérable»

Les escrocs en ligne utilisent de plus en plus le porno deepfake pour faire chanter les gens ou gagner leur confiance. Reed Amber, travailleuse du sexe et animatrice du podcast ComeCurious, soupçonne que le matériel qu’elle publie en ligne est récupéré pour produire des images et clips convaincants à son nom. Elle reçoit plusieurs messages par semaine de followers ayant été dupés par des malfaiteurs se faisant passer pour elle sur les réseaux sociaux et les applications de messagerie. «La sexualité et le sexe sont un espace tellement vulnérable pour les gens qu’ils suspendent leur propre incrédulité pour croire que quelqu’un les désire», dit-elle. «C’est exploiter les vulnérables.»

Les régulateurs tentent différentes approches. L’AI Act de l’Union européenne exige que tout contenu synthétique ayant l’air authentique soit étiqueté. Le «Take It Down Act» américain, soutenu par la première dame Melania Trump, interdit aux gens de publier sciemment des images pornographiques d’enfants ou d’adultes en ligne sans leur consentement, qu’elles soient réelles ou générées par machine. Le Danemark prévoit de donner aux individus un droit d’auteur sur leur propre image. La Grande-Bretagne donnera aux développeurs d’IA et aux groupes de protection de l’enfance le pouvoir de tester les modèles pour s’assurer qu’ils ne peuvent pas être utilisés pour simuler des abus sexuels sur enfants. Gabrielle Bertin, une Britannique membre de la Chambre des lords qui a dirigé une récente revue sur l’industrie pornographique, demande au gouvernement d’interdire purement et simplement les applications nudify. «Pourquoi quelqu’un a-t-il besoin d’une application nudify?», demande baronne Bertin. «C’est pour abuser et humilier, généralement des femmes.»

La surveillance sur internet

Pourtant, le porno a réussi à se faufiler à travers les filets réglementaires pendant des générations. Et l’IA progresse plus vite que n’importe quel législateur. Cela laisse à l’industrie la tâche de s’autoréguler. La manière dont OpenAI surveillera le contenu érotique sur ChatGPT reste floue. Sam Altman, son directeur général, a seulement dit qu’il traiterait «les adultes comme des adultes». La plupart des sites populaires embauchent des armées de modérateurs pour repérer le contenu illégal avant que les annonceurs et les prestataires de paiement ne se retournent contre eux. La décision de Mastercard et Visa de bloquer les paiements vers Pornhub en 2020 a fait des géants de la carte de crédit les policiers officieux du porno.

Valérie Lapointe, de l’Université du Québec à Montréal, estime que de nombreux utilisateurs maîtrisent eux-mêmes leurs instincts les plus obscènes. Le public se méfie des chatbots modernes qui collectent des données sur leurs interactions, données qui peuvent être vendues ou utilisées pour cibler de la publicité. Comme le dit Mme Lapointe: «Si vous êtes le directeur général d’une grande entreprise, voulez-vous vraiment risquer que vos données fuitent lorsque vous parlez à un chatbot dominateur?»

La pornographie a longtemps testé les limites et repoussé les frontières de la sexualité. Bien avant l’IA, le porno «anime» (un style d’animation japonais) tordait les corps au-delà de la biologie. Une grande partie du matériel mettant en scène de vrais acteurs et circulant sur le web n’est guère sage. Pourtant, parce que l’IA peut produire des images si facilement, et permettre des scénarios toujours plus extravagants, le web sera bientôt inondé de porno synthétique de plus en plus extrême. Et comme un nombre croissant de jeunes utilisateurs voient leurs perceptions déformées par les générateurs de porno IA, il devient d’autant plus important d’encourager les gens à préserver la connexion humaine qui, pour beaucoup, est ce qui rend le sexe spécial. Comme aime le rappeler Cindy Gallop, fondatrice de MakeLoveNotPorn (un site permettant aux gens ordinaires de partager leurs propres vidéos sexuelles): «Le sexe dans la vraie vie est plus surprenant et innovant que le porno ne le sera jamais.»

Source: https://www.20min.ch/fr/story/international-l-ia-bouleverse-l-industrie-du-porno-103462259

[Violence]

@duJambon a dit dans L’IA bouleverse l’industrie du porno :

Les contenus sexuels synthétiques vont bientôt inonder internet

C’est pas bientôt, c’est déjà le cas.

[Pluton9]

@Violence a dit dans L’IA bouleverse l’industrie du porno :

C’est pas bientôt, c’est déjà le cas.

Tu me sembles bien au courant toi?!

[tanjerine]

Bonjour, Quéquette à l’air…

PornHub piraté : adresses mails, historiques, activités sur le site… Les données de 200 millions d’utilisateurs ont fuité

[Violence]

@Pluton9 a dit dans L’IA bouleverse l’industrie du porno :

@Violence a dit dans L’IA bouleverse l’industrie du porno :

C’est pas bientôt, c’est déjà le cas.

Tu me sembles bien au courant toi?!

Oui et non
C’est pas trop un scoop. ça pullule sur les zozos sociaux alors imagine sur les plateformes XXXX

[duJambon]

Le pire reste quand même à venir, trompe d’éléphant (avec ou sans oreilles), puit sans fond et je n’ose même pas imaginer le reste…