L’industrie des sexbots IA ne fait que démarrer. Cela soulève d’étranges nouvelles questions – et des risques
L’intelligence artificielle (IA) devient personnelle. Les chatbots sont conçus pour imiter les interactions humaines, et l’essor du chat vocal réaliste conduit de nombreux utilisateurs à se former. attachements émotionnels ou rire avec hôtes de podcast virtuels.
Et c’est avant d’arriver aux choses vraiment intimes. Recherche a montré que le jeu de rôle sexuel est l’une des utilisations les plus courantes de ChatGPT, et que des millions de personnes interagissent avec des systèmes basés sur l’IA conçus comme des compagnons virtuels, tels que Caractère.AI, Répliqueet Chai.AI.
Qu’est-ce que cela signifie pour l’avenir de la romance (humaine) ? Les perspectives sont alarmantes.
Mieux vaut être gentil avec votre suzerain de l’IA
Le service compagnon d’IA le plus important est Replika, qui permet à certains 30 millions d’utilisateurs pour créer des copines (ou petits amis) numériques personnalisés.
Alors que premières études Si la plupart des utilisateurs de Replika sont des hommes, de race blanche et âgés de moins de 30 ans, d’autres données démographiques rattrapent leur retard. Les robots sexuels masculins ont été en devenir depuis quelques années. Et ce sont bien plus que de simples vibromasseurs avec ouvre-bocal intégré.
Moyennant des frais d’abonnement, les utilisateurs peuvent échanger des messages ou des photos intimes avec leurs partenaires IA. Plus d’un demi-million d’utilisateurs s’étaient abonnés temporairement avant Replika désactivé son module « jeu de rôle érotique » début 2023, craignant une réaction négative de la réglementation – une décision que les utilisateurs ont surnommée «La lobotomie.»
La « lobotomie » Replika met en évidence une caractéristique clé des compagnons virtuels : leurs créateurs ont un contrôle total sur leur comportement. Les créateurs d’applications peuvent modifier ou fermer le « partenaire » d’un utilisateur – et des millions d’autres – à tout moment. Ces systèmes lisent également tout ce que disent les utilisateurs afin d’adapter les interactions futures et, bien sûr, les publicités.
Toutefois, ces réserves ne semblent pas freiner l’industrie. Les nouveaux produits prolifèrent. Une entreprise, Kindroïdepropose désormais des chats vocaux avec jusqu’à dix compagnons virtuels simultanément.
Le monde numérique n’est pas non plus la limite. Les vendeurs de poupées sexuelles tels que Joy Love Dolls proposent sexbots interactifs réelsavec non seulement une couleur de peau et une taille de poitrine personnalisables, mais également un « contrôle complet » de fonctionnalités telles que le mouvement, le chauffage et les « gémissements, cris et même flirts de votre poupée activés par l’IA, ce qui en fait un excellent compagnon ».
Pour l’instant, les compagnons virtuels et les sexbots IA restent un marché bien plus restreint que les médias sociaux, avec des millions d’utilisateurs plutôt que des milliards. Mais comme nous l’a appris l’histoire de Facebook, Google et Amazon, les bizarreries numériques d’aujourd’hui pourraient devenir les géants mondiaux de demain.
Vers des copines IA d’origine éthique ?
La disponibilité de relations basées sur l’IA est susceptible d’entraîner toutes sortes de comportements éthiquement douteux de la part des utilisateurs qui n’auront pas à faire face aux conséquences du monde réel.
Bientôt, vous pourrez satisfaire n’importe quel problème avec votre petite amie IA moyennant des frais supplémentaires. Si votre femme IA devient gênante, demandez simplement au seigneur de l’entreprise de désactiver son module d’envie – moyennant un certain prix, bien sûr. Ou supprimez-la simplement et recommencez avec autant de maîtresses IA que vous le souhaitez en parallèle.
La façon dont les gens nouent des relations a déjà été perturbée par les applications de rencontres telles que Tinder et Bumble.
Que se passera-t-il si, à l’avenir, des personnes en quête d’amour rivalisent avec des amants synthétiques parfaits, toujours disponibles et excités ? Eh bien, au moins, ils pourront créer des répliques virtuelles de ces rendez-vous chauds auxquels ils n’ont pas atterri.
Et pour ceux qui n’ont pas les compétences nécessaires pour créer leurs propres compagnons virtuels, il existe de nombreuses alternatives prêtes à l’emploi.
Un Enquête ABC a révélé que l’utilisation de l’IA générative pour créer de faux influenceurs en manipulant les images de femmes sur les réseaux sociaux est déjà très répandue. Cela se fait généralement sans le consentement à la vente de contenu pornographique. Une grande partie de ce contenu représente des idéaux corporels inaccessibles, et certains représentent des personnes qui semblent, au mieux, à peine en âge de consentir.
Une autre application probable ? Utiliser la technologie AI sexbot pour amener des célébrités telles que Marilyn Monroe et Clara Bow revient à la vie. Après tout, les morts ne peuvent plus refuser leur consentement.
Replika elle-même a été inspirée par le désir de son fondateur de recréer son défunt meilleur ami via un chatbot. Beaucoup utiliser l’application pour garder les proches décédés à proximité. Quel moment pour être vivant (ou mort) !
Le potentiel de manipulation émotionnelle par des pêcheurs-chats inventifs et des dictateurs est alarmant. Imaginez les dégâts si des personnalités comme le Russe Vladimir Poutine ou le Nord-Coréen Kim Jong-un exploitaient cette technologie pour compléter les opérations de cyberespionnage déjà étendues de leurs pays.
Peut-être verrons-nous d’ici peu des entreprises proposer aux consommateurs les plus éthiques des copines IA « d’origine responsable » – cultivées de manière biologique à partir de contenus récoltés de manière consensuelle, promouvant des cochonneries socialement acceptables.
La société et l’État doivent agir maintenant
Alors que la solitude atteint des niveaux épidémiques, les enquêtes suggèrent jusqu’à une personne sur quatre dans les pays de l’OCDE manquent de connexion humaine – la demande de sexbots ne fera qu’augmenter. Les entreprises répondront à cette demande à moins que la société et l’État ne fixent des limites claires sur ce qui est acceptable.
Le sexe et la technologie ont toujours co-évolué. Tout comme la prostitution est « le métier le plus ancien », les sites pornographiques font partie des les coins les plus anciens d’Internet. Cependant, le potentiel dystopique des sexbots pour une monétisation massive et contrôlée par les entreprises de notre sphère la plus intime est sans précédent.
Les utilisateurs ne sont pas non plus totalement innocents. Il y a quelque chose de vicieux à remplacer un véritable être humain par une machine à désir totalement soumise.
Les premières études suggèrent narcissisme est répandu parmi les utilisateurs de cette technologie. La normalisation des comportements sexuels néfastes tels que le viol, le sadisme ou la pédophilie est une mauvaise nouvelle pour la société.
Cependant, s’en prendre aux utilisateurs n’est probablement pas le meilleur moyen de résoudre le problème. Nous devrions traiter l’utilisation des sexbots comme d’autres comportements potentiellement problématiques, comme le jeu.
Comme pour d’autres comportements problématiques où le problème réside davantage dans les fournisseurs que dans les utilisateurs, il est temps de demander des comptes aux fournisseurs de sexbots. Alors que nos liens avec l’IA deviennent de plus en plus intimes, il n’y a pas beaucoup de temps à perdre.