Instagram a été repéré en train de développer un « ami IA » personnalisable

“/>

Crédits images : Bryce Durbin/TechCrunch

Instagram a été repéré en train de développer une fonctionnalité « ami IA » que les utilisateurs pourraient personnaliser à leur guise, puis avec laquelle converser, selon des captures d’écran partagées par un chercheur d’applications. Alexandre Paluzzi. Les utilisateurs pourraient discuter avec l’IA pour « répondre aux questions, discuter de tous les défis, réfléchir à des idées et bien plus encore », selon les captures d’écran de la fonctionnalité.

Les captures d’écran indiquent que les utilisateurs pourraient sélectionner le sexe et l’âge du chatbot. Ensuite, les utilisateurs pourraient choisir l’origine ethnique et la personnalité de leur IA. Par exemple, votre ami IA peut être « réservé », « enthousiaste », « créatif », « spirituel », « pragmatique » ou « responsabilisant ».

Pour personnaliser davantage votre ami IA, vous pouvez choisir ses intérêts, qui « éclaireront sa personnalité et la nature de ses conversations », selon les captures d’écran. Les options incluent « bricolage », « animaux », « carrière », « éducation », « divertissement », « musique », « nature » et plus encore.

Une fois que vous avez fait vos sélections, vous pourrez sélectionner un avatar et un nom pour votre ami IA. Vous seriez ensuite redirigé vers une fenêtre de discussion, où vous pourrez cliquer sur un bouton pour commencer à converser avec l’IA.

Instagram a refusé de commenter le sujet. Et bien sûr, les fonctionnalités inédites peuvent éventuellement être lancées au public ou non, ou la fonctionnalité peut être modifiée davantage au cours du processus de développement.

La décision du réseau social de développer, et éventuellement de lancer, un chatbot IA commercialisé comme un « ami » auprès de millions d’utilisateurs comporte des risques. Julia Stoyanovich, directrice du Center for Responsible AI de NYU et professeure agrégée d’informatique et d’ingénierie à l’université, a déclaré à TechCrunch que l’IA générative peut tromper les utilisateurs en leur faisant croire qu’ils interagissent avec une personne réelle.

“L’un des plus gros problèmes, sinon le plus gros, liés à la façon dont nous utilisons l’IA générative aujourd’hui est que nous sommes trompés en pensant que nous interagissons avec un autre être humain”, a déclaré Stoyanovich. « Nous sommes trompés en pensant que la chose à l’autre bout du fil se connecte avec nous. Qu’il a de l’empathie. Nous nous y ouvrons et nous laissons vulnérables à la manipulation ou à la déception. C’est l’un des dangers distinctifs de l’anthropomorphisation de l’IA, comme nous l’appelons.

Interrogé sur les types de garanties qui devraient être mises en place pour protéger les utilisateurs contre les risques, Stoyanovich a déclaré que « chaque fois que les gens interagissent avec l’IA, ils doivent savoir qu’il s’agit d’une IA avec laquelle ils interagissent, et non d’un autre être humain. C’est le type de transparence le plus élémentaire que nous devrions exiger.

Le développement de la fonctionnalité « AI Friend » intervient alors que des controverses autour des chatbots IA ont émergé au cours de l’année écoulée. Au cours de l’été, un Un tribunal britannique a entendu une affaire où un homme a affirmé qu’un chatbot IA l’avait encouragé à tenter de tuer la défunte reine Elizabeth quelques jours avant qu’il ne pénètre par effraction dans l’enceinte du château de Windsor. En mars, la veuve d’un Belge décédé par suicide a affirmé qu’un Le chatbot IA avait convaincu qu’il se suicide.

D’autres plateformes sociales ont lancé des chatbots IA avec des résultats mitigés. Par exemple, Snapchat a lancé son chatbot « My AI » en février et a fait l’objet d’une controverse pour l’avoir fait sans autorisation appropriée. fonctionnalités de limitation de l’âgecar il s’est avéré que le chatbot discutait avec des mineurs sur des sujets tels que dissimuler l’odeur de l’herbe et créer une ambiance sexuelle.

On ne sait pas exactement quels outils d’IA Instagram utiliserait pour alimenter « l’ami de l’IA », mais à mesure que l’IA générative est en plein essor, la société mère du réseau social, Meta, a déjà commencé à intégrer la technologie dans sa famille d’applications. Le mois dernier, Meta a lancé 28 IA des chatbots avec lesquels les utilisateurs peuvent envoyer des messages sur Instagram, Messenger et WhatsApp. Certains chatbots sont joués par des noms notables comme Kendall Jenner, Snoop Dogg, Tom Brady et Naomi Osaka. Il convient de noter que le lancement des personnages IA n’a pas été une surprise, étant donné que Paluzzi révélé en juin dernier, le réseau social travaillait sur des chatbots IA.

Contrairement au chatbot « ami IA » qui peut discuter sur une variété de sujets, ces personnages IA interactifs sont chacun conçus pour des interactions différentes. Par exemple, le chatbot IA joué par Kendall Jenner, appelé Billie, est conçu pour être une sœur aînée qui peut donner des conseils de vie aux jeunes utilisateurs.

Le nouveau chatbot « AI Friend » qu’Instagram semble développer semble être conçu pour faciliter des conversations plus ouvertes.