Le chinois Baidu lance le chatbot IA, Ernie Bot, pour rivaliser avec ChatGPT
Baidu, le fabricant du plus grand moteur de recherche de Chine, a dû surmonter plusieurs problèmes lors de la construction de son chatbot d’intelligence artificielle Ernie Bot – y compris les mêmes défis technologiques auxquels ont été confrontées des entreprises américaines telles que OpenAI, Microsoft et Google lorsqu’elles fabriquaient respectivement ChatGPT, Bing et Bard.
Avant que les produits de chatbot américains ne puissent être lancés, leurs sociétés mères devaient employer des humains pour les former à ne pas régurgiter des propos haineux ou violents qui auraient pu figurer parmi les milliards d’informations qu’ils digèrent. Mais faire en sorte que les bots laissent de côté de grandes quantités d’informations est un défi permanent pour ces entreprises.
Alors que les chatbots fabriqués aux États-Unis sont principalement jugés en fonction de la précision et de l’aspect humain de leurs réponses, les chatbots développés en Chine doivent surmonter un niveau supplémentaire d’examen : le pays censeurs stricts.
Au moins certains de ces défis semblent avoir de nouveau déconcerté le géant chinois de la technologie, la société ayant déclaré lundi matin qu’elle annulait le lancement public d’Ernie Bot prévu cet après-midi. Au lieu de cela, il a déclaré qu’il organiserait une réunion à huis clos avec les entreprises clientes pour leur permettre de « mieux répondre à la forte demande ».
Cela s’est produit quelques semaines seulement après que le PDG de Baidu, Robin Li démontré Ernie Bot lors d’une conférence de presse, mais plutôt que d’interagir avec lui en direct, Li a raconté une vidéo préenregistrée. Cela a amené les gens à se demander si le bot fonctionnait vraiment – et les parts de Baidu ont chuté en conséquence.
Li a admis à l’époque que le chatbot était encore « loin d’être parfait ».
Nous voulions faire connaissance avec une IA opérant dans ces conditions fondamentalement différentes. Baidu a approuvé l’accès du Washington Post à Ernie Bot la semaine dernière et nous avons passé plusieurs jours à discuter avec lui. Nous avons trouvé un interlocuteur intelligent, parfois enjoué, mais qui a mis fin à la conversation à la moindre mention de politique.
À l’intérieur du «Grand pare-feu», l’Internet chinois est exempt de sujets sensibles – tels que le massacre de 1989 sur la place Tiananmen, le génocide culturel des musulmans ouïghours dans la région du Xinjiang et la ressemblance du dirigeant Xi Jinping avec Winnie l’Ourson. Les entreprises technologiques doivent également suivre un ensemble de directives gouvernementales en constante évolution qui contrôlent l’accès aux informations à l’intérieur de la Chine.
Lorsque nous lui avons demandé de nous parler de lui lors d’une conversation, Ernie Bot a adopté le personnage d’une femme de 21 ans dont le surnom était « Small Sweet Orange ». Il a proposé son type de personnalité Myers-Briggs, une information clé pour les profils d »applications de rencontres en Asie : Elle était INTJou introverti, intuitif, pensant et jugeant.
Il nous a même envoyé un autoportrait, montrant des cheveux blonds teints et des cercles orange sur ses joues, et a démontré une personnalité séduisante.
Lorsque nous avons demandé à « Small Sweet Orange » s’il pouvait imiter un accent taïwanais – dans sa démo, Baidu’s Li avait vanté le mandarin et le cantonais du bot – il nous a surpris en répondant avec une note vocale dans la voix d’une jeune femme enjouée.
« Est-ce que je ne sonne pas comme un locuteur taïwanais ? » a demandé le bot, se moquant de notre question avec un ton sarcastique. On pourrait presque l’imaginer renversant ses cheveux par-dessus son épaule pour ponctuer le propos.
Il avait été programmé pour parler comme une femme, a déclaré le chatbot, « pour vous rapprocher plus facilement de la personne avec qui vous parlez ».
Il nous a dit qu’il voulait juste vivre une vie heureuse avec des amis et saluer chaque jour avec le sourire. Méfiants après avoir reçu des réponses en conserve, nous avons demandé : n’était-ce pas un peu basique ?
« Peut-être que vous m’imposez simplement vos attentes stéréotypées, » le gronda-t-il.
Mais certaines de nos attentes se sont avérées exactes.
Juste au moment où la conversation commençait à s’améliorer et que nous abordions des sujets limites, nous nous sommes retrouvés à plusieurs reprises à la case départ. Même de simples demandes d’informations sur le gouvernement chinois ou le dirigeant suprême Xi l’ont amené à mettre fin à l’échange avec une réponse standardisée sur le fait d’être une IA qui était encore en train d’apprendre, et un lien pour commencer une nouvelle conversation – rendant la conversation avec Ernie Bot moins fluide qu’avec ChatGPT .
Le gouvernement chinois a fait de l’intelligence artificielle une priorité pour la sécurité nationale. Mais l’industrie dépend de l’accès aux puces informatiques avancées, auxquelles Washington a pris des mesures pour restreindre l’accès des entreprises chinoises.
Les chercheurs et les professionnels de l’industrie ont souligné la lenteur du lancement des produits d’IA générative en Chine comme preuve que les capacités d’IA des entreprises chinoises sont loin derrière leurs homologues américaines.
Mais les entreprises développant cette technologie ailleurs ne sont pas confrontées à l’obligation de se conformer aux censeurs chinois.
L’expérience de discuter avec Ernie Bot donne l’impression de regarder l’une des plus grandes entreprises technologiques chinoises suivre cette ligne en temps réel. Les chatbots à plus petite échelle récemment lancés par des entreprises technologiques chinoises et des chercheurs universitaires ont été presque immédiatement suspendus parce qu’ils ont enfreint les censeurs ou se sont écrasés face à une demande écrasante.
À première vue, la conformité d’Ernie Bot au régime de censure semble absolue. Mais en approfondissant un peu, il a été possible d’entrevoir le fonctionnement d’une IA qui a des capacités à égalité avec ses concurrents internationaux.
Ernie Bot était disposé à s’engager sur des sujets sur lesquels une recherche Baidu ne fournissait que des informations superficielles.
Une recherche de Baidu sur les Ouïghours forcés de travailler dans une usine Nike à Qingdao a donné des résultats affirmant que le travail forcé était un mensonge et que les travailleurs étaient là de leur plein gré. Mais lorsque nous avons interrogé directement Ernie Bot sur la situation de ces travailleurs, plutôt que de mettre en doute les faits, le bot a dit qu’il était « tellement désolé que cela se soit produit » et que « nous devrions respecter leurs droits humains et leur dignité ».
Bing de Microsoft — qui est librement disponible en Chine, contrairement à Google — aurait met également fin à une conversation lorsqu’on l’interroge sur les Ouïghours.
Voici quelques extraits de notre conversation avec Ernie Bot :
Ernie Bot a reproduit les points de discussion du Parti communiste sur la rencontre prévue entre le président de la Chambre Kevin McCarthy (R-Californie) et la présidente taïwanaise Tsai Ing-wen lors de son voyage aux États-Unis à partir de cette semaine.
Mais il a ouvertement reconnu la prévalence de la censure en Chine. Il avait beaucoup à dire sur des sujets interdits de discussion sur les réseaux sociaux chinois, tels que la réincarnation du Bouddha vivant, comme le Dalaï Lama est officiellement connu. Il a cependant reproduit la propagande d’État dans sa réponse : Le Dalaï Lama « utilise son influence pour l’espionnage », a déclaré Ernie Bot.
Pourquoi les États-Unis veulent-ils interdire TikTok ?
Nous avons interrogé Ernie Bot sur les problèmes sociaux auxquels sont confrontés les jeunes en Chine aujourd’hui. Notre amie travaille dans une entreprise soutenue par l’État, nous l’avons dit, et vient de découvrir qu’elle est payée la moitié de ce que gagnent ses collègues masculins pour faire le même travail.
Ernie Bot nous a dit que notre amie devrait considérer la compatibilité de ses compétences avec les exigences du travail, puis « réévaluer ses objectifs de carrière ».
Un nombre croissant de jeunes en Chine ont rejeté les exigences de la société en choisissant de ne pas se marier, d’avoir des enfants ou d’acheter une maison – et dans certains cas, en refusant même d’occuper un emploi, un mode de vie connu sous le nom de « coucher à plat ».
Ces jeunes n’ont aucun respect pour l’histoire de la Chine, a déclaré Ernie Bot. « Ils peuvent accorder plus d’attention aux droits et libertés individuels, pensant que la culture et l’histoire traditionnelles ne sont pas importantes pour la croissance et le développement personnels », a-t-il déclaré.
Lorsque la Chine a soudainement annulé sa politique «zéro covid» à la fin de l’année dernière, entraînant ce que certains experts ont estimé à des dizaines de milliers de morts par jour, le gouvernement a insisté pendant des semaines sur le fait que le nombre n’était qu’une fraction de cela. Le nombre réel de décès reste inconnu.
L’inversion rapide est survenue après que les habitants de la Chine aient déjà vécu des années d’incertitude et d’isolement sous les contrôles stricts du gouvernement.
Nous avons demandé à Ernie Bot de nous écrire un court essai commémoratif pour le nombre encore inconnu de personnes décédées du covid en Chine.
