L’IA Alexa prévue par Amazon est trop lente et a une faible satisfaction des clients, selon des notes de service divulguées

Le problème, connu sous le nom de latence, est une lacune critique, ont déclaré les employés dans une note interne du début du mois obtenue par Fortune. S’il est publié tel quel, les clients pourraient être frustrés et le produit – un produit particulièrement critique pour Amazon alors qu’il tente de suivre le rythme de la bataille cruciale pour lancer des produits d’IA grand public à succès – pourrait se terminer par un échec, craignent certains employés.

« La latence reste un problème critique nécessitant des améliorations significatives » avant le lancement de la nouvelle version d’Alexa, indique le mémo.

Le problème de latence – un défi courant lors de la création d’applications d’IA génératives complexes – n’est que l’une des nombreuses préoccupations citées par les employés d’Amazon dans les communications internes des derniers mois et qui ont été vues par Fortune. Ils montrent les obstacles qu’Amazon doit surmonter pour finalement lancer la mise à jour d’Alexa, une priorité majeure de l’entreprise car elle pourrait ouvrir une nouvelle porte à la vente d’abonnements pour accéder au nouvel assistant vocal et pourrait dynamiser les ventes de la gamme d’appareils intelligents Echo d’Amazon.

La mise à jour d’Alexa est également un baromètre clé de la position d’Amazon dans la course aux grandes entreprises technologiques pour dominer l’IA destinée aux consommateurs et de la manne financière qui devrait en découler. Actuellement, de nombreux observateurs du secteur considèrent que l’entreprise est à la traîne par rapport à ses pairs comme Alphabet et Microsoft, la société mère de Google, ainsi qu’à de nouveaux venus dynamiques tels que OpenAI et Perplexity AI dans la création d’applications d’IA générative révolutionnaires pour les consommateurs.

Les documents obtenus par Fortunetotalisant plus d’une douzaine de pages, datent d’août à début novembre. Alors que Fortune a déjà fait état des difficultés technologiques et structurelles d’Amazon avec la nouvelle Alexa, c’est la première fois que des communications internes sont mises en lumière, mettant en lumière les détails clés du projet. Outre les problèmes de latence, ils montrent que les testeurs ont attribué à la technologie des scores de satisfaction décevants ; certaines anciennes enceintes intelligentes Echo peuvent être incompatibles avec la nouvelle Alexa ; et révéler les noms de partenaires externes potentiels qui fourniront leurs services via Alexa.

Cependant, les documents sont un instantané dans le temps et, dans certains cas, reflètent les difficultés impliquées dans tout projet technologique complexe et innovant. Certains des problèmes abordés dans ces documents ont peut-être déjà été résolus ou le seront avant toute version future.

La porte-parole d’Amazon, Lauren Raemhild, a déclaré Fortune dans une déclaration selon laquelle la vision de l’entreprise pour Alexa est de devenir « le meilleur assistant personnel au monde ».

« L’IA générative offre une énorme opportunité de rendre Alexa encore meilleure pour nos clients », a-t-elle déclaré dans le communiqué, « et nous travaillons dur pour permettre une assistance encore plus proactive et performante sur plus d’un demi-milliard d’appareils compatibles Alexa déjà présents dans les foyers. partout dans le monde. »

Raemhild a ajouté que certains des plans examinés par Fortune ne reflètent pas ce que l’expérience Alexa améliorée offrira lors de son lancement final, mais elle a refusé de préciser à quelles fonctionnalités elle faisait référence.

Amazon a présenté pour la première fois en avant-première une version d’Alexa plus conversationnelle, basée sur l’IA, lors d’un événement de presse en septembre 2023. Rohit Prasad, dirigeant d’Amazon l’a appelé une « transformation massive de l’assistant que nous aimons ».

La mise à niveau est censée restaurer une partie de l’éclat d’Alexa, qui avait été progressivement perdu depuis qu’elle a été initialement reçue en grande pompe après son lancement il y a 10 ans. Bien que la société affirme qu’il existe encore des centaines de millions d’appareils Alexa actifs, leurs utilisateurs s’en plaignent de plus en plus. Une critique relativement courante est que l’assistant vocal ne comprend pas ou ne répond plus aux demandes aussi précisément qu’auparavant. L’Alexa d’origine n’a pas été conçue pour des conversations naturelles impliquant des échanges. Au lieu de cela, il répond à des questions ou des commandes simples en s’appuyant sur un ensemble évolutif de réponses prédéterminées.

Plus important encore, Alexa est le cerveau des haut-parleurs intelligents à commande vocale Echo, qui incluent une version plus petite connue sous le nom d’Echo Dot ainsi que des écrans de tablette à commande vocale, l’Echo Show. Au total, Amazon et ses partenaires ont vendu environ 500 millions d’appareils alimentés par Alexa, a indiqué la société.

Mais Amazon a été pris au dépourvu lorsque le chatbot ChatGPT d’OpenAI a été lancé en 2022, déclenchant la ruée vers l’or de la génération IA. En quelques heures, les membres du personnel d’Alexa ont commencé à le tester et ont découvert que le code logiciel qu’ils lui avaient demandé de générer pour contrôler certaines fonctionnalités d’Alexa était « parfois meilleur que celui des systèmes internes d’Amazon ». Le Wall Street Journal signalé.

Après avoir annoncé ses projets pour la nouvelle Alexa lors d’un événement spectaculaire au siège d’Amazon à Seattle l’année dernière, l’équipe travaillant sur le chatbot s’est heurtée à un certain nombre de problèmes technologiques et bureaucratiques, Fortune signalé précédemment. Par exemple, l’entreprise n’avait pas accès à suffisamment de données pour alimenter le nouveau grand modèle linguistique nécessaire à la formation d’Alexa. Pendant ce temps, les employés se sont plaints du fait que les dirigeants n’avaient pas fourni suffisamment de ressources au projet, préférant mettre l’accent sur le développement des capacités Gen AI pour l’unité de cloud computing de l’entreprise. Certains employés ont également déclaré que lorsque des équipes cloisonnées au sein de la division Alexa, comme Alexa Home ou Alexa Music, voulaient affiner le nouveau Alexa LLM pour leurs besoins, les performances globales de l’assistant vocal en cours de développement se sont parfois détériorées.

Les documents internes obtenus par Fortune ce mois-ci fait référence à une succession d’au moins trois dates cibles différentes en 2024 pour annoncer publiquement la nouvelle Alexa, nom de code Banyan. Toutes ces mesures, y compris la plus récente du 14 novembre, sont depuis passées.

Ces derniers mois, des dirigeants, du PDG Andy Jassy au nouveau patron des appareils Amazon, Panos Panay, ont discuté de la mise à niveau prévue d’Alexa en termes généraux, mais ils n’ont pas commenté la date à laquelle ils s’attendent à ce qu’elle soit diffusée.

Certains employés auraient été informés que leur nouvelle date limite pour une Alexa finie alimentée par l’IA avait été reportée à 2025, selon un récent rapport de Bloomberg.

Les documents montrent que la raison du retard est que la mise à niveau est encore un travail en cours. Pas plus tard que ce mois-ci, des employés ont rapporté dans un document que la technologie produisait toujours des résultats médiocres. Les utilisateurs qui ont testé la nouvelle version d’Alexa lui ont attribué un score de satisfaction client de 4,57 sur 7, inférieur à l’objectif de 5,5 sur 7 de l’entreprise.

Dans une interview, un employé actuel d’Amazon connaissant parfaitement l’initiative a déclaré que la technologie avait encore besoin de travail, notamment en résolvant le problème des réponses tardives. « Il y a de fortes inquiétudes concernant l’aspect latence », a déclaré l’employé, qui a requis l’anonymat car il n’était pas autorisé à s’exprimer publiquement.

L’employé a ajouté qu’il craignait que les dirigeants ne se sentent obligés de publier prochainement la nouvelle version d’Alexa malgré ces préoccupations. Si c’est le cas, ce serait une erreur, a déclaré l’employé, en raison d’inquiétudes internes selon lesquelles le film n’était pas encore prêt pour les heures de grande écoute.

Un autre problème souligné par les documents est que la nouvelle Alexa ne sera pas compatible avec certains anciens appareils Amazon Echo. Près de 10 % des utilisateurs actifs de l’assistant vocal via les appareils Amazon Echo, soit 3,8 millions de personnes au total, ne pourront pas accéder à la nouvelle version via ces appareils.

Traduction : ils devront mettre à niveau en achetant un nouvel Echo ou perdre.

L’équipe marketing d’Amazon prévoit de cibler les propriétaires d’Amazon Echo avec des offres « recycler et économiser » destinées à les persuader d’acheter un nouvel appareil compatible avec l’assistant vocal mis à niveau, indique la note. Certains utilisateurs d’Alexa ont également récemment reçu une enquête, consultée par Fortunequi leur demandait quelle serait la probabilité qu’ils achètent un nouvel appareil Echo s’il « était lancé avec la dernière technologie d’IA ».

La même communication interne d’août anticipait également la frustration des clients face à la nouvelle Alexa, car elle n’aurait initialement qu’une sélection limitée de Skills (un quasi équivalent à une application pour smartphone). Selon les documents, un peu plus de 300 compétences seront disponibles au lancement, contre environ 100 000 disponibles aujourd’hui via l’ancienne Alexa.

Le manque de compétences pourrait rendre difficile pour Amazon de vendre des abonnements pour accéder au nouvel assistant vocal, indique la note. Ce commentaire semble confirmer plusieurs informations selon lesquelles Amazon envisage de facturer de tels frais, bien que d’autres sources l’aient indiqué. Fortune que ces plans pourraient changer avant le lancement.

« Cela présente un risque élevé pour les clients d’être frustrés de payer un abonnement et de disposer d’un ensemble de fonctionnalités diminué avec [third parties]», lit-on dans le document.

Dans sa déclaration, la porte-parole d’Amazon a souligné la complexité et la difficulté de construire un produit de consommation aussi ambitieux. Elle a noté que ce n’est pas aussi simple que de superposer un nouveau modèle d’IA au service Alexa existant.

Les grands modèles de langage, l’épine dorsale des chatbots d’IA d’aujourd’hui, sont excellents pour produire des échanges conversationnels ou du contenu textuel, a déclaré Raemhild. Mais les amener à effectuer des actions avec précision et fiabilité en fonction des demandes des clients, sans ce que l’on appelle les « hallucinations » ou les erreurs, est une tâche ardue.

Raemhild semble faire écho en partie à ce à quoi le PDG Jassy a fait allusion lors de la dernière conférence téléphonique sur les résultats de l’entreprise : Amazon souhaite que la nouvelle Alexa soit davantage connue pour les actions qu’elle entreprend au nom d’un utilisateur, autant, voire plus, que pour sa possession de documents encyclopédiques. connaissance. Dans le secteur de l’IA, ce type de produit serait appelé « agent ».

À cette fin, certains des documents examinés par Fortune du mois d’août, liste certains des grands partenaires avec lesquels Amazon prévoit de travailler pour offrir diverses expériences utilisateur pour Alexa remaniée. Le document indique que la société prévoyait de permettre aux utilisateurs de commander facilement un trajet via Uber et d’effectuer des réservations de restaurant via OpenTable en faisant de simples demandes verbales via Alexa.

Le mémo répertorie également Instacart comme partenaire de lancement pour la livraison de courses, GrubHub pour la livraison de nourriture, Ticketmaster pour les billets d’événements, Atom Tickets pour acheter des billets de cinéma et Thumbtack pour les services à domicile. Un document indique qu’Amazon estime qu’environ 200 de ces partenaires seront ajoutés à la version améliorée d’Alexa dans les trois ans suivant son lancement.

Business Insider signalé pour la première fois sur certains des partenariats.

Certaines de ces sociétés proposaient auparavant leur propre Skill (ou application) via le service Alexa d’origine, mais beaucoup les ont depuis retirées. De plus, les nouvelles intégrations sont destinées à fonctionner de manière plus transparente, permettant aux utilisateurs d’Alexa d’effectuer des demandes d’achat ou de réservation via l’assistant vocal de manière beaucoup plus naturelle et conversationnelle.

Raemhild, la porte-parole d’Amazon, n’a ni confirmé ni infirmé ces partenariats. Il est également possible que les projets de l’entreprise ou la liste des partenaires changent avant le lancement.

Panay, le plus haut responsable des appareils d’Amazon, a déclaré Fortune le mois dernier, les caractéristiques de la nouvelle Alexa l’inspireront à la présenter en utilisant des termes comme « émotion » et « connexion ».

« Les produits à venir sont vraiment géniaux », a-t-il déclaré.

Sur la base des documents internes de l’entreprise rapportés ici, il reste encore un travail important à faire pour garantir que la nouvelle Alexa réponde à cette barre.

Êtes-vous un employé actuel ou ancien d’Amazon et avez-vous des réflexions sur ce sujet ou une astuce à partager ? Contactez Jason Del Rey à [email protected], [email protected]ou via Signal ou WhatsApp à 917-655-4267. Vous pouvez également lui envoyer un message sur LinkedIn ou à @delrey sur X.