Exclusive-ByteDance prévoit un nouveau modèle d’IA entraîné avec des puces Huawei, selon des sources

(Reuters) – La société mère chinoise de TikTok, ByteDance, prévoit de développer un modèle d’IA entraîné principalement avec des puces de son compatriote Huawei Technologies, ont déclaré trois personnes proches du dossier, alors que les restrictions américaines renvoient le géant des médias sociaux chez lui à la recherche de puces.

ByteDance s’est diversifié auprès des fournisseurs nationaux de puces utilisées dans l’intelligence artificielle et a accéléré son propre développement depuis que les États-Unis ont commencé en 2022 à restreindre les exportations de puces d’IA avancées, comme celles du leader du marché Nvidia.

L’IA est devenue centrale dans l’industrie technologique avec des entreprises dans des secteurs aussi variés que les jeux et le commerce électronique qui différencient leurs offres grâce à l’intégration de modèles d’IA personnalisés – des programmes qui utilisent la reconnaissance de formes pour prendre des décisions.

La prochaine étape de ByteDance dans la course à l’IA consiste à utiliser la puce Ascend 910B de Huawei pour former un modèle d’IA en grand langage, ont déclaré les sources, refusant d’être identifiées car le plan est confidentiel.

Une quatrième personne a également déclaré que ByteDance prévoyait un nouveau modèle d’IA, mais n’a pas pu dire s’il utiliserait des puces Huawei.

ByteDance utilise déjà l’Ascend 910B principalement pour des tâches d’inférence moins gourmandes en calcul, qui impliquent des modèles d’IA pré-entraînés faisant des prédictions, ont déclaré les trois personnes et une source distincte.

La formation des modèles d’IA est beaucoup plus exigeante et nécessite d’énormes quantités de données, ce qui nécessite l’utilisation de puces ultra-performantes telles que les unités de traitement graphique haut de gamme de Nvidia.

La capacité et la complexité du nouveau modèle, mesurées par ses paramètres de calcul, seront moins puissantes que le modèle d’IA existant de ByteDance, Doubao, a déclaré l’une des personnes.

ByteDance n’a pas répondu à une demande de commentaire. Michael Hughes, porte-parole de TikTok à Washington DC, a déclaré, s’exprimant au nom de ByteDance : « Toute la prémisse ici est fausse. Aucun nouveau modèle n’est en cours de développement ».

Huawei n’a pas répondu aux demandes de commentaires de Reuters.

APPROVISIONNEMENT SERRÉ

ByteDance a commandé plus de 100 000 puces Ascend 910B cette année, mais en a reçu moins de 30 000 en juillet, un rythme trop lent pour répondre aux besoins de l’entreprise, a déclaré l’une des sources.

L’offre limitée et la puissance de calcul limitée par rapport aux puces Nvidia disponibles en Chine ont empêché ByteDance de fixer un calendrier pour le nouveau modèle, ont déclaré deux des personnes.

La technologie d’IA actuelle de ByteDance est utilisée dans son modèle phare en grand langage lancé en août 2023 et rebaptisé chatbot Doubao, ainsi que dans de nombreuses autres applications, notamment un outil de conversion texte-vidéo Jimeng. Il a présenté ce mois-ci deux modèles Doubao axés sur la vidéo pour concurrencer OpenAI.

L’utilisation de ces applications a explosé depuis le début de cette année, le chatbot de ByteDance étant devenu l’une des applications les plus populaires de Chine avec plus de 10 millions d’utilisateurs actifs par mois.

L’accent accru mis sur l’IA a fait de ByteDance l’un des plus gros acheteurs de puces IA de Huawei, ont déclaré les trois personnes.

Il s’agit également du plus gros acheteur de la puce H20 AI de Nvidia, que le fabricant américain de puces a adaptée au marché chinois en réponse aux restrictions commerciales, ont déclaré deux personnes. Le propriétaire de TikTok est également le plus gros client de Microsoft en Asie pour les puces Nvidia accessibles via le cloud computing, ont indiqué deux sources distinctes.

Reuters avait précédemment rapporté que ByteDance avait alloué 2 milliards de dollars aux puces Nvidia l’année dernière.

Nvidia a refusé de commenter. Microsoft n’a pas répondu à une demande de commentaire.

(Reportage de l’équipe de Reuters ; édité par Miyoung Kim et Christopher Cushing)