Microsoft publie un aperçu des bibliothèques d’intégration d’IA pour .NET

La semaine dernière, Microsoft a annoncé la version préliminaire de deux bibliothèques : Microsoft.Extensions.AI.Abstractions et Microsoft.Extensions.AI. Ces packages, appelés Unified AI Building Blocks, fournissent à l’écosystème .NET des abstractions essentielles pour l’intégration de services d’intelligence artificielle (IA) dans les applications et bibliothèques .NET, ainsi qu’un middleware pour améliorer les fonctionnalités clés.

Comme indiqué dans l’annonce originale, il est développé en collaboration avec la communauté .NET, notamment Noyau sémantiqueces bibliothèques offrent une couche unifiée d’abstractions C#. Ils encouragent l’interaction avec les services d’IA tels que les modèles de langage petits et grands (SLM et LLM), les intégrations et les middlewares.

Dans l’annonce officielle, Microsoft a déclaré :

Actuellement, notre objectif est de créer des abstractions qui peuvent être implémentées par divers services, tous adhérant aux mêmes concepts de base. Nous n’avons pas l’intention de publier des API adaptées aux services d’un fournisseur spécifique. Notre objectif est d’agir comme une couche unificatrice au sein de l’écosystème .NET, permettant aux développeurs de choisir leurs frameworks et bibliothèques préférés tout en garantissant une intégration et une collaboration transparentes dans l’ensemble de l’écosystème.

(Diagramme d’architecture Microsoft.Extensions.AI, source : DevBlog officiel de Microsoft)

Points forts de Microsoft plusieurs avantagescomme les bibliothèques offrant une abstraction d’API unifiée pour les services d’IA, similaire aux abstractions de journalisation et d’injection de dépendances de l’entreprise comme expliqué, l’objectif est de fournir des implémentations standard pour la mise en cache, la télémétrie, l’appel d’outils et d’autres tâches courantes qui fonctionnent avec n’importe quel fournisseur. , fournissant des API et des conventions cohérentes.

Les bibliothèques offrent de la flexibilité en permettant aux auteurs .NET d’utiliser les services d’IA sans être liés à un fournisseur spécifique. Ils améliorent la facilité d’utilisation en permettant aux développeurs d’expérimenter différents packages en utilisant les mêmes abstractions, en conservant une seule API dans toutes les applications. La modularisation simplifie l’ajout de fonctionnalités et les tests.

De plus, la version préliminaire inclut des implémentations de référence pour OpenAI, Azure AI Inference et Ollama. Microsoft prévoit notamment de collaborer avec les auteurs de packages de l’écosystème .NET pour intégrer ces abstractions dans les bibliothèques clientes, éliminant ainsi le besoin de packages supplémentaires. La société encourage les développeurs qui gèrent des bibliothèques clientes .NET pour les services d’IA à implémenter ces abstractions.

Concernant l’avenir, Microsoft déclare son intention de continuer à publier les bibliothèques en avant-première, espérant qu’elles le resteront jusqu’à la version .NET 9 en novembre au fur et à mesure qu’elles seront disponibles. recueillir des commentaires. Les plans à court terme incluent une collaboration avec Semantic Kernel sur l’intégration, la mise à jour des échantillons comme eShop pour utiliser les bibliothèques et travailler avec les développeurs sur l’adoption.

De plus, pour un avenir proche, l’équipe de développement met l’accent sur les points suivants :

Travaillez avec tous les acteurs de l’écosystème .NET sur l’adoption de Microsoft.Extensions.AI. Plus les fournisseurs implémentent les abstractions, plus les consommateurs les utilisent, et plus les composants middleware sont construits, plus tous les éléments deviennent puissants.

Commentaires de la communauté sur la version préliminaire a été globalement positif, les développeurs exprimant leur enthousiasme et leur curiosité pour les nouvelles bibliothèques. Certains ont remis en question le raisonnement derrière le nom de l’espace de noms Microsoft.Extensions.AI et je me suis demandé si des alternatives comme Microsoft.Extensions.LLM a été envisagé, compte tenu de l’accent mis sur les grands modèles de langage.

D’autres souhaitent comprendre les avantages spécifiques que le package pourrait apporter aux architectures existantes qui utilisent déjà ML automatique. Les versions F# des bibliothèques sont également attendues, les développeurs étant impatients de leur sortie. De plus, des éclaircissements ont été demandés (et confirmés) sur la question de savoir si les bibliothèques fonctionnent avec la bibliothèque Azure OpenAI pour .NET, notant que les développeurs peuvent utiliser AzureOpenAIClient au lieu de OuvrirAIClient.

Pour les lecteurs intéressés, des instructions détaillées sur la façon de démarrer avec les packages Microsoft.Extensions.AI sont disponibles dans le Article du blog officiel de Microsoft.