Microsoft lance Azure AI Inference SDK pour .NET

Microsoft a lancé Azure AI Inference SDK pour .NET, Optimisation de l’accès aux modèles d’IA génératifs dans le catalogue de modèles Azure AI Studio. Ce catalogue comprend des modèles de fournisseurs tels qu’Azure OpenAI Service, Mistral, Meta, Cohere, NVIDIA et Hugging Face, organisés en trois collections : Curated by Azure AI, Azure OpenAI Models et Open Models from Hugging Face Hub. Les utilisateurs peuvent demander de nouveaux modèles et déployer ceux existants via des solutions informatiques gérées.

Azure AI Inference SDK pour .NET simplifie l’accès aux modèles du catalogue de modèles Azure AI, permettant des tâches d’inférence telles que l’intégration de chat dans les applications.

L’utilisation du SDK Azure AI Inference pour .NET implique plusieurs étapes clés :

1. Configuration de l’application:Création d’une nouvelle application .NET dans un environnement de développement.
2. Installation du SDK: Le Azure.AI.Inference Le SDK peut être installé à partir de NuGet. Cela peut généralement être réalisé via le gestionnaire de packages NuGet, qui permet d’accéder aux fonctionnalités du SDK.
3. Implémentation du code pour les demandes de modèles:Après l’installation, l’étape suivante consiste à incorporer du code qui facilite les requêtes au service modèle.

Azure AI Studio contient un catalogue de modèles qui constitue un hub central pour la découverte et l’utilisation d’une large gamme de modèles pour les applications d’IA génératives. Le catalogue présente des centaines de modèles de divers fournisseurs, notamment Azure OpenAI Service, Mistral, Meta, Cohere, NVIDIA et Hugging Face, ainsi que des modèles développés par Microsoft.

Catalogue de modèles Azure AI Studio (Source : Blog Microsoft)

Le catalogue de modèles Azure AI Studio organise ses offres en trois collections pour un accès plus facile aux modèles d’IA génératifs :

1. Organisé par Azure AI:Cette collection présente des modèles ouverts et propriétaires non Microsoft populaires optimisés pour la plateforme Azure, avec un support fourni par Microsoft dans le cadre du contrat de niveau de service (SLA) applicable.
2. Modèles Azure OpenAI:Ces modèles sont disponibles exclusivement via Azure OpenAI Service et incluent le support Microsoft aligné sur les conditions de produit et les SLA spécifiques.
3. Modèles ouverts depuis Hugging Face Hub:Cette collection comprend des centaines de modèles d’inférence en temps réel, maintenus par Hugging Face, avec un support disponible via leur forum et leurs canaux d’assistance.

Les utilisateurs peuvent également demander l’ajout de nouveaux modèles via un forme désignéefacilitant le développement et le déploiement d’applications d’IA innovantes. De plus, les développeurs ont la possibilité de déployer ces modèles à l’aide de solutions informatiques gérées, notamment des API sans serveur avec une facturation flexible à la carte.

Plus de détails sont disponibles dans le Documentation du catalogue de modèles Azure AI.