ServiceNow a annoncé l'extension de son partenariat avec NVIDIA pour faire progresser l'utilisation de l'IA générative d'entreprise (GenAI). ServiceNow est l'un des premiers fournisseurs de plate-forme à accéder aux microservices d'inférence NVIDIA NIM, permettant un développement et un déploiement plus rapides, évolutifs et rentables de grands modèles de langage (LLM). Annoncés aujourd'hui par NVIDIA à la GTC, les NIM font partie des nouveaux microservices GenAI créés pour optimiser l'inférence dans les LLM. ServiceNow utilise les NIM pour servir ses LLM Now - des LLM spécifiques à un domaine qui alimentent les capacités de l'entreprise.

Les LLM spécifiques à un domaine qui alimentent les capacités de Now Assist, l'expérience d'IA générative de ServiceNow. Les LLM Now déployés par NIM permettront aux clients de ServiceNow d'étendre l'IA générative à de nouveaux cas d'utilisation. NVIDIA et ServiceNow ont annoncé leur partenariat initial pour développer de puissantes capacités d'IA générative de niveau entreprise en mai 2023.

Depuis, les deux sociétés ont lancé des programmes tels que AI Lighthouse pour accélérer le développement et l'adoption de GenAI ; elles ont fourni de nouvelles innovations industrielles basées sur GenAI telles que Now Assist pour la gestion des services de télécommunications (TSM) ; et elles ont collaboré avec des leaders technologiques tels que Hugging Face et la Big Code Community sur StarCoder2, une famille de LLM en accès libre pour la génération de code qui établit de nouvelles normes en matière de performance, de transparence et de rentabilité. NVIDIA utilise également ServiceNow Now Assist pour rationaliser ses opérations informatiques et améliorer l'expérience de ses employés grâce à des capacités conversationnelles qui leur permettent de résoudre eux-mêmes leurs problèmes. ServiceNow continue d'améliorer son portefeuille d'IA générative en pleine expansion afin que les entreprises puissent apporter la puissance de GenAI à n'importe quel département, l'étendre rapidement à d'autres parties de l'entreprise et accélérer la valeur des dépenses d'IA.

Les cas d'utilisation internes de GenAI chez ServiceNow permettent de réaliser des économies et d'augmenter la productivité. Par exemple, dans les 120 premiers jours d'utilisation de Now Assist, ServiceNow prévoit d'économiser des millions de dollars par an grâce à l'amélioration du libre-service et à un taux de résolution des incidents de 54 % avec GenAI pour les problèmes liés aux employés. De plus, ServiceNow a constaté un taux d'acceptation de la génération de code de 48% en interne avec GenAI sur la plate-forme ServiceNow.

Les microservices d'inférence NVIDIA NIM sont déjà intégrés dans le LLM de Now et disponibles pour tous les clients de ServiceNow ayant installé Now Assist.