Amdocs a dévoilé des avancées significatives dans ses efforts pour propulser l'adoption de l'IA générative dans le secteur des télécommunications qui pèse 1,7 trillion de dollars, en collaboration avec NVIDIA. La dernière phase de cette collaboration a permis de réaliser des progrès significatifs vers une véritable production à l'échelle de l'opérateur couvrant la latence, la précision et la consommation de jetons. Amdocs a travaillé en étroite collaboration avec NVIDIA pour intégrer le service complet de fonderie d'IA de NVIDIA - une collection de modèles NVIDIA AI Foundation, le cadre et les outils NVIDIA NeMo ?

et les outils de NVIDIA NeMo, ainsi que le cloud NVIDIA DGX ? Cloud qui apporte aux entreprises une solution de bout en bout pour créer des modèles d'IA générative personnalisés - avec la plate-forme d'IA générative d'Amdocs, amAIz. La collaboration s'est concentrée sur l'exploitation de l'IA générative pour transformer les expériences des clients et apporter une efficacité opérationnelle.

Amdocs s'est appuyé sur NVIDIA DGX ? Cloud pour tester et mettre au point plusieurs modèles, tout en utilisant les microservices NVIDIA NIM, qui font partie de la plate-forme logicielle NVIDIA AI Enterprise, pour déployer rapidement des modèles pour une inférence transparente et évolutive avec des API standard. Dans les projets GenAI conjoints utilisant la taxonomie telco d'Amdocs et l'expertise en IA générative, le travail collaboratif a permis d'atteindre les objectifs suivants : Diminution des coûts d'exploitation : La génération RAG (retrieval-augmented generation) d'Amdocs sur l'infrastructure NVIDIA a permis de réduire les jetons consommés pour les cas d'utilisation déployés de 60 % dans le prétraitement des données et de 40 % dans l'inférence, offrant le même niveau de précision avec un coût par jeton nettement inférieur en fonction des différentes influences et des volumes utilisés.

Amélioration du temps de latence : La collaboration a permis de réduire le temps de latence des requêtes d'environ 80 %, garantissant aux utilisateurs finaux des réponses en temps quasi réel. Cette accélération améliore l'expérience des utilisateurs dans les domaines du commerce, des soins, des opérations et au-delà. Amélioration de la précision : L'engagement a également permis d'améliorer de façon notable la précision des réponses générées par l'IA, jusqu'à 30 %.

Ce type d'amélioration est essentiel pour parvenir à une adoption généralisée par l'industrie des télécommunications et pour répondre aux exigences des services d'IA générative directement destinés aux consommateurs.