Persistent Systems a annoncé le lancement de GenAI Hub, une plateforme innovante conçue pour accélérer la création et le déploiement d'applications d'IA générative (GenAI) au sein des entreprises. Cette plateforme s'intègre de manière transparente à l'infrastructure, aux applications et aux données existantes d'une organisation, permettant le développement rapide de solutions GenAI personnalisées et spécifiques à l'industrie. GenAI Hub soutient l'adoption de la GenAI à travers différents modèles de langage (LLM) et clouds, sans dépendance vis-à-vis d'un fournisseur.

Pour exploiter efficacement le potentiel de la GenAI et traduire les idées en résultats commerciaux tangibles, les entreprises doivent l'intégrer de manière transparente dans leurs systèmes existants. Avec un large éventail de modèles d'IA allant de l'étendu au spécialisé, les clients ont besoin d'une plateforme robuste comme le GenAI Hub. Cette plateforme simplifie le développement et la gestion de plusieurs modèles de GenAI, accélérant la mise sur le marché grâce à des composants logiciels préconstruits, tout en respectant les principes de l'IA responsable. Le GenAI Hub est composé de cinq éléments principaux : Playground est un outil sans code permettant aux experts du domaine d'explorer et d'appliquer la GenAI avec des LLM sur des données d'entreprise sans avoir besoin de compétences en programmation.

Il fournit une interface unique et uniforme pour les LLM de fournisseurs privés comme Azure OpenAI, AWS Bedrock, et Google Gemini, et les modèles ouverts de Hugging Face comme LLaMA2 et Mistral. Agents Framework fournit une architecture polyvalente pour le développement d'applications GenAI, en s'appuyant sur des bibliothèques telles que LangChain et LlamaIndex pour des solutions innovantes, y compris Retrieval Augmented Generation (RAG). Le cadre d'évaluation utilise une approche d'"IA pour valider l'IA" et peut générer automatiquement des questions de vérité de base à vérifier par un humain dans la boucle.

Il utilise des métriques pour suivre les performances de l'application et mesure toute dérive et tout biais qui peuvent être corrigés. Gateway sert de routeur entre les LLM, permettant la compatibilité des applications et améliorant la gestion des priorités de service et l'équilibrage de la charge. Il offre également des informations détaillées sur la consommation de jetons et les coûts associés.

Custom Model Pipelines facilite la création et l'intégration de LLM et de Small Language Models (SLM) sur mesure dans l'écosystème GenAI, en soutenant un processus rationalisé pour la préparation des données et la mise au point des modèles, adapté aux déploiements dans le nuage et sur site. Le GenAI Hub rationalise le développement des cas d'utilisation pour les entreprises, en offrant des conseils étape par étape et une intégration transparente des données dans les LLM, permettant la création rapide de solutions GenAI efficaces et sécurisées à l'échelle, que ce soit pour les utilisateurs finaux, les clients ou les employés.