Hippocratic AI a annoncé une collaboration avec NVIDIA pour développer des agents de soins de santé empathiques - alimentés par la plate-forme NVIDIA AI - permettant des interactions conversationnelles à très faible latence.

Les tests effectués par les utilisateurs ont montré à plusieurs reprises qu'une interaction vocale à très faible latence est nécessaire pour que les patients puissent établir une connexion émotionnelle de manière naturelle. Comme les LLM fonctionnent sur des moteurs d'inférence, Hippocratic AI a appelé cette inférence à faible latence : "l'inférence empathique". Les agents de santé de l'IA sont construits sur le modèle de langage large (LLM) axé sur la sécurité d'Hippocratic, le premier conçu spécifiquement pour les soins de santé.

Les systèmes de santé, les payeurs, les entreprises de santé numérique et les sociétés pharmaceutiques déploient les agents de santé d'Hippocratic AI pour compléter leur personnel humain et effectuer des tâches à faible risque, non diagnostiques, en contact avec les patients par téléphone. Lors de la NVIDIA GTC, conférence mondiale des développeurs d'IA, Hippocratic AI et NVIDIA ont présenté la solution avec la suite de technologies NVIDIA Avatar Cloud Engine, qui donne vie à des humains numériques grâce à l'IA générative. Hippocratic AI travaille avec NVIDIA pour développer une plate-forme d'inférence à très faible latence pour alimenter les cas d'utilisation en temps réel.

Selon les recherches menées par Hippocratic AI, chaque demi-seconde d'amélioration de la vitesse d'inférence augmente de 5 à 10 %, voire plus, la capacité des patients à établir un lien émotionnel avec les agents de santé de l'IA. Par exemple, à la question "Avez-vous senti que cette IA se souciait de vous ?", plus de 1002 infirmières américaines licenciées jouant le rôle de patients ont répondu oui dans 84,3 % des cas lorsque l'inférence était supérieure à 3 secondes, mais dans 88,2 % des cas lorsque l'inférence était de 2,2 secondes.

À la question "Vous sentez-vous à l'aise pour vous confier à cette IA ?", les personnes interrogées ont répondu par l'affirmative dans 80,1 % des cas lorsque le temps d'inférence de bout en bout était supérieur à 3 secondes, mais dans 88,9 % des cas lorsqu'il était de 2,2 secondes. Dans le cadre de cette collaboration, Hippocratic AI continuera à s'appuyer sur la pile d'inférence à faible latence de NVIDIA et améliorera les capacités de l'IA conversationnelle en utilisant les modèles NVIDIA Riva pour la reconnaissance automatique de la parole et la traduction texte-parole.

Les deux sociétés adapteront également les modèles au domaine médical. Hippocratic AI s'appuiera sur les microservices NVIDIA NIM pour déployer ces nouvelles capacités de modèles d'IA afin d'optimiser les performances et d'accélérer le rythme de l'innovation. De plus, Hippocratic AI utilise les GPU NVIDIA H100 Tensor Core pour soutenir le développement et la livraison de son LLM et de ses solutions pour les patients.

La société a annoncé que ses agents de santé IA génératifs ont surpassé GPT-4 et LLaMA2 70B Chat sur un grand nombre de critères de sécurité. Ces résultats positifs sont le fruit de l'approche unique en trois parties d'Hippocratic AI en matière de sécurité, comprenant : (1) un modèle primaire 70B-100B formé à l'aide d'un contenu basé sur des preuves ; (2) une nouvelle architecture en constellation avec de multiples modèles totalisant plus d'un trillion de paramètres, dans laquelle le LLM primaire est supervisé par de multiples modèles de soutien spécialisés afin d'améliorer la précision médicale et de réduire considérablement les hallucinations (plus d'informations sur cette architecture dans l'article d'Hippocratic) ; (3) des garde-fous intégrés qui font intervenir un superviseur humain en cas de besoin. Hippocratic a engagé plus de 40 partenaires bêta pour mener des tests internes rigoureux de ses premiers agents de santé IA, qui se concentrent sur la gestion des soins chroniques, le coaching en matière de bien-être, l'évaluation des risques de santé, les enquêtes sur les déterminants sociaux de la santé, la sensibilisation préopératoire et le suivi après la sortie de l'hôpital.