Hippocratic AI ha anunciado una colaboración con NVIDIA para desarrollar agentes sanitarios de IA empática -impulsados por la plataforma de IA de NVIDIA- que permitan interacciones conversacionales de latencia superbaja.

Las pruebas con usuarios demuestran repetidamente que se necesita una interacción de voz de latencia superbaja para que los pacientes establezcan una conexión emocional de forma natural. Dado que los LLM funcionan con motores de inferencia, Hippocratic AI ha denominado a esta inferencia de baja latencia: "Inferencia de empatía". Los agentes sanitarios de IA se basan en el gran modelo de lenguaje (LLM) centrado en la seguridad de Hippocratic, el primero diseñado específicamente para la atención sanitaria.

Los sistemas sanitarios, los pagadores, las empresas de salud digital y las farmacéuticas despliegan los agentes sanitarios de Hippocratic AI para aumentar su personal humano y completar por teléfono tareas de bajo riesgo, no diagnósticas y orientadas al paciente. En la NVIDIA GTC, una conferencia mundial de desarrolladores de IA, Hippocratic AI y NVIDIA presentaron la solución con el conjunto de tecnologías NVIDIA Avatar Cloud Engine, que da vida a humanos digitales con IA generativa. Hippocratic AI está trabajando con NVIDIA para desarrollar una plataforma de inferencia de latencia superbaja que potencie los casos de uso en tiempo real.

Según una investigación realizada por Hippocratic AI, cada medio segundo de mejora en la velocidad de inferencia aumenta la capacidad de los pacientes para conectar emocionalmente con los agentes sanitarios de IA en un 5-10% o más. Por ejemplo, cuando se les preguntó: "¿Sintió que esta IA se preocupaba por usted?", más de 1002 enfermeras licenciadas estadounidenses que actuaron como pacientes respondieron afirmativamente el 84,3% de las veces cuando la inferencia fue superior a 3 segundos, pero el 88,2% afirmativamente cuando la inferencia fue de 2,2 segundos.

Cuando se les preguntó: "¿Se siente cómodo confiando en esta IA?", los encuestados dijeron que sí el 80,1% cuando el tiempo de inferencia de extremo a extremo era superior a 3 segundos pero el 88,9% cuando era de 2,2 segundos. Como parte de la colaboración, Hippocratic AI seguirá desarrollando la pila de inferencia de baja latencia de NVIDIA y mejorará las capacidades de IA conversacional utilizando los modelos Riva de NVIDIA para el reconocimiento automático del habla y la traducción de texto a voz.

Las empresas también personalizarán los modelos para el ámbito médico. Hippocratic AI aprovechará los microservicios NIM de NVIDIA para implantar estas nuevas capacidades de los modelos de IA con el fin de optimizar el rendimiento y acelerar el ritmo de la innovación. Además, Hippocratic AI utiliza las GPU NVIDIA H100 Tensor Core para respaldar el desarrollo y la entrega de sus soluciones LLM y orientadas al paciente.

La compañía ha anunciado que sus agentes generativos de IA para el cuidado de la salud han superado a GPT-4 y LLaMA2 70B Chat en una serie de pruebas de seguridad. Estos exitosos parámetros de referencia son el resultado del enfoque de seguridad en tres partes exclusivo de Hippocratic AI, que consta de: (1) un modelo primario 70B-100B entrenado utilizando contenidos basados en pruebas; (2) una novedosa arquitectura de constelación con múltiples modelos que suman más de un billón de parámetros, en la que el LLM primario está supervisado por múltiples modelos de apoyo especializados para mejorar la precisión médica y reducir sustancialmente las alucinaciones (más información sobre esta arquitectura en el documento de Hippocratic); (3) barandillas de protección integradas que hacen intervenir a un supervisor humano cuando es necesario. Hippocratic ha contratado a más de 40 socios beta para llevar a cabo rigurosas pruebas internas de sus agentes sanitarios de IA iniciales, que se centran en la gestión de los cuidados crónicos, el asesoramiento para el bienestar, las evaluaciones de los riesgos para la salud, las encuestas sobre los determinantes sociales de la salud, la divulgación preoperatoria y el seguimiento posterior al alta.