Cloudera ha anunciado la ampliación de su colaboración con NVIDIA. Cloudera Powered by NVIDIA integrará los microservicios NVIDIA NIM de nivel empresarial, parte de la plataforma de software NVIDIA AI Enterprise, en Cloudera Machine Learning, un servicio de Cloudera Data Platform para flujos de trabajo de IA/ML, con el fin de ofrecer flujos de trabajo de IA generativa rápidos, seguros y simplificados de extremo a extremo en producción. Los datos empresariales, combinados con una plataforma integral optimizada para grandes modelos lingüísticos (LLM), desempeñan un papel fundamental en el avance de las aplicaciones de IA generativa de una organización desde la fase piloto a la de producción.

Los microservicios NVIDIA NIM y NeMo Retriever permiten a los desarrolladores vincular los modelos de IA a sus datos empresariales -incluidos texto, imágenes y visualizaciones, como gráficos de barras, diagramas de líneas y gráficos circulares- para generar respuestas de gran precisión y relevancia contextual. Los desarrolladores que utilicen estos microservicios pueden implantar las aplicaciones a través de NVIDIA AI Enterprise, que proporciona tiempos de ejecución optimizados para crear, personalizar e implantar LLM de nivel empresarial. Al aprovechar los microservicios de NVIDIA, Cloudera Machine Learning permitirá a los clientes liberar el valor de sus datos empresariales bajo la gestión de Cloudera al llevar flujos de trabajo de IA de alto rendimiento, software de plataforma de IA y computación acelerada a los datos, dondequiera que residan. Cloudera introducirá múltiples integraciones con microservicios NVIDIA.

Cloudera Machine learning integrará el servicio de modelos y aplicaciones potenciado por los microservicios NVIDIA para aumentar el rendimiento de la inferencia de modelos en todas las cargas de trabajo. Con esta nueva funcionalidad de servicio de modelos de IA, los clientes pueden conseguir tolerancia a fallos, servicio de baja latencia y autoescalado para modelos implantados en cualquier lugar, tanto desde nubes públicas como privadas. Además, Cloudera Machine learning ofrecerá microservicios integrados NVIDIA NeMo Retriever para simplificar la conexión de LLM personalizados a los datos de la empresa.

Esta capacidad permitirá a los usuarios crear aplicaciones basadas en la generación aumentada por recuperación (RAG) para su uso en producción. Cloudera ya había trabajado anteriormente con NVIDIA para aprovechar el procesamiento de datos optimizado para la GPU mediante la integración del acelerador NVIDIA RAPIDS para Apache Spark en la plataforma de datos Cloudera. Ahora, con la adición prevista de los microservicios NVIDIA y la integración con NVIDIA AI Enterprise, Cloudera Data Platform ofrecerá de forma única canalizaciones híbridas de IA optimizadas de extremo a extremo.