Robust Intelligence anunció una asociación con MongoDB para ayudar a los clientes a asegurar de forma exhaustiva y eficiente los modelos de IA generativa mejorados con datos empresariales. La oferta combina el cortafuegos de IA en tiempo real de Robust Intelligence con la búsqueda vectorial Atlas de MongoDB para obtener una solución preparada para la empresa que permite la innovación responsable. Los recientes avances en IA generativa han motivado a las empresas a experimentar con aplicaciones potenciales, pero la falta de controles de seguridad, éticos y operativos puede haber expuesto a las empresas a un riesgo no gestionado.

Este reto se agrava cuando se utiliza información sensible de la empresa para enriquecer modelos preentrenados, como la conexión de bases de datos vectoriales, con el fin de aumentar la relevancia para el usuario final. La asociación tecnológica entre Robust Intelligence y MongoDB ayuda a resolver estos retos. Los clientes pueden conectar con confianza la búsqueda vectorial Atlas de MongoDB a cualquier modelo de lenguaje de gran tamaño (LLM) comercial o de código abierto para una generación aumentada de la recuperación sabiendo que el cortafuegos de IA de Robust Intelligence está validando las entradas y salidas.

Esto proporciona protección en tiempo real contra la inyección puntual, la extracción de PII, la alucinación y muchos otros riesgos. A través de la integración, los clientes también podrán pasar los registros del AI Firewall a MongoDB para almacenar datos históricos. Esto puede utilizarse para identificar ataques de seguridad avanzados que a menudo se manifiestan a través de un grupo de puntos de datos en lugar de un único punto de datos, como el envenenamiento de datos y la extracción de modelos.