AutoAlign ha anunciado que su cortafuegos dinámico Sidecar ya está disponible para proteger modelos de IA de chatbot personalizados a través de NVIDIA NeMo Guardrails, parte de la plataforma NVIDIA NeMo para crear, personalizar e implantar modelos de IA generativa en cualquier lugar. La compañía también ha publicado un libro blanco en el que destaca su éxito en materia de seguridad y protección en los principales LLM. La tecnología Sidecar se ejecuta junto con los LLM y proporciona una seguridad constante al interactuar dinámicamente con los modelos de rápido crecimiento y evolucionar continuamente junto a ellos. Gracias a la tecnología AutoAlign que se ejecuta en NVIDIA NeMo Guardrails, los usuarios pueden seleccionar Sidecar para asegurar modelos de chatbot personalizados y fundacionales, lo que permite a las empresas implantar con confianza una IA generativa potente y segura.

El libro blanco de la compañía muestra que la arquitectura Guardrail de Sidecar mejora la seguridad en modelos como GPT-4 y Claude 3 Haiku. Al desplegar Sidecar con controles de alineación altamente focalizados, GPT-4 bloquea los intentos de fuga del escáner de vulnerabilidades Garak LLM el 100% de las veces, frente al 88,8%, y aumenta la mitigación de la inyección puntual del 14,3% al 100% de seguridad. Del mismo modo, Sidecar mejora la prevención de jailbreak de Claude de una media del 98,3% al 100%, y el manejo de la inyección puntual aumenta drásticamente del 38,4% al 100%.

La compatibilidad de NVIDIA NeMo Guardrails con la tecnología AutoAlign Sidecar ayuda a garantizar que los LLM utilizados para crear aplicaciones de chatbot personalizadas cumplan las rigurosas exigencias de la empresa sin dejar de ser seguros y potentes.