Amdocs ha desvelado avances significativos en sus esfuerzos por impulsar la adopción de la IA generativa en el sector de las telecomunicaciones, que mueve 1,7 billones de dólares, en colaboración con NVIDIA. La última fase de esta colaboración ha logrado avances significativos hacia verdaderas productivas a escala de operador que abarcan la latencia, la precisión y el consumo de tokens. Amdocs ha trabajado en estrecha colaboración con NVIDIA para integrar el servicio de fundición de IA de pila completa de NVIDIA: una colección de modelos NVIDIA AI Foundation, el marco y las herramientas NVIDIA NeMo?

framework y herramientas, y NVIDIA DGX? Cloud que proporciona a las empresas una solución integral para crear modelos de IA generativa personalizados- con la plataforma de IA generativa de Amdocs, amAIz. La colaboración se ha centrado en el aprovechamiento de la IA generativa para transformar las experiencias de los clientes y ofrecer eficiencia operativa.

Amdocs aprovechó NVIDIA DGX? Cloud para probar y ajustar múltiples modelos, al tiempo que utilizaba los microservicios NIM de NVIDIA, una parte de la plataforma de software NVIDIA AI Enterprise, para implantar rápidamente modelos de inferencia escalables y sin fisuras con API estándar del sector. En los proyectos conjuntos de GenAI que utilizan la taxonomía telco y la experiencia en IA generativa de Amdocs, el trabajo de colaboración ha logrado: Reducción de los costes de explotación: La generación aumentada por recuperación (RAG) de telecomunicaciones de Amdocs en la infraestructura NVIDIA ha permitido reducir los tokens consumidos para los casos de uso desplegados hasta en un 60% en el preprocesamiento de datos y en un 40% en la inferencia, ofreciendo el mismo nivel de precisión con un coste por token significativamente inferior en función de las diversas influencias y volúmenes utilizados.

Mejoras en la latencia: La colaboración ha logrado reducir la latencia de las consultas en aproximadamente un 80%, garantizando que los usuarios finales experimenten respuestas casi en tiempo real. Esta aceleración mejora las experiencias de los usuarios a través del comercio, la atención, las operaciones y más allá. Mejoras en la precisión: El compromiso también ha proporcionado aumentos notables en la precisión de las respuestas generadas por IA, mejorando la precisión de las respuestas hasta en un 30%.

Este tipo de mejora es fundamental para lograr una adopción generalizada en el sector de las telecomunicaciones y satisfacer las demandas de los servicios de IA generativa directa al consumidor.