En un par de entradas de blog que se publicarán el miércoles, el Centro Nacional de Ciberseguridad británico (NCSC, por sus siglas en inglés) afirma que los expertos aún no han llegado a comprender los posibles problemas de seguridad ligados a los algoritmos que pueden generar interacciones que suenen humanas, apodados grandes modelos de lenguaje o LLM (por sus siglas en inglés).

Estas herramientas potenciadas por la IA están viendo un uso incipiente como chatbots que algunos prevén que desplacen no sólo las búsquedas en Internet, sino también el trabajo de atención al cliente y las llamadas de ventas.

Según el NCSC, esto podría entrañar riesgos, sobre todo si dichos modelos se integraran en los procesos empresariales de otras organizaciones. Académicos e investigadores han encontrado repetidamente formas de subvertir los chatbots alimentándolos con comandos deshonestos o engañándolos para que eludan sus propios guardarraíles incorporados.

Por ejemplo, un chatbot con IA desplegado por un banco podría ser engañado para que realizara una transacción no autorizada si un pirata informático estructurara su consulta de la forma adecuada.

"Las organizaciones que crean servicios que utilizan LLM deben tener cuidado, del mismo modo que lo tendrían si estuvieran utilizando un producto o una biblioteca de código que estuviera en fase beta", señaló el NCSC en una de las entradas de su blog, refiriéndose a las versiones experimentales de software.

"Es posible que no permitan que ese producto participe en la realización de transacciones en nombre del cliente, y es de esperar que no confíen plenamente en él". Una precaución similar debería aplicarse a los LLM".

Las autoridades de todo el mundo están lidiando con el auge de los LLM, como ChatGPT de OpenAI, que las empresas están incorporando a una amplia gama de servicios, incluidos los de ventas y atención al cliente. Las implicaciones de la IA para la seguridad también están saliendo a la luz, y las autoridades de EE.UU. y Canadá afirman que han visto cómo los piratas informáticos han adoptado esta tecnología.