La presión pública sobre el Gobierno para que tomara medidas aumentó después de que OpenAI admitiera que no informó a la policía sobre los inquietantes mensajes de ChatGPT enviados por el sospechoso del incidente ocurrido en febrero. El proyecto de ley propone la creación de un nuevo organismo regulador digital y seguiría los pasos de Australia al prohibir el uso de redes sociales a menores de 16 años.
La nueva agencia exigiría que los chats de inteligencia artificial reduzcan el riesgo de que los usuarios busquen contenidos nocivos e incluyan protocolos de intervención en crisis si se abordan temas como el suicidio o las autolesiones.
Sin embargo, la legislación ha recibido críticas por su falta de detalle, las dificultades para evitar vacíos legales preservando al mismo tiempo la privacidad y el dilatado calendario previsto para la puesta en marcha de las medidas.
«Si este es el anticipo de una ley, no tengo grandes esperanzas de que sea algo útil desde un punto de vista práctico», afirmó Evan Light, profesor asociado de la Universidad de Toronto especializado en tecnología y privacidad.
Light se mostró sorprendido por el escaso desarrollo del proyecto de ley y añadió que las restricciones al uso de internet podrían eludirse fácilmente mediante redes privadas virtuales —que ocultan las direcciones de internet de los usuarios— u otros métodos.
La oficina del ministro de Identidad y Cultura de Canadá, Marc Miller, no respondió de inmediato a una solicitud de comentarios sobre este asunto.
En una rueda de prensa celebrada el miércoles para presentar el proyecto, Miller señaló la necesidad de equilibrar la preocupación por la privacidad con los esfuerzos para regular las redes sociales y el uso de chats de inteligencia artificial. Asimismo, puntualizó que la ley propuesta no se aplica a aplicaciones de mensajería privada como WhatsApp o Signal. También indicó que las empresas que cumplan los criterios establecidos por el nuevo regulador podrían obtener una exención de la prohibición de redes sociales.
El ministro recordó que Canadá ha sido testigo de las trágicas consecuencias de los peligros en la red, citando el tiroteo en Tumbler Ridge, Columbia Británica. La cuenta de ChatGPT del sospechoso, de 18 años, había sido marcada internamente por contenido violento por OpenAI, pero nunca se notificó a las autoridades policiales.
Miller afirmó que la compañía «cometió un error humano atroz» y que el Gobierno está tomando medidas para que las redes sociales y los chats de inteligencia artificial sean «más seguros desde su diseño».
OpenAI no respondió a una solicitud de comentarios, aunque la empresa ya se había disculpado anteriormente por no haber alertado a las autoridades canadienses.
Una lista cada vez mayor de gobiernos en Europa, Brasil y varios estados de Estados Unidos está impulsando nuevos requisitos de verificación de edad tanto para redes sociales como para chats de inteligencia artificial y proveedores de pornografía.
Un portavoz de Meta señaló en un correo electrónico que las prohibiciones de redes sociales son «contraproducentes» y que la compañía está evaluando las implicaciones del proyecto de ley propuesto.
Por su parte, un portavoz de Google, propietaria de YouTube, declaró que la empresa se compromete a colaborar con el Gobierno para establecer estándares de seguridad más elevados, de modo que los padres puedan elegir experiencias en línea más seguras para sus hijos. Un portavoz de TikTok afirmó que la plataforma ya cuenta con más de 50 ajustes de seguridad y privacidad, y que los padres pueden utilizar la función de «Sincronización Familiar» para gestionar la experiencia de sus hijos adolescentes.
Responsables gubernamentales han indicado que la aprobación del proyecto de ley podría demorarse un año, y que serían necesarios otros 18 meses para poner en marcha el regulador digital una vez ratificada la norma.
Florian Martin-Bariteau, director del Centro de Derecho, Tecnología y Sociedad de la Universidad de Ottawa, advirtió de que es probable que los menores logren eludir la prohibición de las redes sociales y las restricciones de los chats de inteligencia artificial.
Desde que entró en vigor la prohibición en Australia, la agencia reguladora encargada de su cumplimiento informó de que un número sustancial de menores de 16 años todavía mantiene sus cuentas activas.
«El marco propuesto los desplazará hacia plataformas más pequeñas y arriesgadas», señaló Martin-Bariteau, añadiendo que, si bien las normas para las grandes plataformas podrían aplicarse, sería virtualmente imposible para Canadá bloquear sitios web más pequeños que no cumplan la normativa. «Al intentar proteger a los niños, en realidad podríamos estar exponiéndolos a un riesgo mayor».
Elige MarketScreener 
