El laboratorio de inteligencia artificial OpenAI está formando un nuevo equipo para crear procesos democráticos que den forma a cómo debe gobernarse su software de IA para abordar los sesgos y otros factores, según informó el martes la empresa respaldada por Microsoft en una entrada de su blog.

El equipo de "Alineación Colectiva" es la continuación del trabajo de un programa de subvenciones para financiar experimentos de procesos democráticos que se anunció en mayo de 2023, dijo la empresa con sede en San Francisco. El programa concluyó recientemente.

"A medida que seguimos persiguiendo nuestra misión hacia modelos superinteligentes que potencialmente podrían ser vistos como partes integrales de nuestra sociedad... es importante dar a la gente la oportunidad de aportar directamente", dijo a Reuters Tyna Eloundou, ingeniera de investigación y miembro fundador del nuevo equipo de OpenAI.

Para garantizar, por ejemplo, que sólo los humanos puedan votar, OpenAI podría asociarse con Worldcoin, un proyecto de criptomoneda fundado por el director ejecutivo de OpenAI, Sam Altman, que proporciona una forma de diferenciar entre humanos y robots de IA, dijo Teddy Lee, un director de producto que es el otro miembro del equipo de dos personas.

Lee señaló que el equipo aún no ha hecho planes concretos para integrar Worldcoin.

Desde que OpenAI lanzó a finales de 2022 ChatGPT, la tecnología de IA generativa capaz de hilar una prosa increíblemente autoritaria a partir de indicaciones de texto ha cautivado al público, convirtiendo el programa en una de las aplicaciones de más rápido crecimiento de todos los tiempos.

Sin embargo, preocupa la capacidad de la IA para crear imágenes "deepfake" y otro tipo de desinformación, especialmente a medida que se acerca la campaña electoral estadounidense de 2024. Los críticos afirman que los sistemas de IA como ChatGPT tienen un sesgo inherente debido a las entradas utilizadas para dar forma a sus puntos de vista, y los usuarios han encontrado ejemplos de salidas racistas o sexistas del software de IA.

El nuevo equipo de OpenAI está buscando activamente contratar a un ingeniero de investigación y a un científico de investigación, dijo Eloundou. El equipo trabajará en estrecha colaboración con el equipo de "Datos Humanos" de OpenAI, que construye la infraestructura para recoger las aportaciones humanas a los modelos de IA de la empresa, y con otros equipos de investigación. (Reportaje de Anna Tong en San Francisco; Edición de Paul Simao)