Durante semanas, los legisladores de Washington se han debatido sobre qué leyes aprobar para controlar la IA, incluso cuando empresas grandes y pequeñas se han apresurado a introducir en el mercado una IA cada vez más versátil.
En una entrada de blog publicada el jueves, Smith hizo hincapié en la necesidad de rendir cuentas.
"Se trata de la necesidad fundamental de garantizar que las máquinas sigan estando sujetas a una supervisión eficaz por parte de las personas y que las personas que diseñan y manejan las máquinas sigan siendo responsables ante todos los demás. En resumen, debemos asegurarnos siempre de que la IA permanezca bajo control humano", escribió.
Como parte de un plan de cinco puntos para la gobernanza pública de la IA, Smith instó a prestar especial atención a la red eléctrica, los sistemas de abastecimiento de agua y otras infraestructuras críticas. "Nuevas leyes obligarían a los operadores de estos sistemas a incorporar por diseño frenos de seguridad en los sistemas de IA de alto riesgo", escribió en el blog.
Instó a utilizar un sistema al estilo de "Conozca a su cliente" para que los desarrolladores de potentes modelos de IA controlen cómo se utiliza su tecnología e informen al público de los contenidos que crea la IA para que puedan identificar los vídeos falsos.
La semana pasada, Sam Altman, consejero delegado de OpenAI, la startup que está detrás de ChatGPT, declaró ante un panel del Senado en su primera comparecencia ante el Congreso que el uso de la inteligencia artificial para interferir en la integridad de las elecciones es un "área significativa de preocupación", y añadió que necesita una regulación.
Altman, cuya OpenAI está respaldada por Microsoft, también pidió una cooperación mundial en materia de IA e incentivos para el cumplimiento de las normas de seguridad.
Algunas propuestas que se están estudiando en el Capitolio se centrarían en la IA que puede poner en peligro la vida o el sustento de las personas, como en medicina y finanzas. Otros presionan para que se establezcan normas que garanticen que la IA no se utiliza para discriminar o violar los derechos civiles.
La preocupación ha dado lugar a una avalancha de reuniones, incluida una visita a la Casa Blanca este mes de los directores ejecutivos de OpenAI, Microsoft y Alphabet Inc. El presidente Joe Biden se reunió con los CEO.
