Los compromisos de los proveedores sanitarios y los pagadores siguen a los de 15 empresas líderes en IA, entre ellas Google, OpenAI y Microsoft, socio de OpenAI, para desarrollar modelos de IA de forma responsable.

El gobierno de Biden está presionando para establecer parámetros en torno a la IA a medida que ésta gana rápidamente en capacidad y popularidad, mientras que la regulación sigue siendo limitada.

"La administración está tirando de todas las palancas que tiene para hacer avanzar la IA responsable en los campos relacionados con la salud", dijo el funcionario de la Casa Blanca, añadiendo que la IA tiene un enorme potencial para beneficiar a pacientes, médicos y personal hospitalario, si se gestiona de forma responsable.

Biden emitió una orden ejecutiva el 30 de octubre que exige a los desarrolladores de sistemas de IA que planteen riesgos para la seguridad nacional, la economía, la salud pública o la seguridad de Estados Unidos que compartan los resultados de las pruebas de seguridad con el gobierno antes de darlos a conocer al público.

Entre los proveedores que han firmado los compromisos se encuentran Oscar, Curai, Devoted Health, Duke Health, Emory Healthcare y WellSpan Health, según informó el funcionario de la Casa Blanca en un comunicado.

"Debemos permanecer vigilantes para hacer realidad la promesa de la IA de mejorar los resultados sanitarios", dijo el funcionario. "Sin las pruebas adecuadas, la mitigación de riesgos y la supervisión humana, las herramientas habilitadas para la IA que se utilizan para tomar decisiones clínicas pueden cometer errores que son costosos en el mejor de los casos, y peligrosos en el peor".

En ausencia de una supervisión adecuada, los diagnósticos realizados por la IA pueden estar sesgados en función del sexo o la raza, sobre todo cuando la IA no se entrena con datos representativos de la población a la que se utiliza para tratar, señaló el funcionario.

Los principios en los que se basa el plan de la administración exigen que las empresas informen a los usuarios siempre que reciban contenidos generados en gran medida por la IA y no revisados o editados por personas, y que supervisen y aborden los daños que puedan causar las aplicaciones.

Las empresas que firmen los compromisos se comprometen a desarrollar los usos de la IA de forma responsable, incluyendo soluciones que fomenten la equidad sanitaria, amplíen el acceso a la atención sanitaria, hagan que la atención sea asequible, coordinen la atención para mejorar los resultados, reduzcan el agotamiento de los médicos y mejoren de otro modo la experiencia de los pacientes.