El parlamento de la Unión Europea (UE) ha aprobado este miércoles el primer conjunto de leyes en el mundo para regular la inteligencia artificial (IA). Se prevé que la ley actúe como un referente para otros gobiernos sobre el tema.
La legislación aprobada por votación plenaria es el resultado de una propuesta presentada por primera vez en el 2021, previo al lanzamiento de ChatGPT. La histórica ley impactará la manera en la que empresas de Europa utilizan la IA, desde instituciones de salud hasta órganos policiacos.
La Ley de IA de la UE divide la tecnología en categorías de riesgo, que van desde “inaceptable” (que conllevaría la prohibición de su uso) hasta alto, medio y bajo riesgo. Entre usos “inaceptables” de la IA se encuentran iniciativas que buscaban interpretar las emociones de las personas en escuelas y lugares de trabajo.
Los usos de IA catalogados como “alto riesgo” — usualmente aquellos involucrados en la educación, la contratación y el acceso a servicios gubernamentales—, serán sujetos a obligaciones particulares y restricciones. Esto significa que cuanto más riesgosa se considere una aplicación de IA, enfrentará un proceso más estricto de aprobación.
¿Qué dice la ley sobre la IA generativa?
De acuerdo a las nuevas normas, las imágenes y contenidos deepfake generados por IA deberán ser explícitamente etiquetados como “manipulados artificialmente”. La UE dice estar preocupada de que pueda “causar accidentes graves o ser utilizados indebidamente para ataques cibernéticos de gran alcance”. También temen que la IA generativa podría crear “sesgos dañinos” que afecten a muchas personas.
El reglamento entrará en vigor a finales de mayo, después de pasar revisiones finales y recibir el apoyo del Consejo Europeo. Su implementación será gradual durante el 2025.
Aunque se suponía que la nueva ley tendría como objetivo abordar las preocupaciones sobre los posibles riesgos que representaría la tecnología, la legislación ha sido criticada por “dar prioridad al interés de la industria y de los organismos encargados de hacer cumplir la ley por encima de proteger a las personas y sus derechos humanos”, dijo Mher Hakobyan, asesor de Amnistía Internacional para el trabajo de incidencia sobre la regulación de la inteligencia artificial.
“La Ley de IA ofrece sólo unas protecciones limitadas a las personas afectadas y marginadas. No prohíbe el uso temerario ni la exportación de draconianas tecnologías de IA al mismo tiempo que tampoco garantiza una protección igual a las personas migrantes, refugiadas y solicitantes de asilo”, añadió que la legislación carece de estipulaciones sobre la rendición de cuentas y transparencia, lo que podría exacerbar los abusos contra los derechos humanos.
“Los países no pertenecientes a la UE deberían aprender de la incapacidad de la Unión para regular adecuadamente las tecnologías de IA y no deben ceder a las presiones de la industria tecnológica”, concluyó.
Te podría interesar: Estas mujeres intentaron advertirnos sobre la IA
