La proposición de IA de la Unión Europea: implicaciones y cambios clave
Objetivos y motivaciones principales
Para la Unión Europea, la Inteligencia Artificial tiene 2 vertientes principales, que tenemos que comprender para conocer el significado de esta nueva propuesta.
De un lado, para la UE, la IA es un “conjunto de tecnologías de rápida evolución que puede generar un amplio abanico de beneficios económicos y sociales en todos los sectores y las actividades sociales”
Sin embargo, la Unión Europea destaca al mismo tiempo que “los mismos elementos y técnicas que potencian los beneficios socioeconómicos de la IA también pueden dar lugar a nuevos riesgos o consecuencias negativas para personas concretas o la sociedad en su conjunto”.
En estas dos reflexiones, podemos encontrar el fundamento principal que trata de conseguir la Unión Europea con su nueva regulación: encontrar un equilibrio.
Sin bien es cierto que las tecnologías basadas en Inteligencia Artificial pueden llevar a la mejora de la predicción, la optimización de las operaciones y de la asignación de los recursos y la personalización de la prestación de servicios, facilitando la consecución de resultados positivos desde el punto de vista social y medioambiental y proporcionando ventajas competitivas esenciales a las empresas y la economía europea, existirán siempre una serie de factores de riesgo que deberemos tener en cuenta.
En este contexto social y empresarial, donde la Inteligencia Artificial tiene cada vez más presencia en nuestras vidas y en las de prácticamente todas las empresas, la Comisión propone un marco reglamentario sobre inteligencia artificial con los siguientes objetivos específicos:
- Garantizar que los sistemas de IA introducidos y usados en el mercado de la UE sean seguros y respeten la legislación vigente en materia de derechos fundamentales y valores de la Unión.
- Garantizar la seguridad jurídica para facilitar la inversión e innovación en IA.
- Mejorar la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y los requisitos de seguridad aplicables a los sistemas de IA.
- Facilitar el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de las aplicaciones de IA y evitar la fragmentación del mercado.
Una vez se definen estos objetivos, la UE nos dice que con el fin principal de alcanzarlos, la propuesta presenta un enfoque basado en el equilibrio y la proporcionalidad, limitándose a establecer una serie de requisitos mínimos necesarios para subsanar riesgos y problemas relacionados con la IA, pero sin llegar en ningún caso a obstaculizar ni a impedir el debido desarrollo tecnológico ni aumentar de manera desproporcionada el coste de introducir soluciones basadas en IA.
Con todos estos objetivos e ideales presentes en la propuesta, también se establece un claro enfoque basado en el riesgo al que haremos alusión a continuación, que no impone restricciones y que se adapta a las situaciones concretas, creando un marco jurídico con mecanismos flexibles, que permitan también adaptarse de manera “dinámica” a medida que la tecnología evolucione o surjan nuevas situaciones que tengan el potencial de suscitar preocupaciones.
Un enfoque basado en el riesgo y especial mención a las “prácticas prohibidas”
Como hemos venido adelantando anteriormente, el enfoque que toma la UE en su nueva propuesta es un enfoque basado en el riesgo.
Teniendo en cuenta que la utilización de la Inteligencia Artificial puede tener repercusiones negativas para los derechos fundamentales que se contienen en la Carta de los Derechos Fundamentales de la Unión Europea, y dadas las particulares características de la IA como su complejidad, opacidad o dependencia de datos, se quiere garantizar un elevado nivel de protección de los derechos fundamentales, al mismo tiempo que se hace frente a fuentes de riesgo tomando un enfoque basado en los mismos.
Derechos tales como el derecho a la dignidad humana (artículo 1), el respeto a la vida privada y familiar y la protección de datos de carácter personal (artículos 7 y 8), la no discriminación (artículo 21) o la igualdad efectiva entre hombres y mujeres (artículo 23), el objetivo principal de la propuesta será evitar intromisiones en estos derechos, así como se reconoce que la propuesta tiene ciertas restricciones a derechos tales como la libertad de empresa, aunque “con vistas a garantizar que se respeten los fines imperiosos de interés general relacionados con ámbitos como la salud, la seguridad, la protección de los consumidores y la protección de otros derechos fundamentales («innovación responsable») cuando se desarrolle y utilice tecnología de IA de alto riesgo”, siendo en todo caso proporcionadas y limitadas a lo que resulte necesario para prevenir y reducir riesgos graves para la seguridad y violaciones de derechos fundamentales.
El Reglamento distingue entre los usos de la IA que generan
i) un riesgo inaceptable
ii) un riesgo alto,
iii) un riesgo limitado
iv) un riesgo mínimo
Dentro de estos riesgos, se incluye en la propuesta lo que vienen a denominarse prácticas prohibidas que figura en el título II, y que viene a abarcar todos los sistemas de IA cuyo uso se considera inaceptable por ser contrario a los valores de la Unión, por ejemplo, porque violan derechos fundamentales.
Las prohibiciones engloban aquellas prácticas que tienen un gran potencial para manipular a las personas mediante técnicas subliminales que trasciendan su consciencia o que aprovechan las vulnerabilidades de grupos vulnerables concretos, como los menores o las personas con discapacidad, para alterar de manera sustancial su comportamiento de un modo que es probable que les provoque perjuicios físicos o psicológicos a ellos o a otras personas.
La propuesta prohíbe igualmente que las autoridades públicas realicen calificación social basada en IA con fines generales, así como también se prohíbe, salvo excepciones limitadas, el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley.
Con todo ello, la propuesta tiene el objetivo de fortalecer de manera considerable el papel de la UE como ayuda a conformar las normas globales y promover una IA fiable que esté en consonancia con los valores e intereses de la Unión, otorgando a la Unión unos sólidos cimientos para un diálogo de mayor calado con sus socios externos, en particular con terceros países, y en foros internacionales sobre cuestiones relacionadas con la IA.
Sus implicaciones y el futuro de la IA estará por ver.
No Comments