El Consejo de Europa ha adoptado un acto legislativo innovador encaminado a armonizar las normas sobre inteligencia artificial, el denominado Reglamento de Inteligencia Artificial. Este acto legislativo emblemático adopta un enfoque basado en el riesgo, lo que significa que cuanto mayor sea el riesgo de causar daños a la sociedad, más estrictas serán las normas. Es el primero de este tipo en el mundo, por lo que puede convertirse en un referente mundial por lo que respecta a la regulación de la IA.
El nuevo Reglamento tiene por objetivo fomentar el desarrollo y la adopción de sistemas de IA seguros y fiables en todo el mercado único de la UE por parte de agentes tanto públicos como privados. Al mismo tiempo, está encaminado a garantizar el respeto de los derechos fundamentales de los ciudadanos de la UE y a estimular la inversión y la innovación en inteligencia artificial en Europa. El Reglamento de IA solo se aplica a los ámbitos regulados por el Derecho de la UE. Además, establece exenciones aplicables, por ejemplo, a los sistemas utilizados exclusivamente con fines militares y de defensa o con fines de investigación.
Mathieu Michel, secretario de Estado de Digitalización, encargado de Simplificación Administrativa, Protección de la Vida Privada y del Instituto de la Propiedad Inmobiliaria Pública de Bélgica, ha asegurado que «la adopción del Reglamento de Inteligencia Artificial es un hito de gran importancia para la Unión Europea. Este acto legislativo histórico —el primero de este tipo en el mundo— aborda un reto tecnológico mundial que, al mismo tiempo, crea oportunidades para nuestras sociedades y nuestras economías. Con el Reglamento de Inteligencia Artificial, Europa hace hincapié en la importancia de la confianza, la transparencia y la rendición de cuentas a la hora de abordar las nuevas tecnologías y, al mismo tiempo, garantiza que esta tecnología en rápida evolución pueda prosperar e impulsar la innovación europea.
Mathieu Michel, secretario de Estado de Digitalización, encargado de Simplificación Administrativa, Protección de la Vida Privada y del Instituto de la Propiedad Inmobiliaria Pública de Bélgica
Clasificación de los sistemas de IA como de alto riesgo y prácticas de IA prohibidas
El nuevo Reglamento clasifica los distintos tipos de inteligencia artificial en función del riesgo. Los sistemas de IA que presenten un riesgo limitado estarán sujetos a unas obligaciones de transparencia muy leves, mientras que los sistemas de IA de alto riesgo estarán autorizados, pero deberán cumplir una serie de requisitos y obligaciones para acceder al mercado de la UE. Los sistemas de IA diseñados para la manipulación cognitiva conductual o para otorgar una puntuación ciudadana estarán prohibidos en la UE, ya que se considera que presentan un riesgo inaceptable. También se prohíbe el uso de la IA para actuaciones policiales predictivas basadas en la elaboración de perfiles y de sistemas que utilizan datos biométricos para clasificar a las personas en función de categorías específicas como la raza, la religión o la orientación sexual.
Modelos de IA de uso general
El Reglamento de IA también aborda el uso de modelos de IA de uso general.
Los modelos de IA de uso general que no planteen riesgos sistémicos solo estarán sujetos a algunos requisitos, por ejemplo, relativos a la transparencia, pero los que presenten riesgos sistémicos tendrán que cumplir normas más estrictas.
Una nueva estructura de gobernanza
A fin de garantizar un cumplimiento adecuado del Reglamento, se crean varios órganos de gobierno:
una oficina de IA dentro de la Comisión, a fin de garantizar el cumplimiento de las normas comunes en toda la UE;
un grupo de expertos científicos independientes, a fin de apoyar las actividades de garantía del cumplimiento;
un Comité de IA, conformado por representantes de los Estados miembros, para asesorar y asistir a la Comisión y a los Estados miembros en la aplicación coherente y eficaz del Reglamento de IA;
un foro consultivo para que las partes interesadas proporcionen conocimientos técnicos al Comité de IA y a la Comisión.
Sanciones
Las multas por infracciones del Reglamento de Inteligencia Artificial corresponderán a un porcentaje del volumen de negocios anual mundial de la empresa infractora en el ejercicio financiero anterior o tendrán un importe predeterminado, si esta cuantía fuese superior. Las pymes y las empresas emergentes están sujetas a multas administrativas proporcionales.
Transparencia y protección de los derechos fundamentales
Será necesario evaluar las repercusiones en los derechos fundamentales antes de que algunas entidades que prestan servicios públicos desplieguen un sistema de IA de alto riesgo. El Reglamento también prevé un refuerzo de la transparencia en relación con el desarrollo y el uso de sistemas de IA de alto riesgo. Los sistemas de IA de alto riesgo, así como determinados usuarios de un sistema de IA de alto riesgo que sean entidades públicas, tendrán que están registrados en la base de datos de la UE para sistemas de IA de alto riesgo, y los usuarios de un sistema de reconocimiento de emociones tendrán que informar a las personas físicas cuando estén expuestas a dicho sistema.
Medidas de apoyo a la innovación
El Reglamento de IA establece un marco jurídico favorable a la innovación y tiene por objeto promover un aprendizaje normativo basado en datos contrastados. Además, prevé que los espacios controlados de pruebas para la IA, que proporcionan un entorno controlado para desarrollar, probar y validar sistemas de IA innovadores, también sirvan para probar sistemas de IA innovadores en condiciones reales.