El Prof. Dr. Moisés Barrio Andrés es un destacado experto en el ámbito jurídico y tecnológico, con una trayectoria en el entorno digital que se remonta a 1992, cuando (¡con 11 años!) fundó una empresa de venta online y uno de los primeros proveedores de Internet de España. Doctor en 2016 por la Universidad Carlos III de Madrid, con una tesis sobre Internet y derecho público, codirige la Revista Aranzadi LA LEY de Derecho Digital e Innovación. En la actualidad es Letrado del Consejo de Estado y Profesor de Derecho Digital sisendo un reconocido experto nacional e internacional en regulación. Es un autor Prolífico. Ha escrito 23 libros sobre su especialidad y ha dirigido otros 9. Entre sus obras recientes destacan el «Manual de Derecho Digital» (4.ª edición), «Claves Prácticas: Reglamento UE de inteligencia artificial» y la dirección de «Comentarios al Reglamento Europeo de Inteligencia Artificial».
Además de su labor profesional, mantiene una presencia activa en el ámbito académico y de divulgación a través de su sitio web oficial ( moisesbarrio.es ) y redes sociales ( @moisesbarrioa ). Sus publicaciones más recientes de 2024 y 2026 abordan temas críticos como el «Efecto Bruselas» en la regulación de la IA y la seguridad de las redes 5G.
Innovar con seguridad: El equilibrio europeo entre la tecnología y el Estado de Derecho
Moises ofreció una brillante exposición en la jornada sobre transformación digital de la Administración que organizó el viernes pasado la Fundación de la Universidad de Salamanca. Presentado por el vicerrector de transferencia, innovación y emprendimiento, Federico Bueno de la Mata, catedrático de derecho procesal y especialista en la materia, ya desde su tesis doctoral sobre Acompañaba la mesa el magistrado leonés Alfonso Pérez Conesa, administrativista especializado en las implicaciones jurídicas de la tecnología.
La ponencia presentó cuatro partes.
1. Contexto y Propiedades de la IA
La IA se caracteriza por propiedades disruptivas como la autonomía y el autoaprendizaje. Ante este escenario, han surgido tres modelos regulatorios principales a nivel global: el de Estados Unidos, el de China y el de la Unión Europea, este último centrado en la excelencia y la confianza. Además de los conocidos modelos de IA generativa (LLMs), se refirió a los más recientes desarrollos de IA “agéntica”, sistemas capaces de comportarse de forma autónoma. ¿Llevarán a cabo la actuación más conveniente para los usuarios –el “traje que mejor nos queda”, en la metáfora del profesor Barrio– o para sus desarrolladores y fabricantes?
2. El Marco Jurídico Europeo: El Reglamento de IA (RIA)
El eje central de la regulación es el Reglamento (UE) 2024/1689 (AI Act), que busca mejorar el mercado interior, promover una IA fiable y centrada en el ser humano, y garantizar un alto nivel de protección de los derechos fundamentales. El RIA adopta un enfoque basado en el riesgo, clasificando los sistemas en cuatro niveles:
- Riesgo inaceptable: Prácticas prohibidas por suponer manipulación, engaño o vigilancia masiva (ej. social scoring o identificación biométrica remota en tiempo real en espacios públicos).
- Alto riesgo: Sistemas regulados ex ante que afectan a infraestructuras críticas, educación, empleo o aplicación de la ley.
- Riesgo limitado: Sujetos a obligaciones de transparencia (ej. chatbots o deepfakes).
- Riesgo mínimo: Sin obligaciones específicas (ej. filtros de spam).
El RIA tendrá una aplicación escalonada: las prohibiciones entraron en vigor el 2 de febrero de 2025, las normas de gobernanza en agosto de 2025 y la mayor parte del reglamento en agosto de 2026, si bien la reforma denominada “Omnibus Digital”, en fase de aprobación, pospone las obligaciones para sistemas de IA de alto riesgo hasta el 2 de diciembre de 2027 (para sistemas autónomos) y el 2 de agosto de 2028 (para IA integrada en productos regulados). También introduce una nuevo prohibición del uso de IA para generar material de abuso sexual infantil e imágenes íntimas no consensuadas, con fecha límite de cumplimiento 2 de diciembre de 2026.
3. El Marco Jurídico en España
España ha complementado la normativa europea con instrumentos propios:
- Carta de Derechos Digitales (2021): Establece el derecho a la no discriminación algorítmica y a la supervisión humana.
- Ley 15/2022: Impone a las administraciones públicas la transparencia en el diseño de algoritmos para evitar sesgos discriminatorios.
- Proyecto de Ley Orgánica para el buen uso y gobernanza de la IA: complementa el RIA en materia sancionadora, biometría en tiempo real y designación de autoridades de control.
4. IA en el Sector Público y Herramientas Jurídicas
La transformación digital en la Administración es una urgencia que requiere garantizar la auditabilidad, transparencia y explicabilidad de las decisiones automatizadas. En el ámbito profesional, se destaca el uso de herramientas de IA jurídica (aquí ofreció un panorama de los diversos productos comerciales) para mejorar el rigor en la búsqueda de jurisprudencia, doctrina y análisis documental, siempre manteniendo al humano en el proceso (human in the loop).
En conclusión, la regulación busca un equilibrio entre el fomento de la innovación y la seguridad jurídica, asegurando que la IA sea una herramienta para el bien común y el respeto al Estado de Derecho.
Deja un comentario