Panticosa es un paraíso situado en pleno pirineo de Huesca, a 1.636 metros de altitud. Sus habitantes son los panticutos. El panticuto es también la variedad dialectal del aragonés que se habla allí en ocasiones esporádicas. Un lugar magnífico para el recogimiento, la reflexión profunda y el debate científico. Así, cada inicio del verano, Chema Gimeno Feliú convoca a su amplia escuela de seguidores para discutir sobre los principales temas de la contratación pública. Dejamos constancia de ello en 2022, un seminario audaz y entrañable a la vez, como son los aragoneses. Después, tras el duro aprendizaje, somete a los mejores a una esforzada subida a la montaña donde sólo unos pocos demuestran estar al nivel exigido en ambas facetas.

Un modelo de Universidad de verano tradicional, donde el líder impone la excelencia, con autoexigencia máxima. Chema saca tiempo para escribir (prensa, revistas, libros, el observatorio …) pero no olvida su importante responsabilidad como promotor de iniciativas, con el seminario de Panticosa como magnífico ejemplo de hacer universidad y mantener una red unida. La siguiente actividad será en Sevilla para octubre, como informaremos oportunamente.

Este año, los panticutos prepararon un programa (académico) con asuntos de alto interés. Se desarrollo entre el 18 y 20 de junio, dentro de las actividades del grupo de investigación ADESTER (Derecho Administrativo de la Economía, la Sociedad y el Territorio), financiado por el Fondo Europeo de Desarrollo Regional (FEDER) y el Departamento de Ciencia, Universidad y Sociedad del Conocimiento del Gobierno de Aragón, integrada asimismo en las actividades de la Cátedra Contratación Pública Local (Unizar-Ayuntamiento de Zaragoza) y Cátedra proyectos e inversiones estratégicas en Aragón (DGA).

Las presentaciones están disponibles para consulta.

Interesante ha sido la ponencia de Patricia Valcarcel Fernández, Catedrática de Derecho Administrativo Universidad de Vigo, sobre Contratación pública e Inteligencia Artificial (IA), pues buena parte de los sistemas de IA en el sector público se compran, lo que apunta cierta tensión entre la confidencialidad del algoritmo y el interés público.

Esto nos lleva al problema de “la imposición al contratísta de cláusulas muy exigentes conlleva el riesgo de disuadir a licitadores de participar, reduciendo la concurrencia. Incluso puede suponer incremento del coste de transacción para la Administración, ya que, si para evitar eventuales conflictos se pretende adquirir en exclusiva la propiedad intelectual de un sistema algorítmico, el contratista no va a poder ofrecerlo en el mercado, lo que encarecerá la operación”.

Especial hincapié hizo Patricia en la necesidad de realizar auditorías algorítimicas y de las aplicaciones de inteligencia artificial basadas en aprendizaje automático y evaluar si su uso contribuye a lograr unos servicios públicos eficientes y eficaces, de conformidad con normativa, como las efectuadas en algunos países europeos, que ya comentamos en su momento. Recordó el mandato del artículo 41.2 d ela Ley 40/2015, RJSP, en caso de actuación administrativa automatizada.

P. Valcarcel: «Las auditorías algorítmicas sistémicas deben ser un elemento básico en el campo de la gobernanza algorítmica. No son perfectas o suficientes, pero es el mejor de los remedios disponibles».

Trajo a colación el reciente documento (febrero 2024) de RED.es que sugiere “combinar el conocimiento puramente tecnológico con enfoques provenientes de disciplinas como el derecho, la sociología, la ciencia política, la psicología, la filosofía, etc., para así abordar el impacto de los sistemas algorítmicos teniendo en cuenta todas las aristas posibles”. Supone apostar por un ecosistema de rendición de cuentas algorítmico.

Sobre el mismo asunto insistió Eduardo Gamero, que en su ponencia, recordó que el Art.14 RIA exige vigilancia humana obligatoria en sistemas de alto riesgo: todos los que supongan acceso a prestaciones o servicios públicos. Por suerte existen variadas Guías para contratación de IA, que apuntó en su presentación.

En este sentido, los muy cafeteros tenemos la oportunidad de profundizar en el libro “Inteligencia artificial y sector público. Retos, límites y medios” (Director: Eduardo Gamero Casado, Coordinador: Francisco L. Pérez Guerrero) que reúne a especialistas en la materia con el fin de determinar el marco jurídico al que se sujeta la aplicación de soluciones de IA en el sector público. Los autores proceden tanto del ámbito académico y científico, como profesionales involucrados en el diseño e implantación de sistemas de IA, combinando así todas las dimensiones necesarias para el provechoso análisis de la problemática desde el profundo conocimiento que cada uno de ellos ostenta en la materia.

Comentaremos otras ponencias más adelante, para dejar constancia de un seminario donde los ponentes suelen abrir su charla diciendo que se sienten “en familia” en Panticosa. Un lujo.