- La profesora y vicedecana de la Facultad de Derecho, Empresa y Ciencias Políticas, M. Luisa Mena, ha participado como ponente en el curso «La Justicia en la era de la inteligencia artificial II», organizado por el Consejo General del poder Judicial (CGPJ) en el Pazo de Mariñán (A Coruña)
- Su intervención ha analizado las exigencias de legalidad, transparencia y supervisión humana en el uso de sistemas de IA en la Administración de Justicia
María Luisa Mena, vicedecana de Derecho de la Facultad de Derecho, Empresa y Ciencias Políticas de la CEU UCH, ha participado como ponente en la Escuela de Verano del Poder Judicial, organizada por el Consejo General del Poder Judicial (CGPJ). Su intervención tuvo lugar en el curso «La Justicia en la era de la inteligencia artificial II», celebrado este mes de julio en el Pazo de Mariñán (A Coruña).
Su ponencia, titulada «Principios aplicables a la IA en el ámbito judicial: legalidad, transparencia y supervisión humana», ha analizado las garantías que deben orientar la incorporación de sistemas de inteligencia artificial a la Administración de Justicia. La intervención comenzó delimitando qué debe entenderse jurídicamente por inteligencia artificial y diferenciándola del software ordinario, de los sistemas basados en reglas y de otras herramientas digitales utilizadas habitualmente en el ámbito judicial.
Mena examinó el marco normativo aplicable, con especial atención al Reglamento Europeo de Inteligencia Artificial, su enfoque basado en el riesgo y su interacción con las normas de protección de datos. La ponencia explicó por qué determinados sistemas utilizados para apoyar la interpretación de hechos y normas, la valoración de pruebas o la aplicación del Derecho a casos concretos se consideran sistemas de alto riesgo, debido a su posible impacto sobre la tutela judicial efectiva, el derecho de defensa, la presunción de inocencia, la igualdad de las partes y la independencia judicial.
La intervención se centró después en tres exigencias fundamentales. En primer lugar, la legalidad, que obliga a comprobar no solo que el sistema cumple formalmente el Reglamento de IA, sino también que su uso concreto es compatible con el Derecho aplicable y con los derechos fundamentales. En segundo lugar, la transparencia, entendida como la disponibilidad de información suficiente para comprender las capacidades, limitaciones y papel real del sistema, diferenciándola de la explicación y de la motivación jurídica de las resoluciones. Finalmente, la supervisión humana, que exige que quienes utilizan estas herramientas puedan interpretar sus resultados, cuestionarlos, corregirlos, rechazarlos o interrumpir su funcionamiento cuando resulte necesario.
