Ética, gobernanza y marco normativo de la IA en la universidad

La inteligencia artificial (IA) constituye una de las innovaciones tecnológicas más relevantes y disruptivas del siglo XXI. Su capacidad para procesar grandes volúmenes de información, aprender de los datos y realizar tareas que tradicionalmente requerían intervención humana ha favorecido su rápida implantación en sectores como la salud, la educación, la industria, las finanzas, el transporte o la administración pública. El desarrollo reciente de sistemas avanzados de aprendizaje automático y de modelos generativos ha incrementado aún más su impacto, convirtiendo a la IA en un elemento estratégico para el crecimiento económico, la competitividad y la transformación digital de las sociedades contemporáneas.

No obstante, el avance de estas tecnologías también ha generado importantes interrogantes sobre sus implicaciones éticas, sociales y jurídicas. La creciente utilización de sistemas automatizados en procesos de toma de decisiones plantea desafíos relacionados con:

• la protección de la privacidad
• la transparencia algorítmica
• la discriminación por sesgos en los datos
• la responsabilidad por daños causados por sistemas autónomos
• y la preservación de derechos fundamentales como la igualdad, la libertad o la dignidad humana.

En consecuencia, el debate sobre la inteligencia artificial ha trascendido el ámbito estrictamente tecnológico para convertirse en una cuestión de interés público que afecta a gobiernos, empresas, instituciones académicas y ciudadanía.

En este contexto, la ética de la inteligencia artificial emerge como una disciplina fundamental para orientar el diseño, desarrollo y aplicación de estas tecnologías conforme a principios y valores que garanticen el bienestar humano. Conceptos como la equidad, la justicia, la responsabilidad, la transparencia, y la supervisión humana han adquirido una relevancia creciente en la literatura científica y en las iniciativas impulsadas por organismos internacionales. La finalidad de la ética aplicada a la IA no consiste únicamente en identificar riesgos potenciales, sino también en promover un desarrollo tecnológico alineado con los derechos humanos y los principios democráticos.

Junto a la dimensión ética, la gobernanza de la inteligencia artificial se ha convertido en un elemento esencial para gestionar los efectos de esta tecnología en la sociedad y, en particular, en las misiones que tiene hoy en día la universidad. La gobernanza engloba el conjunto de normas, instituciones, mecanismos de supervisión y procesos de coordinación destinados a garantizar un uso responsable de la IA. Dado el carácter global de estas tecnologías y la diversidad de actores implicados en su desarrollo y utilización, resulta necesario establecer modelos de gobernanza capaces de equilibrar la innovación tecnológica con la protección de los intereses públicos. En este sentido, la cooperación entre gobiernos, organizaciones internacionales, empresas tecnológicas y sociedad civil desempeña un papel clave en la construcción de marcos de confianza que permitan aprovechar los beneficios de la IA minimizando sus riesgos.

La necesidad de establecer reglas claras ha impulsado la creación de diversos marcos normativos a nivel internacional. Entre las iniciativas más relevantes destacan las recomendaciones sobre ética de la inteligencia artificialpromovidas por organismos internacionales y, especialmente, el papel desempeñado por la Unión Europea en la regulación de esta tecnología. La estrategia europea se caracteriza por un enfoque centrado en las personas y en la protección de los derechos fundamentales, buscando compatibilizar la innovación con la seguridad jurídica y la confianza social.

En este marco adquiere una especial relevancia el Reglamento de Inteligencia Artificial de la Unión Europea (AI Act), considerado la primera regulación integral sobre inteligencia artificial de alcance general en el mundo. Esta normativa establece un enfoque basado en el riesgo, clasificando los sistemas de IA según el nivel de amenaza que puedan representar para las personas y la sociedad. De este modo, se imponen obligaciones más estrictas a aquellas aplicaciones consideradas de alto riesgo, al tiempo que se prohíben determinadas prácticas incompatibles con los valores fundamentales de la Unión Europea. El AI Act constituye un hito regulatorio que puede servir de referencia para futuras legislaciones internacionales y representa un ejemplo significativo de cómo abordar los desafíos derivados de la expansión de la inteligencia artificial.

Sin embargo, la regulación de la IA plantea importantes desafíos. Por una parte, es necesario garantizar que las normas sean suficientemente rigurosas para proteger a los ciudadanos frente a posibles abusos o vulneraciones de derechos. Por otra, también debe evitarse que una regulación excesivamente restrictiva limite el desarrollo tecnológico, la investigación y la competitividad de las empresas europeas frente a otros mercados globales. El equilibrio entre innovación, seguridad y respeto a los derechos fundamentales constituye, por tanto, uno de los principales retos de las políticas públicas en materia de inteligencia artificial. En el marco de la educación superior este equilibrio es particularmente importante.

A la luz de estas consideraciones, el estudio de la ética, la gobernanza y el marco normativo de la inteligencia artificial resulta imprescindible para comprender los desafíos y oportunidades asociados a una tecnología llamada a desempeñar un papel central en el futuro de las sociedades modernas y por ende de las universidades y sus misiones. Analizar los principios éticos que deben orientar su desarrollo, los mecanismos de gobernanza que facilitan su supervisión y los instrumentos jurídicos que regulan su utilización permite abordar de forma crítica y fundamentada los impactos de la IA en los distintos ámbitos de la vida social.

El presente seminario tiene como objetivo examinar estas cuestiones desde una perspectiva interdisciplinar, prestando especial atención al contexto europeo y al nuevo marco regulatorio establecido por la Unión Europea. A través del análisis de los principales debates éticos, de los modelos de gobernanza existentes y de las disposiciones normativas más relevantes, se pretende ofrecer una visión integral que contribuya a comprender cómo la inteligencia artificial puede desarrollarse de manera responsable, transparente y respetuosa con los derechos fundamentales, favoreciendo así una innovación tecnológica sostenible y al servicio de la sociedad.

En esta cuarta sesión contaremos con la presencia de José Capilla Romá, rector de la Universitat Politècnica de València e Isabelle Hupont Torres, Asesora Científica del Gabinete del Ministerio de Ciencia, Innovación y Universidades.

Coordinadores del ciclo

Rafael Puyol

Catedrático de Geografía Humana, y Doctor Honoris Causa por 7 universidades de América Latina. Ha sido rector de la Universidad Complutense de Madrid, de la que en la actualidad sigue siendo rector honorario. En la actualidad es el presidente de la Universidad Internacional de la Rioja (UNIR).

José Manuel Pingarrón

Director del ciclo “Buenas prácticas de la universidad española en la implementación de la IA generativa” en UNIR. Catedrático de Química Analítica en la Universidad Complutense de Madrid desde 1994, ha sido secretario general de Universidades entre 2018 y 2024. Licenciado en Ciencias Químicas y Doctor en Ciencias por la Universidad Complutense de Madrid. Profesor Visitante en la Universidad de Cornell, EE.UU. y estancia postdoctoral en l’École Nationale Supérieure de Chimie de París.

Rubén González Crespo

Vicerrector de Organización y Planificación Académica en UNIR. Catedrático de Ciencias de la Computación e Inteligencia Artificial. Asesor del Ministerio de Educación, de España y de Colombia, en el ámbito universitario. Doctor Ingeniero en Ingeniería Informática e Ingeniero en Ingeniería en Organización Industrial por la Universidad Pontificia de Salamanca. Máster en Dirección y Gestión de Proyectos y Máster en Ingeniería Web por la misma universidad. Diplomado en Estudios Internacionales por la Sociedad de Estudios Internacionales.

Ciclos de seminarios del profesor Pingarrón

Ciclo III:  Buenas prácticas de la universidad española en la implementación de la IA generativa

• Sesión 3. 17 de septiembre de 2026. La inteligencia artificial en la investigación universitaria
• Sesión 2. 18 de junio de 2026. Inteligencia artificial y aseguramiento de la calidad
• Sesión 1. 12 de mayo de 2026. Inteligencia artificial en la docencia universitaria

Ciclo II:  La universidad pública ante los retos sociales

• Sesión 5.  11 de diciembre de 2025. Las limitaciones de las universidades públicas para el cumplimiento de sus objetivo
• Sesión 4. 13 de noviembre de 2025. La propuesta de la universidad pública para el estudiantado
• Sesión 3.  27 de octubre de 2025. ¿Cómo está implementado la universidad pública la IA?
• Sesión 2 . 8 de septiembre de 2025. Nuevos modelos de aprendizaje en la universidad pública: Valor añadido de la presencialidad y el papel de la enseñanza híbrida
• Sesión 1.  18 de julio de 2025. Globalización frente al impacto local: la cooperación interuniversitaria en la universidad pública

Ciclo I:  Cooperación interuniversitaria: Creando alianzas para la universidad que llega

• Sesión 5. 30 de mayo de 2025 – Interconexión entre universidades: herramientas y procedimientos digitales conjuntos
• Sesión 4. 09 de abril de 2025 – Hacia un modelo iberoamericano similar al de las alianzas europeas
• Sesión 3. 12 de marzo de 2025 – Cooperación interuniversitaria a nivel internacional: el caso iberoamericano
• Sesión 2. 13 de febrero de 2025 – Alianzas universitarias para una investigación y transferencia de conocimiento más potentes
• Sesión 1. 16 de enero de 2025 – Cooperación interuniversitaria entre universidades españolas para diseñar planes de estudio conjuntos