Isabel Alvarez Castro
El seminario, organizado por UNIR, abordó la necesidad de que la universidad sea un agente activo en la definición de las reglas, los principios éticos y los mecanismos de supervisión para la gobernanza de la IA.
La universidad debe asumir un papel activo en la gobernanza de la inteligencia artificial (IA) para garantizar un uso ético y responsable, proteger los derechos fundamentales y preparar a docentes, investigadores y estudiantes para utilizarla correctamente.
Esta es una de las principales conclusiones de la cuarta sesión del ciclo ‘Buenas prácticas de la universidad española en la implementación de la IA generativa’, organizada por la Universidad Internacional de La Rioja (UNIR) y dirigida por José Manuel Pingarrón.
El encuentro contó con la participación de José Capilla Romá, rector de la Universitat Politècnica de València (UPV), e Isabelle Hupont Torres, doctora en IA y asesora científica del Gabinete del Ministerio de Ciencia, Innovación y Universidades.
Los distintos expertos abordaron la necesidad de que las universidades mantengan su capacidad de decisión y supervisión en todas las fases de desarrollo y aplicación de esta tecnología.
Rafael Puyol, presidente de UNIR.
Durante la inauguración del ciclo, el presidente de UNIR y coordinador del seminario, Rafael Puyol, reclamó un marco regulatorio que facilite el uso de la IA en las universidades, especialmente en ámbitos críticos como la evaluación de los estudiantes.
Asimismo, advirtió de la existencia de cierto vacío legal en este ámbito y subrayó que “las instituciones académicas no solo deben utilizar esta tecnología, sino también enseñar a sus estudiantes a emplearla correctamente.”
Puyol recordó que el Reglamento de Inteligencia Artificial de la UE, aprobado en 2024, incluye determinados usos de la IA en la educación entre los ámbitos de alto riesgo, “lo que refuerza la necesidad de incorporar al sector académico a la gobernanza de esta tecnología”.
Además, destacó los seis principios éticos para su aplicación en las universidades: transparencia, equidad y no discriminación, privacidad y protección de datos, integridad académica, autonomía intelectual y supervisión humana. “Principios que deben proteger la capacidad de decisión humana y aplicarse a la docencia, la evaluación, la investigación, la transferencia de conocimiento y la gestión universitaria, mediante marcos normativos adecuados.”
Equilibrio entre innovación, seguridad y derechos fundamentales
Para José Manuel Pingarrón, director del ciclo y secretario general de Universidades (CRUE) entre 2018 y 2024, “la regulación de la inteligencia artificial plantea importantes desafíos”.
José Manuel Pingarrón.
En este sentido, Pingarrón reflexionó sobre la necesidad de “que las normas sean suficientemente rigurosas para proteger a los ciudadanos frente a posibles abusos o vulneraciones de derechos, pero también evitar una regulación restrictiva que limite el desarrollo tecnológico, la investigación y la competitividad de las empresas europeas frente a otros mercados globales.”
Un consenso científico, ético y político para gobernar la IA
Isabelle Hupont defendió durante el encuentro que “solo se podrá hablar de gobernanza cuando exista un consenso que aúne la visión de la comunidad científica, ética y política sobre qué es la IA.”
A este respecto, explicó que la Unión Europea ha establecido una definición legal de la IA, pero que tendrá que matizarse desde los puntos de vista ético y científico. “A partir de ahí se podrán crear guías de buenas prácticas más verticalizadas por sectores.”
Isabelle Hupont Torres.
Hupont también recordó que la gobernanza de los datos forma parte de este proceso y se debe tener en cuenta todo el ciclo de la IA, “desde la creación del algoritmo hasta que es operativa para distintos usos.”
En la misma línea, José Capilla señaló que la resolución de la gobernanza de los datos es un paso previo imprescindible para establecer un marco regulatorio de la IA, ya que “de ello dependerá qué tareas pueden encomendarse a esta tecnología, qué decisiones se pueden tomar y qué principios éticos deben guiar su uso en la universidad.”
A su juicio, “puede que haya cosas que sean legales pero no éticas, por eso la universidad debe trabajar en la gobernanza de la IA.”
La universidad, protagonista del cambio
“No se puede negar que la IA se está usando en todos los ámbitos y ha venido para quedarse. La cuestión no es si permitimos su uso, sino decidir dónde, para qué, quiénes y en qué condiciones pueden utilizarla”, afirmó Hupont.
Capilla defendió que las universidades deben asumir un papel activo en la implementación, el desarrollo y la adaptación de estas tecnologías, e incluso adelantarse a los marcos regulatorios cuando sea necesario, recordando que “la IA proviene de la investigación, del conocimiento.”
José Capilla Romá.
Capilla enfatizó en que el impacto de la IA afecta directamente a las funciones esenciales de la universidad: generar, transmitir y acreditar conocimiento. “Por ello, la integración de estas herramientas exige revisar los resultados de aprendizaje, adaptar los métodos de evaluación y preparar a los estudiantes para utilizarlas con criterio propio”.
En este contexto, el rector de la UPV explicó que las universidades tienen una responsabilidad que va más allá de incorporar herramientas de inteligencia artificial a la docencia, la investigación o la gestión. “Como instituciones dedicadas a generar y transmitir conocimiento, debemos contribuir a evaluar sus efectos, formar profesionales capaces de utilizarlas críticamente e impulsar una reflexión interdisciplinar sobre sus consecuencias”.
Durante el encuentro, Rubén González Crespo, vicerrector de Organización y Planificación Académica de UNIR y coordinador la sesión, puso el foco en la importancia de considerar las distintas intenciones con las que puede desarrollarse y utilizarse esta tecnología.
“La necesidad de establecer mecanismos de gobernanza que orienten el desarrollo de la IA hacia objetivos socialmente beneficiosos y ayuden a prevenir usos perjudiciales. La regulación, por sí sola, debe acompañarse de responsabilidad institucional, supervisión y formación crítica”, apuntó el vicerrector de UNIR.
Autonomía tecnológica y cooperación universitaria
Entre los desafíos identificados durante la sesión, los participantes destacaron las desigualdades en el acceso a estas herramientas, relacionadas con el coste de las licencias y las diferencias en infraestructura y capacidad tecnológica entre instituciones.
Otro aspecto que preocupa a los expertos es la dependencia de proveedores externos, que puede limitar la autonomía de las universidades para desarrollar sus propias soluciones y decidir cómo gestionar sus datos.
En cuanto a los avances realizados hasta el momento en esta materia, Capilla compartió el trabajo de la Conferencia de Rectores y Rectoras de las Universidades Españolas (CRUE) en torno a un documento sobre IA que aborda el diagnóstico de las necesidades universitarias; la docencia, la evaluación y la formación; la investigación, la transferencia y la integridad académica; la ética y la gobernanza; los datos y las infraestructuras; y la autonomía tecnológica y la cooperación entre universidades.
El rector enfatizó en la importancia de “la colaboración entre instituciones académicas, administraciones públicas, empresas tecnológicas y sociedad civil para avanzar hacia criterios compartidos. La universidad puede aportar investigación independiente, conocimiento especializado y espacios de deliberación que ayuden a evaluar riesgos y fundamentar decisiones que afectan al conjunto de la sociedad”.
Panelistas del seminario de UNIR sobre gobernanza de la IA.
El debate entre los expertos puso de manifiesto que la gobernanza de la inteligencia artificial “requiere formación, criterios éticos comunes, supervisión y una participación de las universidades sin comprometer los derechos, la autonomía ni la capacidad crítica de las personas al mismo tiempo que fomente la investigación y transmisión de conocimientos”.
En el cierre del ciclo, el vicerrector de Investigación y Transferencia de UNIR, Pablo Moreno, insistió en “la responsabilidad de las universidades en relación con el uso de la IA, cómo se valida y supervisa, pero también cómo se crea y se enseña”. Además, animó a todas las universidades a “formar parte de esta conversación que hoy nos ocupa a todos en el sector académico”.
