Ángel Martínez Ortega
Más de 1.100 profesionales de las principales empresas tecnológicas pidieron a Estados Unidos mecanismos para regular el desarrollo de la inteligencia artificial. Su advertencia plantea una pregunta filosófica: ¿y si dejamos de comprender el progreso científico?
El pasado 28 de julio, más de 1.100 empleados de las principales empresas de inteligencia artificial del mundo firmaron una carta abierta titulada Pacing the Frontier. En ella piden al Gobierno de Estados Unidos que apoye la creación de mecanismos capaces de moderar deliberadamente la velocidad a la que se desarrollan los sistemas de IA más avanzados.
No es una petición cualquiera ni procede de activistas externos: la firman personas que trabajan cada día en OpenAI, Anthropic, Google DeepMind y Meta, y cuenta con el respaldo de nombres como Dario Amodei, Jakub Pachocki o Jared Kaplan.
Es como si los ingenieros que construyen el motor de una nueva revolución industrial pidieran, ellos mismos, que se redujera la presión de la caldera.
Lo que de verdad temen
La carta no reclama detener el desarrollo de la IA ni imponer una moratoria. Pide algo más sutil: que existan herramientas para ralentizar el avance si, en algún momento, la capacidad de los sistemas supera la capacidad humana para supervisarlos y comprenderlos.
Y ahí está el matiz que conviene no pasar por alto. No hablan de que la IA escriba mejores correos, programe más rápido o sustituya determinados empleos. Hablan de algo más profundo: que la inteligencia artificial pueda convertirse en el principal motor del descubrimiento científico, capaz de automatizar su propia investigación y generar un ciclo de progreso que ya no dependa de las mentes humanas ni pueda ser seguido por ellas.
Si eso ocurre, el problema ya no será qué saben las máquinas. El problema será qué dejaremos de ser capaces de comprender los seres humanos.
El relato que ya no parece ciencia ficción
Leyendo la noticia, no he podido evitar acordarme de un relato breve de Ted Chiang, La evolución de la ciencia humana.
En apenas unas páginas, Chiang imagina un futuro en el que la ciencia no desaparece. Al contrario, progresa a un ritmo nunca visto, pero deja de ser una empresa humana. Las teorías más importantes ya no pueden ser formuladas, ni siquiera entendidas, por personas.
Los científicos humanos quedan relegados a un papel de divulgadores de segunda mano: traducen, como pueden, los resultados que producen inteligencias no humanas, sin acceso real a los razonamientos que hay detrás.
Chiang lo ilustra con una imagen que no se olvida fácilmente: un chimpancé puede aprender a usar un teléfono móvil, beneficiarse de él e incluso disfrutarlo, sin tener la menor idea de la física, la electrónica o las matemáticas que lo hacen posible.
Nosotros, sugiere el relato, podríamos convertirnos en ese chimpancé frente a la ciencia del futuro.
Hasta hace poco, esto era una brillante pieza de ficción especulativa. Hoy, con una carta firmada por quienes construyen estos sistemas, empieza a parecer menos un cuento y más un experimento mental útil para interpretar el presente.
El problema ya no será qué saben las máquinas. El problema será qué dejaremos de ser capaces de comprender los seres humanos.
El monopolio que estamos a punto de perder
Durante años, el debate público sobre la IA ha girado casi exclusivamente en torno al empleo: qué trabajos desaparecerán, cuáles se transformarán y cómo se repartirá la productividad ganada.
Es un debate legítimo, pero puede que no sea el más importante. Tal vez el primer territorio que estemos a punto de perder no sea el mercado laboral, sino algo más antiguo e íntimamente humano: el monopolio sobre el conocimiento.
Durante toda nuestra historia, comprender el mundo, desde el movimiento de los astros hasta el funcionamiento de una célula, ha sido, por definición, un acto humano.
La pregunta que plantea la carta de estos profesionales, y que Chiang ya había formulado en clave de ficción, es qué ocurre cuando esa comprensión empieza a producirse en un lugar al que no tenemos acceso.
Un aviso que llega desde dentro
Lo más inquietante de esta historia no es solo su contenido, sino su origen. No se trata de una advertencia de filósofos, reguladores o divulgadores externos que observan el fenómeno desde fuera.
Es una advertencia interna, formulada por personas que participan directamente en el desarrollo de estos sistemas y conocen de primera mano las posibilidades y los desafíos de la inteligencia artificial avanzada.
Y quizá, si alguna vez llegamos a vivir el escenario que imaginó Chiang, no lo recordaremos por un gran descubrimiento científico.
Lo recordaremos por el día en que los propios creadores de la inteligencia artificial pidieron, en voz alta, que levantáramos el pie del acelerador.
(*) Ángel Martínez Ortega. Docente de Filosofía en el Grado en Filosofía, Política y Economía de la Universidad Internacional de La Rioja (UNIR).
- Humanidades - Revista
- Inteligencia Artificial - Revista
