David Montero Montero
La capacidad de esta herramienta para manipular imágenes, vídeos y audios plantea nuevos desafíos para la seguridad digital, la protección de la identidad y la defensa de colectivos especialmente vulnerables como los menores.
La Inteligencia Artificial Generativa (IAG) ha abierto enormes posibilidades en ámbitos como la comunicación, la educación, la empresa o la creación audiovisual. Sin embargo, también ha favorecido la aparición de nuevas formas de manipulación digital cada vez más realistas, accesibles y difíciles de detectar.
Entre ellas, los deepfakes se han convertido en uno de los fenómenos que mayor preocupación generan en materia de seguridad digital, protección de la identidad, reputación online y defensa de niños, niñas y adolescentes.
Su desarrollo demuestra que la ciberdelincuencia evoluciona al mismo ritmo que la tecnología y que las herramientas diseñadas para innovar también pueden utilizarse con fines ilícitos.
¿Qué son realmente los deepfakes?
Los deepfakes son contenidos audiovisuales —imágenes, vídeos o audios— generados o modificados mediante inteligencia artificial para simular que una persona ha dicho, hecho o protagonizado algo que nunca ocurrió.
Aunque habitualmente se asocian a vídeos hiperrealistas, la manipulación digital actual adopta múltiples formas: clonación de voz, creación de rostros inexistentes, generación de desnudos falsos, alteración de fotografías, suplantación de identidad o recreación artificial de gestos y expresiones.
Lo que diferencia estas herramientas de las técnicas tradicionales de edición es, fundamentalmente, su elevado nivel de realismo, la rapidez con la que producen resultados y la facilidad con la que cualquier usuario puede acceder a ellas.
Hace apenas unos años era necesario disponer de conocimientos técnicos avanzados para generar este tipo de contenidos. Hoy muchas de estas aplicaciones están disponibles para cualquier persona, incluidos adolescentes, lo que multiplica el riesgo de uso indebido.
En pocos minutos pueden producirse contenidos falsos capaces de difundirse masivamente a través de redes sociales, aplicaciones de mensajería o entornos escolares y laborales.
Mucho más que un problema tecnológico
La manipulación digital puede tener usos creativos, educativos o artísticos perfectamente legítimos cuando respeta los derechos de las personas.
El problema aparece cuando estas tecnologías se utilizan para cometer delitos.
Los deepfakes permiten dañar la reputación de terceros, extorsionar, acosar, manipular la opinión pública, cometer fraudes, suplantar identidades o generar contenido sexual falso sin consentimiento.
En el ámbito político y social, la principal amenaza es la desinformación.
El Foro Económico Mundial sitúa la desinformación y la información falsa entre los principales riesgos globales a corto plazo por su capacidad para erosionar la confianza institucional, aumentar la polarización y debilitar la cohesión social (World Economic Forum, 2025).
En el ámbito empresarial, la amenaza tampoco deja de crecer.
La clonación de voz o la generación de vídeos falsos puede utilizarse para engañar a empleados, simular órdenes de directivos, obtener información confidencial o autorizar transferencias fraudulentas.
La ciberdelincuencia ya no depende exclusivamente del malware o del phishing. También puede apoyarse en contenidos sintéticos capaces de manipular uno de los elementos más difíciles de proteger: la confianza humana.
Por qué resultan tan peligrosos
El verdadero peligro de los deepfakes no reside únicamente en que sean falsos, sino en que resultan extraordinariamente creíbles.
Su eficacia se basa en varios factores. Generan una fuerte reacción emocional, se difunden con enorme rapidez, alcanzan gran viralidad antes de ser desmentidos y producen un importante daño reputacional incluso cuando posteriormente se demuestra que el contenido era manipulado.
Además, los modelos actuales de inteligencia artificial han reducido muchas de las señales que antes permitían detectar una falsificación: errores en el movimiento de los ojos, desajustes en la sincronización labial, problemas de iluminación o deformaciones del rostro y las manos.
Todo ello obliga a ampliar la respuesta.
La detección técnica sigue siendo imprescindible, pero no suficiente. Resulta igualmente necesario reforzar la alfabetización digital, la investigación forense, la prevención y la respuesta jurídica.
Con este objetivo, la Unión Europea ha incorporado nuevas obligaciones de transparencia para determinados contenidos generados mediante inteligencia artificial.
El Reglamento de Inteligencia Artificial contempla medidas destinadas a identificar contenidos sintéticos, incluidos los deepfakes, para que los usuarios puedan distinguir cuándo se encuentran ante un contenido artificial o manipulado (European Commission, 2026).
Cuando las víctimas son menores
Uno de los ámbitos donde el impacto resulta más preocupante es el de la infancia y la adolescencia.
Los menores no solo utilizan de forma intensiva los entornos digitales, sino que constituyen uno de los colectivos más vulnerables frente a la manipulación de imágenes, la suplantación de identidad, el acoso y la violencia digital.
En los últimos años han aumentado los casos de fotografías de menores alteradas mediante inteligencia artificial para generar desnudos o situaciones de carácter sexual.
Estos contenidos suelen difundirse en centros educativos, redes sociales, grupos privados de mensajería o plataformas anónimas.
En muchos casos, las imágenes originales proceden de perfiles públicos o fotografías compartidas por los propios menores sin ser plenamente conscientes de los riesgos asociados a su difusión.
Lo verdaderamente importante es comprender que el daño no depende de que la imagen sea “real”.
Aunque el contenido haya sido generado completamente mediante inteligencia artificial, las consecuencias para la víctima pueden ser muy graves: vergüenza, ansiedad, aislamiento, pérdida de autoestima, miedo a acudir al centro educativo, acoso continuado, chantaje o deterioro de la propia identidad digital.
Durante la adolescencia, cuando la imagen social adquiere una enorme importancia, este tipo de ataques puede tener un impacto especialmente profundo.
La organización internacional Thorn, especializada en la protección de menores frente al abuso sexual en internet, ha advertido de que los jóvenes identifican mayoritariamente los desnudos generados mediante IA como una forma de violencia facilitada por la tecnología.
Sus investigaciones también alertan del crecimiento de fenómenos como la sextorsión y la generación de imágenes sexuales mediante inteligencia artificial entre menores y adolescentes (Thorn, 2024; Thorn, 2025).
Nuevas formas de ciberdelincuencia
Los deepfakes no constituyen un fenómeno aislado. Con frecuencia se integran en otras modalidades de ciberdelincuencia, incrementando su capacidad de daño.
Una imagen manipulada puede utilizarse para amenazar a un menor con difundirla si no envía más contenido íntimo, realiza un pago económico o acepta mantener contacto con el agresor. En estos casos, la manipulación digital se convierte en una herramienta de sextorsión.
También puede facilitar situaciones de grooming, en las que un adulto establece contacto con un menor con fines sexuales mediante engaño, manipulación o abuso de confianza.
La inteligencia artificial amplía además las posibilidades de ocultación del agresor. La creación de perfiles falsos, el uso de rostros sintéticos o la clonación de voces permiten construir identidades aparentemente creíbles y adaptadas a la edad o intereses de la víctima.
Europol ya ha advertido de esta evolución. En febrero de 2025 anunció una operación internacional contra una red dedicada a distribuir material de abuso sexual infantil generado íntegramente mediante inteligencia artificial, que concluyó con la detención de 25 personas en distintos países (Europol, 2025).
La investigación académica también alerta de los riesgos asociados a este fenómeno. Aunque algunas imágenes no representen inicialmente a menores reales, pueden contribuir a normalizar la explotación sexual infantil, facilitar procesos de grooming, revictimizar a supervivientes y aumentar la carga de trabajo de los sistemas de investigación y protección (Ó Ciardha, Buckley, & Portnoff, 2025).
El impacto en centros educativos y familias
Las consecuencias de los deepfakes trascienden el ámbito policial o judicial.
Cada vez con mayor frecuencia afectan directamente a centros educativos, familias y servicios de protección de menores.
La difusión de una imagen manipulada puede desencadenar situaciones de acoso, aislamiento, amenazas o violencia psicológica entre iguales.
Además, plantea cuestiones especialmente complejas para los equipos directivos y docentes.
¿Cómo debe actuar un centro educativo cuando el contenido circula por grupos privados de mensajería? ¿Cómo conservar las pruebas sin contribuir a su difusión? ¿Cuándo procede la intervención policial? ¿Qué responsabilidad tienen quienes crean o reenvían el material? ¿Cómo proteger a la víctima evitando una nueva revictimización?
La respuesta exige rapidez, coordinación y prudencia.
Las primeras actuaciones deben centrarse en evitar la difusión del contenido, preservar adecuadamente las evidencias, informar a las familias, activar los protocolos internos del centro y comunicar los hechos a las autoridades cuando resulte necesario.
Del mismo modo, resulta esencial trasladar un mensaje claro a niños, niñas y adolescentes: crear, compartir o reenviar una imagen íntima manipulada nunca constituye una broma. Puede provocar graves daños personales y tener importantes consecuencias legales.
Un marco legal en evolución
La regulación jurídica está evolucionando para responder a este nuevo escenario.
En la Unión Europea, el Reglamento de Inteligencia Artificial incorpora obligaciones de transparencia para determinados contenidos generados mediante IA, incluidos los deepfakes, con el objetivo de facilitar su identificación y reducir la confusión entre contenidos auténticos y sintéticos (European Commission, 2026).
En España, la protección de los menores frente a este tipo de riesgos también ocupa un lugar destacado dentro del debate legislativo.
Actualmente se encuentra en tramitación el Proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales, que contempla medidas relacionadas con la tipificación de los deepfakes de contenido sexual y el grooming (Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, 2025).
Todo ello refleja una realidad evidente: la tecnología evoluciona con enorme rapidez y obliga a adaptar continuamente las herramientas jurídicas y los mecanismos de protección.
Cómo detectar y prevenir la manipulación digital
Aunque identificar un deepfake resulta cada vez más difícil, existen algunas recomendaciones que ayudan a reducir el riesgo.
Entre ellas destacan:
- Desconfiar de contenidos excesivamente impactantes o diseñados para provocar una reacción emocional inmediata.
- Verificar siempre la fuente antes de compartir información.
- Contrastar el contenido con medios y fuentes fiables.
- Revisar posibles incoherencias en la voz, los gestos, la iluminación o el contexto.
- Evitar publicar imágenes de menores en perfiles abiertos.
- Configurar adecuadamente la privacidad en redes sociales.
- Denunciar perfiles, mensajes o contenidos sospechosos.
- No compartir imágenes íntimas o humillantes, incluso cuando aparentemente sean falsas.
En el caso de niños y adolescentes, la prevención pasa necesariamente por la educación digital.
No se trata únicamente de limitar el acceso a la tecnología, sino de enseñar a identificar riesgos, proteger la privacidad, pedir ayuda cuando sea necesario y utilizar las herramientas digitales de forma responsable.
Tan importante como esa formación es que los menores perciban que pueden acudir a sus familias ante una situación de riesgo sin miedo a ser culpabilizados.
La necesidad de profesionales especializados
Los deepfakes representan uno de los mejores ejemplos de cómo la ciberdelincuencia evoluciona al ritmo de la innovación tecnológica.
Su investigación exige conocimientos jurídicos, tecnológicos, criminológicos y forenses.
Es necesario comprender cómo se generan los contenidos sintéticos, cómo se difunden, qué huellas digitales dejan, cómo preservar correctamente las evidencias y qué delitos pueden concurrir en cada caso.
Por ello, la formación especializada adquiere una importancia creciente.
El Máster Universitario en Ciberdelincuencia de UNIR prepara a profesionales capaces de analizar estos nuevos fenómenos criminales, comprender sus implicaciones legales y desarrollar estrategias de prevención, investigación y respuesta adaptadas al nuevo entorno digital.
En un contexto donde la inteligencia artificial puede utilizarse tanto para innovar como para delinquir, disponer de especialistas resulta esencial para proteger a ciudadanos, empresas, instituciones y, especialmente, a los colectivos más vulnerables.
Un desafío tecnológico, jurídico y social
Los deepfakes ya no constituyen únicamente un problema tecnológico.
Representan un desafío jurídico, educativo, social y ético que cuestiona la confianza en las imágenes, la identidad digital y la autenticidad de la información que consumimos diariamente.
Cuando las víctimas son menores, la respuesta debe ser especialmente contundente.
La manipulación de su imagen puede producir consecuencias duraderas y exige una actuación coordinada entre familias, centros educativos, plataformas digitales, legisladores, Fuerzas y Cuerpos de Seguridad y profesionales especializados.
La inteligencia artificial continuará evolucionando.
El verdadero reto consiste en que también evolucionen la prevención, la investigación y la formación de quienes deberán afrontar las nuevas formas de ciberdelincuencia.
Referencias bibliográficas
- European Commission. (2026). AI Act. Shaping Europe’s Digital Future.
- European Commission. (2026). Code of practice on transparency of AI-generated content. Shaping Europe’s Digital Future.
- Europol. (2025, February 28). 25 arrested in global hit against AI-generated child sexual abuse material.
- Ministerio de la Presidencia, Justicia y Relaciones con las Cortes. (2025, 25 de marzo). El Gobierno aprueba tipificar como delito los deepfakes de contenido sexual y el grooming. Gobierno de España.
- Ó Ciardha, C., Buckley, J., & Portnoff, R. S. (2025). AI generated child sexual abuse material—What’s the harm? arXiv. https://doi.org/10.48550/arXiv.2510.02978
- Thorn. (2024). Youth Perspectives on Online Safety 2023.
- Thorn. (2024, August 14). Report: 1 in 10 minors say peers have used AI to generate nudes of other kids.
- Thorn. (2025, March 3). Deepfake nudes and young people.
- World Economic Forum. (2025, January 15). Global Risks Report 2025: Conflict, environment and disinformation top threats.
- Facultad de Derecho
