Proteger a los adolescentes de la amenaza de los ‘deepfakes’ es una prioridad

En 2017, un usuario anónimo en un foro de Reddit, que fue rápidamente cerrado, publicó vídeos pornográficos utilizando técnicas avanzadas de inteligencia artificial para superponer las caras de famosas actrices de Hollywood. Aunque ya se habían visto imágenes manipuladas anteriormente, estos vídeos, en los que las mujeres se movían, sonreían y realizaban actos explícitos, marcaron el comienzo de los deepfakes. Ahora, la popularización del acceso a los recursos de la inteligencia artificial, cuyo uso puede ser muy positivo en otros ámbitos, como el educativo, ha propiciado la aparición de casos preocupantes, como las fotos de niñas y jóvenes españolas ‘falsamente’ desnudas que circularon por las redes sociales recientemente.

Desde el comienzo, esta nueva fase digital reveló un lado oscuro de la tecnología. Aunque los deepfakes, vocablo que se puede traducir como ‘falsedades profundas’, se presentan en múltiples contextos, desde el político hasta el del entretenimiento, su uso en pornografía, —con un mayor impacto en mujeres y, efectivamente, también en adolescentes— es especialmente preocupante.

Hoy, en la era tecnológica, la máxima de ‘ver para creer’ ya no constituye un indicador fiable. La capacidad para manipular contenidos visuales mediante técnicas de IA está cambiando la forma en que confiamos en el contenido.

Repercusiones de los ‘deepfakes’

1. Violación de privacidad

Muchos deepfakes en línea presentan contenido sexual con rostros ‘pegados’ sin consentimiento, y están llevando el ciberacoso tanto a personas anónimas como a personajes públicos.

2. Manipulación informativa

Aunque se ha difundido este tipo de archivos de políticos, no todos los expertos consideran que su influencia sea mayor que otras formas de desinformación. Las falsificaciones menos sofisticadas, llamadas shallowfakes, pueden ser igualmente impactantes.

3. Desafío a la realidad

Otra de las consecuencias es que pueden dañar la confianza en cualquier contenido visual. Esto coloca una carga sobre los profesionales de los medios para validar su material. El mero debate en torno a este asunto puede ser tan perjudicial como el contenido falso en sí mismo.

Qué estrategias podemos emplear contra esta práctica

1. Identificación

Hay que prestar atención a detalles como el tono de piel y la coherencia de movimientos. La detección técnica se centra en el algoritmo usado para crear el archivo, en el que hay que buscar irregularidades como alteraciones en el movimiento de la boca. También se puede certificar el origen de imágenes mediante metadatos.

2. Información verificada

Se debe promover el consumo de información autenticada para resistir a la mentira y la manipulación. Actualmente, es un proceso implementado por ley en China y esperamos verlo pronto también en la UE.

3. Protección de las víctimas

Por lo que respecta al plano legislativo, el objetivo debería ser resguardar a las víctimas de esta clase de práctica, pero aún queda un largo camino por recorrer en ese aspecto.

Amparando a los adolescentes del ‘deepfake’

Las empresas tecnológicas, en especial las que ofrecen soluciones en inteligencia artificial, tienen una clara responsabilidad. Como proveedores de estas herramientas, deben priorizar medidas que prevengan el mal uso y aseguren un empleo ético de su tecnología.

Por otra parte, la educación se convierte, cada vez más, en una prioridad. Nuestros adolescentes deben ser conscientes de la existencia de deepfakes, aprender a reconocerlos y, lo más importante, entender la importancia de la empatía, la privacidad y de los riesgos de la cesión de datos.

Los expertos en reputación y huella digital reconocen la urgencia de este problema y están comprometidos en la lucha contra él. No solo trabajan para eliminar este tipo de contenidos, sino que también colaboran activamente en la creación de canales más rápidos para denunciar y combatir los deepfakes, especialmente en casos relacionados con delitos sexuales.

A pesar de los intentos legislativos actuales, hay mucho trabajo pendiente. La tecnología avanza, y nuestra responsabilidad es anticiparnos y proteger a los más expuestos, que, en el caso que nos ocupa, son los menores.

Beatriz Martínez
Experta en reputación digital y CPO de Remove Group