Deepfaked media

Deepfake es el término utilizado para definir la aplicación de técnicas de inteligencia artificial que alteran los medios digitales, principalmente, vídeo, audio o imágenes. Como hemos visto durante los últimos meses, su aplicación más popular consiste en reemplazar caras y voces entre personas.

Las herramientas para crear deepfakes son cada vez más accesibles. Y aunque, en principio, están diseñadas para ofrecer diversión y entretenimiento inofensivo, el contenido sintetizado que habilitan podría ser malversado para manipular espectadores y fomentar la desconfianza.

Mediante el uso de algoritmos de aprendizaje profundo, las deepfakes ya son inapreciables a simple vista y oído. Esto significa que sólo a través del uso de tecnología de detección se pueden identificar formas avanzadas de medios manipulados y alterados.

Cada vez más aplicaciones utilizan redes neuronales para analizar fotos. La IA va aprendiendo de los errores a través de un entrenamiento basado en la deconstrucción y la reconstrucción de rostros. Aunque, a simple vista, puede parecer divertido, el peligro viene cuando esta tecnología se usa para difamar, persuadir o polarizar discursos.

Ya hemos visto cómo la calidad de estos medios sintetizados ha alcanzado tal punto que hasta a los medios de comunicación les resulta complicado discernir entre noticias reales o falsas y detectar estas manipulaciones, que suponen una erosión de la confianza: ¿quién afirma la mentira? ¿quién niega la verdad?

Se está produciendo una carrera por desarrollar herramientas que permitan detectar deepfakes, con el objetivo de defender la veracidad.