El miércoles 18 de octubre a las 2 de la tarde recibimos vía WhatsApp un video editado con la imagen de John Carrero que contenía una nota de voz, el candidato a la alcaldía de Tunja, con voz de preocupación, conversa con alguien sobre las recientes encuestas compartidas en diferentes medios de comunicación, junto a otros temas relacionados con la contienda electoral y su campaña. Nos llamó mucho la atención y nos pusimos a investigar sobre el tema, …………….Detectamos un deepfake.

Qué es un deepfake?

Un deepfake es un video, imagen o audio manipulado mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales. El término proviene de la combinación de las palabras «deep learning» y «fake», haciendo alusión al contenido falso generado con aprendizaje profundo (inteligencia artificial).

Los deepfakes se crean mediante el uso de redes neuronales generativas, también conocidas como GAN. Las GAN son un tipo de inteligencia artificial que puede aprender a generar imágenes, audio o texto que son indistinguibles de los reales.

Para crear un deepfake, se necesita una gran cantidad de datos de entrenamiento, como imágenes o videos de la persona que se desea falsificar. Una vez que la GAN ha sido entrenada, se puede usar para crear un nuevo video, imagen o audio en el que la persona que se desea falsificar aparece haciendo o diciendo cosas que nunca hizo o dijo.

Los deepfakes se pueden usar para una variedad de propósitos, tanto legítimos como maliciosos. Por ejemplo, se pueden usar para crear contenido de entretenimiento, como videos de parodia o comedia. También se pueden usar para crear contenido educativo, como videos de aprendizaje interactivos.

Sin embargo, los deepfakes también se pueden usar para crear contenido dañino, como videos de pornografía o difamación. Por ejemplo, un deepfake podría usarse para hacer que un político parezca decir algo que nunca dijo, o para hacer que una celebridad parezca estar haciendo algo vergonzoso.

Los deepfakes son una tecnología poderosa que tiene el potencial de ser usada para el bien o para el mal. Es importante ser consciente de los riesgos de los deepfakes y estar alerta a los signos de falsificación.

Tipos de deepfakes

Los deepfakes se pueden clasificar en tres tipos principales:

• Deepfakes de video: Son los más comunes y se utilizan para crear videos en los que una persona aparece haciendo o diciendo cosas que nunca hizo o dijo.
• Deepfakes de imagen: Se utilizan para crear imágenes en las que una persona aparece con un aspecto diferente, como con otro peinado o con un cambio de peso.
• Deepfakes de audio: Se utilizan para crear audio en el que una persona habla con un tono o timbre de voz diferente.

Ej. de Deepfake de Audio.

Cómo detectar un deepfake

Hay una serie de señales que pueden indicar que un video o imagen es un deepfake. Estas señales incluyen:

• Movimientos faciales o corporales extraños: Los deepfakes a menudo tienen problemas para reproducir los movimientos faciales o corporales naturales.
• Degradación de la imagen o el audio: Los deepfakes a menudo tienen problemas para mantener la calidad de la imagen o el audio original.
• Errores de continuidad: Los deepfakes a menudo tienen errores de continuidad, como un cambio repentino de iluminación o ángulo de cámara.

Es importante tener en cuenta que estas señales no son siempre un indicador definitivo de que un video o imagen es un deepfake. Sin embargo, pueden ser una buena manera de empezar a sospechar que algo no está bien.

Finalmente nos pusimos en la tarea de investigar la manera de detectar la diferencia entre una voz real y una creada con inteligencia artificial y debemos confesar, que no fue tarea fácil. Luego de un par de horas encontramos una manera y fue usando la inteligencia artificial de Google, Bart.

Si bien consideramos que deben existir herramientas mucho más precisas y técnicas para realizar este tipo de análisis, creemos que para la ciudadanía en general este método podría ser útil para mitigar la desinformación, encontramos algunos inconvenientes al ingresar prompts muy extensos, pero a la final este fue el resultado, la voz según la inteligencia artificial de Google (Bart) es un audio falso,  realizado con Inteligencia Artificial.

Video explicativo y tutorial deepfake Tunja….

Invitamos a la ciberciudadanía a estar alerta sobre la información que recibe y comparte en cadenas de comunicación masiva y a las campañas políticas a evitar este tipo de estrategias que perjudican nuestra democracia.

Con el corazón por #Redmocracia.