Deepfakes: contenido falso impulsado por la IA

Introducción

La Inteligencia Artificial (IA) se ha consolidado como una de las tecnologías más impactantes de los últimos años. Ofreciendo grandes beneficios, su presencia es cada vez mayor y más significativa en numerosos sectores, como la medicina, la educación y el entretenimiento.

Sin embargo, con el avance de esta tecnología surgen nuevos desafíos de seguridad que deben abordarse, ya que la falta de legislación sobre su uso ha permitido que se encuentre al alcance de todos sin restricciones claras, facilitando así, su uso para actividades maliciosas. Por lo anterior, en esta guía hablaremos sobre una de las amenazas que han adoptado los ciberdelincuentes para engañar a los usuarios haciendo uso de la IA, los Deepfakes.

¿Qué son los Deepfakes?

Los deepfakes son un tipo avanzado de contenido falso generado o manipulado con IA para crear imágenes, vídeos y audios en los que una persona parece decir o hacer cosas que nunca ocurrieron. Su realismo puede hacer que sea difícil identificar la falsificación a simple vista, logrando engañar a quienes lo ven y/o escuchan.

Existen, principalmente, dos tipos:

Deepfaces: Son imágenes o videos falsos que suplantan la identidad de una persona haciendo parecer que dice o hace cosas que no se ajustan a la realidad.
Deep voices o voice hacking: Son audios falsos que suplantan la voz de una persona, pueden ser utilizados para difundir declaraciones o discursos que nunca fueron pronunciados por la persona en cuestión, engañando así a quienes los escuchan.

Conoce más

En el video sobre Deepfakes

Descripción: Material desarrollado para el concurso de video «Comunidad segura, porque la información segura… ¡Es cultura!».

Los deepfakes han llevado la manipulación digital a otro nivel y personas malintencionadas los han adoptado rápidamente para actividades maliciosas como las que se muestran a continuación:

Extorsionar y chantajear para obtener un beneficio personal o económico.
Generar desinformación a través de la propagación de información falsa.
Dañar la reputación de una persona suplantando su identidad.
Hacerse pasar por otra persona para cometer fraudes.

Recomendaciones para identificar posible contenido falso generado por IA

Algunas recomendaciones de seguridad para ayudar a identificar posible contenido falso generado por la IA y para no ser víctima de alguna de las actividades que se mencionaron anteriormente, son:

Verificar la fuente: asegúrate de que el contenido proviene de una fuente confiable o con buena reputación. Desconfía de las noticias de sitios web o perfiles desconocidos en redes sociales.
¿Tiene coherencia? en muchas ocasiones se utilizan los deepfakes para degradar la reputación de alguien, crear discordia entre dos bandos o para exagerar algunas declaraciones. Si el contenido del vídeo es muy alarmante, llamativo y enciende las redes sociales en poco tiempo, mantente alerta y desconfía.
Analizar la calidad del contenido: presta atención a ciertos detalles en función del tipo de contenido:
1. Vídeo:
  - Parpadeos y movimientos faciales: los deepfakes a menudo presentan un número anormal de parpadeos o movimientos faciales poco naturales.
  - Incongruencias entre el rostro y el cuerpo: observa si hay desajustes entre la expresión facial y los movimientos corporales.
  - Calidad del sonido: el sonido puede no concordar con la imagen, mostrando desfases o variaciones en el tono que no corresponden con la escena.
2. Audio:
  - Tono y ritmo: analiza si el tono de voz y el ritmo del habla son consistentes. Las clonaciones de voz pueden presentar variaciones inusuales.
  - Ruido de fondo: la falta de ruido de fondo o la presencia de sonidos extraños puede indicar manipulación.
  - Contexto del discurso: verifica si el contenido del discurso es consistente con lo que la persona normalmente diría o en el contexto en el que suele hablar.
3. Imagen:
  - Detalles finos: pueden tener fallos en ciertos detalles, como manos con dedos desproporcionados o fondos que no se alinean correctamente.
  - Iluminación y sombras: revisa si la iluminación y las sombras son coherentes en toda la imagen.