Deepfake: ¿bromas chistosas o fraude perjudicial?

Cómo funciona

La palabra “deepfake” es una combinación de las palabras “deep learning” (aprendizaje profundo), que se relaciona con el aprendizaje automático y la inteligencia artificial (IA), y una referencia anticuada al hecho de que algo es “falso” (fake).

Los estafadores comienzan por aprovechar la abundancia de contenido disponible sobre una persona específica de manera gratuita en los medios de noticias en línea y en las redes sociales, lo que incluye videos y fotografías generados por los consumidores. El estafador manipula dicho contenido para convertirlo en una nueva imagen o grabación de voz en la que la persona en cuestión dice o hace algo que jamás hizo o que no encaja con su personalidad.

El proceso en sí es muy técnico: los deepfakes son generados por redes neuronales al utilizar algoritmos de inteligencia artificial y aprendizaje automático para imitar a los humanos reales. Sin embargo, no se requiere un título académico avanzado para crear deepfakes gracias al software fácil de obtener que permite que las personas que tienen habilidades básicas de computación se conviertan en creadores de deepfakes. La calidad del producto final puede reflejar el nivel de habilidad, aunque también puede mejorar con el tiempo debido al aprendizaje automático y no necesariamente al aprendizaje humano.

Cómo detectar los deepfakes

Las imágenes, audios y videos tipo deepfake pueden quedar tan bien elaborados que resulta muy difícil determinar que son falsos. Debido a que los deepfakes se realizan mediante alta tecnología, la clave es detectarlos con alta tecnología y algoritmos. En general, estos son algunos aspectos a vigilar:

  • Sonido y video con mala sincronización
  • Borrosidad donde el rostro se encuentra con el cuello y el cabello
  • Formas cuadradas u otros efectos recortados alrededor de la boca, los ojos y el cuello
  • Cambios en el fondo o la iluminación
  • Decoloraciones en el rostro Parpadeo irregular
  • o falta de parpadeo Secciones de menor calidad en el mismo video
  • Movimientos que no son naturales

Quién se ve perjudicado

Quienes son víctimas con mayor frecuencia son los políticos, las celebridades y los ejecutivos empresariales de alto nivel, lo que se debe en parte a la disponibilidad de imágenes, videos y grabaciones de audio que existen de ellos en Internet. En ocasiones la meta del estafador es crear una broma chistosa que genere participación en las redes sociales. Sin embargo, otras veces la meta implica difundir información errónea, arruinar la reputación o provocar daños financieros.

No des por hecho que no te afectará el deepfake porque no eres un miembro de la alta sociedad de Hollywood o Washington, D.C. Una búsqueda de deepfakes en Internet destaca una amplia variedad de fraudes. Por ejemplo, trabajadores de corporaciones han sido engañados para realizar acciones inapropiadas porque un deepfake de su director ejecutivo les indicó que lo hicieran, lo cual en ocasiones generó costos significativos y pérdida de empleos. Como mínimo, es posible que recibas información errónea sobre un tema o persona importante debido a los deepfakes.