Los avances tecnológicos, aunque en la mayoría de los casos son beneficiosos y están ligados al progreso, también pueden ser usados para prácticas ilícitas. La tecnología deepfake es un claro ejemplo de ello.
El uso de deepfakes ha supuesto una gran preocupación, ya que atentan contra la seguridad de las personas y los sistemas informáticos, a la vez que se utilizan para crear fake news.
Por ello, en este artículo le explicaremos qué es la tecnología deepfake, cómo funciona y de qué forma puede protegerse de la misma.
¿Qué es la tecnología deepfake?
La tecnología deepfake es un tipo de inteligencia artificial que permite crear videos, imágenes o audios que incluyen a personas que, o bien no existen, o no están en el archivo original, sino que fueron añadidas de forma digital, destacando el gran realismo que se puede alcanzar con esta metodología.
Su uso más común es en formato de video, donde se suele tomar una grabación existente de una persona, reemplazando su rostro por algún otro. Mediante el empleo de algoritmos, se puede hacer que la cara insertada en el metraje realice cualquier gesticulación que se quiera, pudiendo aparentar con gran fidelidad decenas de gestos.
Para lograr esto se usan avanzados programas de reconocimiento facial, los cuales trabajan con redes neuronales, que le permiten descifrar la mejor forma de encajar el rostro deseado en el video; así como software de animación 3D de alta gama, que contribuyen a darle realismo al producto final.
Sumado a la tecnología de video, también se pueden crear archivos de audio falsos utilizando la voz de una determinada persona. Esto se consigue alimentando a la IA con enormes cantidades de audios de la voz que se desea imitar, para que esta pueda “aprender” a interpretarla de una forma convincente.
Estas tecnologías de síntesis de voz difieren de los text-to-speech comunes, pues mientras estos últimos usan una voz neutra para enunciar lo que se le pide, los deepfakes buscan captar los matices de la voz y la forma de hablar de una persona en concreto.
Usos de la tecnología deepfake
Como casi todas las cosas, la tecnología deepfake puede ser utilizada tanto con motivos buenos y nobles como malintencionados y perjudiciales.
Algunas de las maneras en que los deepfakes pueden ser empleados de manera positiva son:
Motivos artísticos
Uno de los momentos que popularizó a esta tecnología fue el lanzamiento de la película Rogue One, cuando se empleó para que la actriz Carrie Fisher interpretara su icónico papel de la princesa Leia Organa con un rostro rejuvenecido digitalmente, preservando el espíritu del personaje y dándole un atractivo mayor a la obra.
Este suceso abrió la puerta a que los deepfakes entraran de lleno en la industria de Hollywood en Estados Unidos, siendo una herramienta de efectos especiales que puede aportar valor a una cinta.
Además, la tecnología deepfake ha sido empleada por artistas de vanguardia, que la utilizan para hacer retratos digitales hiperrealistas, así como para captar expresiones faciales específicas.
Educación
Con el uso de deepfakes se pueden reconstruir los rostros de personas fallecidas, aunque se trate de figuras históricas que vivieron mucho antes de que se pudiera acceder a grabaciones de ellos. Esto brinda la posibilidad de crear metrajes ilustrativos de cómo eran en su época.
Esta práctica permite recontextualizar a los personajes que son presentados. Se pueden plantear conversaciones inéditas o hacerles recrear frases célebres que permitan apreciar desde una nueva perspectiva su significado.
Por supuesto, no se pueden ignorar los peligros ligados al uso inescrupuloso de la tecnología deepfake, y entre algunos de ellos están:
Fake News
Se trata de la creación de material falsificado que muestra a líderes políticos, celebridades o periodistas conocidos, entre otras figuras, con enunciados engañosos para esparcir desinformación.
Videos falsos de índole política o bélica, que se han hecho virales en redes sociales y otros medios, son algunos ejemplos de deepfakes que se convierten en noticias falsas de gran impacto.
Robo de identidad
Con los videos deepfake se pueden fabricar imitaciones convincentes de caras de personas (deepface), las cuales pueden ser usadas para encubrir actos ilícitos o realizar delitos informáticos, como el phishing (suplantación de identidad).
Extorsión y chantaje
Relacionado con el punto anterior; ha habido casos de extorsión en la cual un video falsificado de la víctima que le pone en una situación vergonzosa o incluso delictiva, siendo este un método difícil de contrarrestar y que da gran poder al perpetrador.
Medidas contra el mal uso del deepfake
La forma más común de protegerse del uso malintencionado de la tecnología deepfake es aprendiendo a leer las señales que nos indican que un video es una falsificación. SentinelOne explica que existen diferentes elementos que pueden ayudar a identificar este tipo de materiales, como:
- Iluminación excesiva;
- Contrastes agudos de colores;
- En general, movimientos bruscos y otros elementos antinaturales.
Incluso así, reconoce que conforme avanza la tecnología, el ojo humano va a tener más complicada la tarea de discernir entre un video real y un deepfake. Es por esto que grandes compañías se han lanzado a la misión de crear sistemas que faciliten la labor de identificar metrajes manipulados.
Uno de los punteros en esta categoría es Microsoft, pues el gigante del mundo tecnológico ha desarrollado una herramienta para detectar deepfakes, la cual actualiza constantemente para no quedarse atrás con respecto al avance de las falsificaciones.
Este programa, llamado Microsoft Video Authenticator, analiza detalladamente las expresiones faciales, sincronía, naturalidad de la gesticulación y demás factores que levanten sospechas y que permitan discernir si un metraje está alterado digitalmente.
¿Cómo proteger a su compañía de los deepfakes?
Así como los particulares, las compañías pueden sufrir graves daños por ataques que empleen deepfakes, la mayoría de ellos buscando estafar a la entidad a través del engaño. Bien sea falsificando archivos de audio que cuelan en el seno de la empresa para causar confusión, o incluso trabajando negociaciones fraudulentas a través de la usurpación de identidad.
Ya han ocurrido casos de compañías que han perdido importantes sumas por caer en fraudes que involucran el uso de IA, tal como informa el Wall Street Journal.
Por todo esto, es indispensable que su empresa cuente con las herramientas necesarias para detectar estas formas de engaño. Algunas de las más recomendables son:
- Entrenar al personal en técnicas de reconocimiento de deepfakes, tanto en audio como en video, haciéndoles entender el peligro que estos suponen y la importancia de estar alerta ante el accionar de los ciberdelincuentes;
- Reforzar la seguridad de los procedimientos que conducen a realizar pagos, con la finalidad de evitar estafas. Esto puede realizarse agregando pasos de verificación previa o aumentando la supervisión que reciben todos los movimientos;
- Invertir en el uso de software de detección de deepfakes, que serán utilizados cuando se detecte alguna actividad sospechosa para el entorno de ciberseguridad.
Todas estas medidas deben ser respetadas para proteger la integridad de la compañía, que de otro modo puede ver afectada su seguridad y estabilidad.
Si bien es cierto que no todo es malo cuando se habla de la tecnología deepfake y que es injusto demonizarla, lo cierto es que si queremos resguardar nuestra integridad y la de los que nos rodean, hay que tomar precauciones para evitar caer en las sofisticadas trampas que existen hoy.
Los algoritmos de deepfake, basados en tecnologías como el aprendizaje automático (machine learning) y aprendizaje profundo (deep learning), son una realidad y tanto empresas como particulares deben proteger sus bases de datos, sistemas de contraseña e información personal de los riesgos latentes.
Considerar los riesgos asociados al deepfake y entender cómo identificarlo es parte de una estrategia para evitar que su empresa sea víctima de falsificaciones y vulneración de identidad.
Es por ello que, para complementar la información abordada en este post, le invitamos a que también se documente sobre el phishing (suplantación de identidad) leyendo el siguiente material:
¿Qué es phishing y cómo proteger a su empresa de esta estafa?
