Cómo las empresas y los piratas informáticos utilizan las tecnologías Deepfake

Los videos deepfake generalmente tienen una connotación negativa ya que se han vinculado con videos falsos de celebridades, incluida la pornografía. Sin embargo, muchas empresas ahora están adoptando la tecnología, integrándola en sus procesos de trabajo.

Algunos socios de la firma de contabilidad EY están incorporando cuerpos virtuales sintéticos al estilo de una cabeza parlante en correos electrónicos y presentaciones de clientes. Un socio de EY usó un doble virtual para hablar con un cliente japonés en su idioma nativo, algo que aparentemente tuvo un buen efecto.

La exploración de tales tecnologías llega en un momento en que los modos tradicionales de establecer relaciones comerciales, como reuniones, almuerzos largos, partidos de golf y redes, se han vuelto casi imposibles debido a la pandemia y sus restricciones. El uso de EY de dobles virtuales se basa en la tecnología proporcionada por Synthesia, una startup con sede en el Reino Unido.

En una entrevista con Wired, Jared Reeder, quien trabaja en EY en un equipo que brinda asistencia creativa y técnica a los socios, dijo que se especializó en la creación de dobles de compañeros de trabajo de IA en los últimos meses. Los videoclips que incorporan los dobles falsos se reconocen abiertamente como sintéticos.

Según Reeder, la tecnología ha animado las conversaciones con los clientes. “Lo estamos usando como un diferenciador y un refuerzo de quién es la persona… En lugar de enviar un correo electrónico y decir ‘Oye, todavía estamos en el viernes’, puedes verme y escuchar mi voz… Es como traer un cachorro en la cámara… Se entusiasman con eso”, dijo.

En una entrevista con la BBC, el director ejecutivo y cofundador de Synthesia, Victor Riparbelli, llama a la tecnología el «futuro de la creación de contenido». Para ilustrar su punto, Riparbelli dio el ejemplo de una empresa que emplea a 3.000 trabajadores de almacén en América del Norte, y algunos de los empleados hablan inglés y algo de español.

“Si tiene que comunicarles información compleja, un PDF de cuatro páginas no es una buena manera. Sería mucho mejor hacer un video de dos o tres minutos, en inglés y en español… Si tuvieras que grabar cada uno de esos videos, sería un trabajo enorme. Ahora podemos hacer eso por [pequeños] costos de producción, y el tiempo que sea necesario para que alguien escriba el guión. Eso ejemplifica bastante bien cómo se usa la tecnología en la actualidad”, dijo Riparbelli.

El año pasado, el canal MBN de Corea del Sur emitió un segmento de noticias con una versión deepfake del presentador Kim Joo-Ha. La copia imitaba perfectamente los gestos, las expresiones faciales y la voz de Joo-Ha. El video causó bastante revuelo en el país. Mientras que a algunos les sorprendió, a otros les preocupaba que Joo-Ha pudiera perder su trabajo. MBN había indicado que continuaría usando la copia deepfake solo para algunos de sus informes de noticias de última hora.

Recientemente, Lucasfilm contrató a un creador de contenido de YouTube conocido como Shamook, famoso por crear videos deepfake en los que un actor de una película se cambia por otro actor. Los ejecutivos de Disney, propietaria de Lucasfilm, parecían haber quedado impresionados por el video deepfake de Shamook de una escena de un episodio de la franquicia de Star Wars, Mandalorian. 

Uso delictivo, ética de la comercialización 

Se está explorando un uso similar de tecnologías deepfake, ya sea en medios, negocios u otros sectores, y es probable que aumente en los próximos años. Sin embargo, los deepfakes también presentan desafíos para las empresas. Los videos deepfake se pueden usar para impactar negativamente la reputación de una empresa. Incluso si la empresa demuestra que el video es falso, es posible que el daño a la reputación no se revierta con tanta facilidad.

Un grupo criminal puede usar un video deepfake de un CEO admitiendo algún tipo de falla en la empresa para manipular el mercado de valores. Para cuando la gente se dé cuenta de que el video es falso, el daño estará hecho y los criminales habrán manipulado el mercado a su favor. En agosto de 2019, los delincuentes se hicieron pasar por la voz del ejecutivo de una empresa para exigir la transferencia de 243.000 dólares.

En una entrevista con The Wall Street Journal, Irakli Beridze, director del Centro de Inteligencia Artificial y Robótica del Instituto Interregional de Investigación sobre Crimen y Justicia de las Naciones Unidas, advirtió que los piratas informáticos pueden manipular los videos deepfake. “Imagine una videollamada con la voz [de un CEO], las expresiones faciales con las que está familiarizado. Entonces no tendrías ninguna duda”, dijo.

También hay cuestiones éticas que se deben abordar cuando se utilizan deepfakes, incluso para actividades legítimas. Lilian Edwards, profesora de derecho, innovación y sociedad en la Facultad de Derecho de Newcastle, dice que el problema del uso comercial de la tecnología deepfake no se ha abordado por completo. Por ejemplo, ¿quién posee los derechos de un video deepfake?

“Si se usa a una persona muerta, como [el actor] Steve McQueen o [el rapero] Tupac, existe un debate en curso sobre si su familia debe poseer los derechos [y obtener ingresos de ellos]… Actualmente, esto difiere de país a país”, dijo Edwards.