Desde que aparecieron los Deepfakes han surgido un sinfín de controversias y cuestionamientos sobre si es o no ético usarlas. Esta tecnología hasta ha generado preocupaciones por el potencial que tienen para el engaño y la manipulación. Como ya se sabe, se pueden utilizar para crear contenido falso y convincente. Se han usado deep fakes para falsificar discursos políticos, en vídeos de celebridades haciendo cosas impropias, incluso para generar noticias falsas.
Pero, hay que saber que los deepfakes no solo sirven para hacer cosas malas. También se puede usar esta tecnología en aplicaciones legítimas como en el entretenimiento y en la producción de efectos especiales. Inclusive se ha usado y aún se usa en la medicina y otras ciencias.
¿Qué son los deep fakes y cómo funcionan?
Los deep fakes son vídeos o audios falsificados de personas que han sido generados artificialmente utilizando avanzadas técnicas de inteligencia artificial. Estos se crean mediante algoritmos de aprendizaje profundo (deep learning) que analizan grandes cantidades de imágenes y vídeos reales de alguien. Dicha tecnología sirve para producir nuevo contenido de esa persona haciendo o diciendo cosas que nunca sucedieron.
La manipulación de imágenes existe desde hace tiempo. Lo que ha sucedido ahora es que la inteligencia artificial no solo logra alterar las imágenes, sino que también ayuda a crearlas. Como la calidad de estos deep fakes creados con IA es tan extraordinaria se vuelve prácticamente indistinguible de la realidad.
Antes era muy costoso realizar este tipo de manipulaciones. Era necesario entrenarse 2 algoritmos con las mismas fotos y vídeos reales. Por un lado, un algoritmo generaba nuevos falsos, mientras que el otro intentaba detectar si son verdaderos o inventados. Como resultado, emergían falsificaciones cada vez más perfectas y engañosas. Pero, este método requería gran cantidad de datos y computación.
Los avances en el aprendizaje automático han permitido que se vuelvan accesibles para casi cualquier persona. Hoy en día los deep fakes funcionan mediante redes neuronales generativas antagónicas (GAN). Estos avances, a su vez, han mejorado significativamente su realismo, por lo tanto, dificulta su detección.
Orígenes y aplicaciones actuales de los deep fakes
Los deep fakes surgieron alrededor del año 2017 cuando un usuario anónimo de Reddit usó esta tecnología para intercambiar rostros de actrices en vídeos pornográficos. Desde entonces empezaron los temores sobre las inmensas capacidades que tiene esta tecnología para suplantar identidades de forma hiperrealista. A partir de ahí se han detectado deep fakes de los expresidentes de Estados Unidos Obama y Trump.
Hoy en día los deep fakes son motivo de controversia. Se generan dilemas éticos y legales entorno a ellos. Existe miedo sobre su impacto en la propagación de fake news o manipulando elecciones.
No obstante, no todas sus aplicaciones son con fines dudosos y malintencionados. En medicina, los deepfakes se usan para crear gemelos digitales de órganos y estructuras anatómicas del cuerpo humano. Además, los deep fakes se usan para generar imágenes médicas sintéticas o para mejorar la formación de algoritmos de detección de enfermedades.
Los deep fakes también prometen aplicaciones positivas como la posibilidad de resucitar personajes históricos o facilitar efectos en cine y TV. Inclusive esta tecnología podría ser utilizada para proteger identidades en situaciones de peligro.
El desafío de detectar los fraudes
Los deepfakes son cada vez más sofisticados haciendo difícil separar lo verdadero de lo falso. Pero los investigadores ya trabajan en soluciones para destapar posibles fraudes.
Algunos proponen analizar los modelos generativos en busca de artefactos y anomalías que delaten las falsificaciones. Otros crean bases de datos con miles de contenidos trucados, para entrenar modelos especializados en su detección. También se explora el análisis de expresiones y gestos que resultan difíciles de replicar artificialmente.
Creemos que este juego del gato y el ratón impulsará aún más la innovación. En un futuro, podría ser la propia inteligencia artificial la encargada tanto de crear deepfakes como de desenmascararlos. Lo que se debería buscar es un equilibrio entre el progreso tecnológico y la prevención del uso indebido.