Los avances tecnológicos han traído consigo innovaciones que mejoran la vida cotidiana de las personas, pero algunos, también presentan riesgos importantes cuando se usan con fines maliciosos. En el caso del internet, este se ha convertido en el canal perfecto para que los delincuentes pongan en práctica sus estrategias de engaño y cometan diversos delitos informáticos como extorsiones, estafas, sabotajes y hackeos, entre otros.Tal es el caso de los deepfakes, una tecnología basada en inteligencia artificial (IA) capaz de imitar rostros, voces o expresiones de personas, con una precisión que ha alarmado a expertos, medios y usuarios. Al respecto, SEMANA consultó con expertos en el tema, que dieran su opinión sobre qué es, cómo funcionan, los peligros que representan en la sociedad actual, las ayudas para identificar si es suplantación, y las posibles soluciones para mitigar sus efectos, evitando caer en manos de los delincuentes.Los expertos consultados estuvieron de acuerdo en que, un deepfake es una tecnología basada en inteligencia artificial que permite crear videos, imágenes o audios falsos que parecen auténticos, manipulando rostros y voces para que personas aparenten realizar o decir cosas que en realidad no son así. Esta técnica utiliza modelos y algoritmos de IA entrenados con datos reales, y a través de redes neuronales avanzadas, crean contenidos de alta calidad que imitan con precisión las características originales, produciendo falsificaciones convincentes.¿Es posible identificar los deepfakes?Fredy Ángel Dávila Cubides, decano de la Facultad de Ingeniería y Tecnologías de la Información de UNINPAHU, señaló que para saber si un video es un deepfake, el usuario debe prestar atención “a la coherencia entre el movimiento de los labios, los gestos de la persona y el entorno de la imagen”, con respecto al discurso que está entregando.“Es decir, si está hablando de una entidad o de un funcionario debe ir directamente a la página de la entidad para saber si está transmitiendo una noticia por un medio de comunicación”, explicó Dávila.El experto también se refirió a los constantes videos que circulan en redes sociales donde algunas personalidades están siendo suplantadas a través de esta tecnología para promover supuestas inversiones en plataformas de criptomonedas.“Uno de los principales riesgos de los deepfakes es la capacidad de los ciberdelincuentes para aprovecharse y cometer fraudes financieros o suplantaciones de identidad, como ejemplo, hace poco circuló una noticia en la que ponían a dos presentadores de un noticiero de televisión indicando que había una inversión segura y que estaba respaldada por grandes grupos económicos, que la gente solo debía ingresar y depositar su dinero allí para la inversión. Otra modalidad es imitar la voz de algún familiar y solicitar a sus familiares algún favor o alguna suma de dinero”, agregó el académico.Por su parte, Manuel Rodríguez, gerente de Ingeniería de Seguridad NOLA de Check Point Software, concuerda en que, “detectar los deepfake puede ser un reto si no cuenta con herramientas tecnológicas, sin embargo, hay algunos aspectos que se pueden revisar al hacer un análisis visual; por ejemplo puede validar que el parpadeo y el movimiento de los labios sigan ritmos naturales, revisar si los reflejos en gafas o en los ojos son consistentes puede ser un reto o que la edad de la piel concuerde con la edad de los ojos. Estos métodos requieren de un análisis detallado del video”.¿Existen tecnologías o herramientas para detectar el deepfake?Hay diferentes formas de identificar una suplantación de identidad, a través de la inteligencia artificial, basadas en análisis de metadatos y la detección de anomalías, las cuales ayudan a realizar un análisis del contenido digital, permitiendo al usuario encontrar inconsistencias típicas de los deepfakes, que no son evidentes a simple vista.El docente de la Especialización en Gerencia de Proyectos Informáticos de UNINPAHU, John Jairo Caicedo Bolaños, explicó que es importante “utilizar modelos de aprendizaje profundo que se entrenan en grandes conjuntos de datos de imágenes y videos genuinos y falsificados. Estos modelos pueden detectar patrones sutiles que suelen estar presentes en los deepfakes”.Adicionalmente, menciona otras herramientas como el “análisis de biometría facial, [que ayudan a analizar] características biométricas, como la sincronización de labios, la expresión facial y el parpadeo, verificación de metadatos o un software que examine los archivos de video, la detección de artefactos [a través] de técnicas de análisis de video que busquen artefactos visuales, como distorsiones en la piel, bordes poco naturales y falta de coherencia en la iluminación”.Finalmente, Mario Micucci, especialista en seguridad informática de ESET Latinoamericana, manifestó que algunos sistemas basados en la IA, “utilizan algoritmos de aprendizaje automático para analizar patrones en videos y audios, buscando inconsistencias que podrían indicar manipulación (...) A medida que los deepfakes se vuelven más sofisticados, estas tecnologías siguen evolucionando para ofrecer detección rápida y confiable en tiempo real, ayudando a combatir la desinformación”.