¿Cómo detectar un vídeo falso generado por Inteligencia Artificial?

Un efecto secundario de los deepfakes es la suplantación de identidad

A medida que crecen las herramientas desarrolladas con inteligencia artificial, también lo hace la necesidad de crear tecnología para diferenciarla de la actividad humana e Intel lo ha hecho con un detector de los deepfake.

La inteligencia artificial está avanzando a pasos agigantados. Prueba de ello son los modelos de lenguaje de gran tamaño como ChatGPT o Bard o los generadores de imágenes como DALL-E o Midjouney. Sin embargo, más allá de estos productos, existen los deepfakes, que se están volviendo más realistas con el paso del tiempo y ha creado la necesidad de crear herramientas de detección, como FakeCatcher, de Intel Corporation.

Las deepfakes son un tipo de tecnología que es muy útil para crear vídeos con personalidades fallecidas, como el anuncio de Cruzcampo con Lola Flores, A pesar de ello, los ciberdelincuentes pueden aprovecharse de estos métodos para engañar o para difundir fake news. Por ese motivo, los detectores de los vídeos falsos cada vez más realistas son cruciales para el futuro que se avecina e Intel promete una tasa de precisión del 96% con su sistema.

¿Cómo es FakeCatcher?

Ilke Demir, Senior Staff Research Scientist de Intel, define FakeCatcher como la primera plataforma de detección de deepfakes en tiempo real del mundo. «Utiliza hardware y software de Intel para devolver resultados, no en horas ni minutos, sino en milisegundos –afirma para 20Bits-. Analiza lo que el ojo humano no puede ver: el sutil flujo sanguíneo en los píxeles de un vídeo». Sin embargo, la experta reconoce que hay otros detectores (en este caso offline), basados en aprendizaje profundo.

Su servicio traduce las señales de la sangre en el vídeo en «mapas espaciotemporales únicos que se ejecutan a través de un clasificador neuronal». Esto es posible gracias a varios conjuntos de datos de deepfakes con los que FakeCatcher se ha entrenado, como FaceForensics++, CelebDF y Deepfakes in the Wil.

Según cuenta Demir, una dificultad con la que el equipo de Intel se encontró durante el desarrollo del producto «fue convencer a la gente de que se trataba de un problema importante [la dificultad de distinguir entre un deepfake y un vídeo real]». Ella detalla que se pensaba que «el número de falsificaciones era insignificante y mucha gente optaba por creer en sus ojos antes que en una herramienta».

Por suerte, el rápido desarrollo en IA ha hecho que el panorama cambie y que cada vez más personas sean conscientes «de los peligros potenciales de la desinformación y la tergiversación a través de los deefakes».

Lo bueno y lo malo de los deepfakes

«El peor efecto secundario es la suplantación de identidad» y su empleo para crear bulos o atacar a la dignidad de las personas en la red, asegura Demir. No obstante, la profesional de Intel también recuerda que pueden ayudar a «proteger la identidad de poblaciones vulnerables en diferentes contextos, como las sesiones de terapia anonimizadas, la ocultación de información biológica identificable de menores y las redes sociales con privacidad mejorada que utilizan deepfakes para prohibir el acceso a rostros por parte de usuarios no autorizados».

Además de su detector FakeCatcher, también tienen una campaña llamada ‘My Face My Choice’ en la que fomentan el uso de deepfakes para mantener el anonimato. Su sistema permite engañar «los enfoques de reconocimiento automático de rostros en un 65% para ‘borrar’ tu rostro manteniendo el realismo de la imagen».

Las pistas para detectar un deepfake

Antiguamente, estos vídeos falsos eran borrosos y asimétricos y se podía ver a simple vista que era falso. El avance tecnológico ha provocado que se vuelva más complejo y herramientas como FakeCatcher pueden ayudar a evitar caer en el engaño.

Otras plataformas se centran en los ojos, ya que el brillo de la mirada no es el normal, los movimientos, o el audio. (elmundoalinstante.com).