Facebook ha desarrollado una inteligencia artificial que quiere identificar imágenes deepfake para después rastrear a sus creadores. Un deepfake consiste en un video en el que la voz y la cara de una persona es cambiada por un software de inteligencia artificial, lo que provoca que el video alterado parezca autentico. Esta técnica es usada sobre todo con figuras públicas. Facebook analiza las similitudes entre una colección de distintos deepfakes para ver si tienen un origen compartido, buscando patrones únicos como pequeñas motas de ruido o pequeñas rarezas en el espectro de color de una imagen.
Al identificar las huellas dactilares menores en una imagen, la inteligencia artificial de Facebook puede discernir detalles de cómo se diseñó la red neuronal que creó la imagen, como el tamaño del modelo o cómo se entrenó. «¿Cómo podríamos, con solo mirar una foto, saber cuántas capas tiene una red neuronal profunda o con qué función de pérdida se entrenó? dice Tal Hassner, líder de ciencias aplicadas de la inteligencia artificial de Facebook.
La complejidad de la inteligencia artificial
Hassner y sus compañeros probaron la inteligencia artificial en una base de datos de 100.000 imágenes deepfake generadas por 100 modelos generativos diferentes que hacen 1000 imágenes cada uno. Algunas de esas imágenes se utilizaron para entrenar el modelo, mientras que otras se retuvieron y se presentaron al modelo como imágenes de origen desconocido.localizar deepfakes.
