Los científicos pueden detectar deepfakes con una nueva herramienta de inteligencia artificial – Review Geek

Retratos deepfake con resultados de análisis de córnea debajo
Shu Hu / Yuezan Li / Siwei Lyu, Universidad de Buffalo

Gracias a un nueva herramienta de IA creado por científicos informáticos en el Universidad de Buffalo, ahora podemos detectar deepfakes de estilo retrato con un 94% de precisión. ¿Cómo hace esto la herramienta? Analizando los patrones de reflexión de la luz que se ven en cada una de las córneas de la persona fotografiada, que deben verse iguales, no diferentes.

Las córneas tienen una superficie similar a un espejo que debería tener una forma de reflejo similar causada por la iluminación de la habitación o el área en la que se encuentran. En las fotos reales, los ojos siempre tendrán un patrón de reflexión casi idéntico. Sin embargo, deepfake imágenes, que son creadas por redes generativas adversarias (GAN): por lo general, no logran sintetizar con precisión la semejanza y, en cambio, generan reflejos únicos e inconsistentes en cada córnea, a veces incluso con ubicaciones que no coinciden.

La herramienta de IA, entonces, mapea la cara, escanea los ojos y analiza el reflejo en cada ojo. Luego genera una puntuación de métrica de similitud que determina la probabilidad de que la imagen sea una deepfake real. Cuanto menor sea la puntuación, mayor será la posibilidad de que una imagen sea una deepfake. La herramienta demostró ser eficaz al escanear deepfakes en Esta persona no existe, un sitio web lleno de imágenes de personas falsas que utilizan la arquitectura StyleGAN2.

Sin embargo, los científicos que crearon la herramienta notaron que tiene algunas limitaciones, la principal de las cuales es que depende de que haya una fuente de luz reflejada visible en ambos ojos. Si alguien está guiñando un ojo o parpadeando, es probable que no funcione; tampoco lo hará si el sujeto está parcialmente girado y no está mirando directamente a la cámara, ya que solo se ha demostrado que tiene éxito en imágenes de retrato. Además, cualquiera que sea lo suficientemente competente en Photoshop puede editar estas inconsistencias, lo que probablemente inutilizaría la herramienta de inteligencia artificial.

A pesar de estas limitaciones, la herramienta aún marca un gran paso adelante para este tipo de tecnología. No reventará deepfakes sofisticados en el corto plazo, pero puede detectar los más simples y sentar las bases para una tecnología de detección más poderosa en el futuro que vaya junto con nuestras capacidades actuales de detección. audio y video deepfakes.

vía La próxima web

Deja un comentario

En esta web usamos cookies para personalizar tu experiencia de usuario.    Política de cookies
Privacidad