La forma de la pupila expone los rostros falsos generados por redes generativas antagónicas GAN

Publicado el
La forma de la pupila expone los rostros falsos generados por redes generativas antagónicas GAN

(Guo et al., arXiv, 2021)

Científicos informáticos utilizan una herramienta para detectar los rostros falsos generados por las redes generativas antagónicas, basándose en la forma de la pupila.

Nada es lo que parece

Las redes generativas antagónicas, o GANs por sus siglas en inglés, son algoritmos de inteligencia artificial que permiten usar el deep learning para generar imágenes que parecen reales, como rostros de personas. Estos rostros altamente realistas se han usado como imágenes de perfil en cuentas de redes sociales falsas y son visualmente difíciles de distinguir de las reales.

Afortunadamente, científicos liderados por Hui Guo, especialista en informática de la Universidad Estatal de Nueva York, han descubierto una forma de detectar los rostros falsos generados por la IA.

«Proponemos un nuevo método de base fisiológica que puede utilizar las formas irregulares de las pupilas como una señal para detectar las caras generadas por GAN, algo simple pero eficaz»

De acuerdo a su estudio en estado de preimpresión, se basaron en la forma de las pupilas de los rostros reales. Notaron que el acercarse bastante a ojos artificiales revelaba una curiosa característica. Estos, a diferencia de las pupilas reales, no eran redondeadas.

«Comparando con los rostros reales, evidenciamos inconsistencias visibles en las regiones oculares de los rostros generados por GAN», comenta Guo.

Ahí está el detalle

Al parecer, la razón detrás de este fenómeno es que las herramientas GAN no consideran la anatomía del ojo humano, sobre todo las formas geométricas de las pupilas regulares.

Los investigadores diseñaron un experimento que ejecutaba una herramienta de detección que extrae automáticamente los contornos de las pupilas de los ojos en las fotos y luego los evalúa para verificar si tienen formas elípticas. Así, analizaron 2000 imágenes (1000 caras reales y 1000 falsas) de una base de datos.

Con su experimento descubrieron que las formas irregulares de las pupilas de los rostros generados por la GAN son completamente diferentes a las pupilas humanas, al menos en materia de forma.

«En este trabajo, mostramos que las caras generadas por GAN pueden exponerse a través de formas irregulares de pupilas«, escriben en su artículo.

Según el equipo, una tecnología como esta algún día servirá para contrarrestar el uso malicioso de falsificaciones de apariencia realista utilizados con el fin de engañar a las personas en las plataformas de redes sociales, así como en otros lugares.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.