Los rostros falsos creados por inteligencia artificial (IA) parecen más confiables que los rostros de personas reales, revela un nuevo estudio preocupante.
Los investigadores realizaron varios experimentos para ver si las caras falsas creadas por marcos de aprendizaje automático podían engañar a los humanos.
Descubrieron que los rostros generados sintéticamente no solo son altamente fotorrealistas, sino que también son casi indistinguibles de los rostros reales, e incluso se considera que son más confiables.
Debido a los resultados, los investigadores piden salvaguardas para evitar que las ‘falsificaciones profundas’ circulen en línea.
Deepfakes ya se han utilizado para la llamada «pornografía de venganza», fraude y propaganda, lo que lleva a la pérdida de identidad y la difusión de noticias falsas.
¿Real o sintetizado? Este compuesto muestra la mayoría (los ocho primeros) y los menos (ocho últimos) rostros reales (R) y sintéticos (S) clasificados con precisión en el estudio.
El nuevo estudio fue realizado por Sophie J. Nightingale en la Universidad de Lancaster y Hany Farid en la Universidad de California, Berkeley.
«Nuestra evaluación del realismo fotográfico de rostros sintetizados por IA indica que los motores de síntesis han atravesado el «valle inquietante» y son capaces de crear rostros que son indistinguibles, y más confiables, que los rostros reales», dicen.
«Quizás lo más pernicioso es la consecuencia de que en un mundo digital en el que cualquier imagen o video puede falsificarse, la autenticidad de cualquier grabación inconveniente o no deseada puede ser cuestionada».
Para el estudio, los expertos usaron caras falsas que se crearon con StyleGAN2, una ‘red antagónica generativa’ de la empresa tecnológica estadounidense Nvidia.
Las redes antagónicas generativas (o GAN, por sus siglas en inglés) funcionan enfrentando dos algoritmos entre sí, en un intento de crear representaciones convincentes del mundo real.
En el primer experimento, 315 participantes clasificaron 128 rostros tomados de un conjunto de 800 como reales o sintetizados.
Descubrieron que su tasa de precisión era del 48 por ciento, cerca de una probabilidad de rendimiento del 50 por ciento.
En un segundo experimento, 219 nuevos participantes fueron capacitados y recibieron comentarios sobre cómo clasificar rostros.
Clasificaron 128 rostros tomados del mismo conjunto de 800 rostros que en el primer experimento, pero a pesar de su entrenamiento, la tasa de precisión solo mejoró al 59 por ciento.
Entonces, los investigadores decidieron averiguar si las percepciones de confiabilidad podrían ayudar a las personas a identificar imágenes artificiales con un tercer experimento.
«Los rostros brindan una rica fuente de información, con una exposición de solo milisegundos suficiente para hacer inferencias implícitas sobre rasgos individuales como la confiabilidad», dicen los autores.
Un conjunto representativo de rostros reales y sintéticos coincidentes (en términos de género, edad, raza y apariencia general)
El tercer experimento pidió a 223 participantes que calificaran la confiabilidad de 128 rostros tomados del mismo conjunto de 800 rostros en una escala de 1 (muy poco confiable) a 7 (muy confiable).
La valoración media de los rostros sintéticos fue un 7,7 % más fiable que la valoración media de los rostros reales, que es «estadísticamente significativa».
Las caras negras se calificaron como más confiables que las caras del sur de Asia, pero por lo demás no hubo ningún efecto entre razas.
Sin embargo, las mujeres fueron calificadas como significativamente más confiables que los hombres.
Los investigadores afirman que si las caras sonreían o no, lo que podría haber aumentado la percepción de confiabilidad, no afectó los resultados.
“Es más probable que una cara sonriente se califique como confiable, pero el 65,5 por ciento de las caras reales y el 58,8 por ciento de las caras sintéticas sonríen, por lo que la expresión facial por sí sola no puede explicar por qué las caras sintéticas se califican como más confiables”, señalan. .
En cambio, sugieren que las caras sintetizadas pueden considerarse más confiables porque se parecen a las caras promedio, que a su vez se consideran más confiables.
Para proteger al público de las ‘deepfakes’, los investigadores también propusieron pautas para la creación y distribución de imágenes sintetizadas.
Las salvaguardas podrían incluir, por ejemplo, la incorporación de marcas de agua sólidas en las redes de síntesis de imágenes y videos que proporcionarían un mecanismo posterior para una identificación confiable.
Las cuatro caras más (arriba) y las cuatro menos (abajo) confiables y su calificación de confianza en una escala de 1 (muy poco confiable) a 7 (muy confiable). Los rostros sintéticos (S) son, en promedio, más confiables que los rostros reales (R)
“Debido a que es la democratización del acceso a esta poderosa tecnología lo que representa la amenaza más significativa, también alentamos a reconsiderar el enfoque de laissez-faire a menudo para el público y la liberación ilimitada de código para que cualquiera lo incorpore a cualquier aplicación.
«En este momento crucial, y como lo han hecho otros campos científicos y de ingeniería, alentamos a la comunidad gráfica y visual a desarrollar pautas para la creación y distribución de tecnologías de medios sintéticos que incorporen pautas éticas para investigadores, editores y distribuidores de medios».
El estudio ha sido publicado en la revista procedimientos de la Academia Nacional de Ciencias.
