Cómo los deepfakes están a punto de destruir la responsabilidad política

Imágenes, videos y voces generados por IA, llamados deepfakes, son tan creíbles y ampliamente disponibles que las personas pronto no podrán distinguir entre medios reales y manipulados, dijo un analista de imágenes a Fox News.

«Lo importante de los deepfakes no es, ‘oh, podemos manipular audio, imágenes y videos’, siempre hemos podido hacer eso», dijo Hany Farid, profesor de la Escuela de Información de la Universidad de California, Berkeley. «Pero hemos democratizado el acceso a la tecnología que solía estar en manos de unos pocos y ahora está en manos de muchos».

«Cuando entramos en este mundo donde cualquier audio, imagen o video puede ser manipulado, bueno, entonces, ¿cómo crees algo?» Farid continuó. “Cada vez que veo al presidente hablar o a un candidato hablar o a un CEO hablar o a un reportero hablar, ahora hay una duda persistente”.

PROFESOR DE UC BERKLEY Emite ADVERTENCIA SOBRE IMÁGENES Y VIDEOS DE IA DEEPFAK:

MIRA MÁS ORIGINALES DIGITALES DE FOX NEWS AQUÍ

La IA se ha utilizado recientemente para manipular imágenes y videos del campo de batalla de la guerra en Ucrania y para generar Getty Images como la Papa vistiendo ropa de diseñador. A principios de este mes, las compañías de medios advirtieron a los lectores que no creyeran en las fotos falsas del expresidente Trump generadas por IA antes de su acusación.

«Las campañas de desinformación ahora se alimentarán con audio, imágenes y videos generativos de IA», dijo Farid a Fox News.

Los analistas de inteligencia han advertido que las falsificaciones profundas podrían afectar las elecciones y la opinión pública a gran escala. Como resultado del rápido crecimiento reciente de la IA, los líderes tecnológicos como Elon Musk han pedido una pausa en el desarrollo a gran escala por motivos de seguridad.

CREEPY APOLLO 11 NIXON DEEPFAKE VIDEO CREADO POR MIT PARA MOSTRAR LOS PELIGROS DE LA DESINFORMACIÓN DE ALTA TECNOLOGÍA

Farid advirtió que cuando las líneas entre lo real y lo falso se difuminan, será más difícil para los usuarios de Internet distinguir lo verdadero de lo falso.

“Las falsificaciones son cada vez más reales y más difíciles de discernir, particularmente a la velocidad a la que funciona Internet”, dijo el profesor. «Así que eso es realmente preocupante cuando no podemos confiar en las cosas que leemos, vemos y escuchamos en línea».

Otra preocupación sobre las falsificaciones profundas es la capacidad de generar imágenes sexuales no consensuadas, dijo Farid a Fox News.

ESPELUZNANTE DEEPFAKE BOT CREÓ DESNUDOS FALSOS MEDIANTE IMÁGENES DE ‘DESVESTIRSE’ DE MÁS DE 100.000 MUJERES: INVESTIGACIÓN

“La gente está tomando la imagen de mujeres, ya sea de un político, un periodista, un profesor, alguien que acaba de atraer atención no deseada e inserta su imagen en material sexualmente explícito y luego bombardea Internet con eso como arma”, dijo.

Además, Farid dijo que las estafas que utilizan voces generadas por IA para extorsionar a las familias por dinero están en aumento.

«Hemos visto un aumento sorprendente en el fraude donde las personas ahora reciben llamadas telefónicas de lo que parece ser que sus seres queridos dicen que están en problemas», dijo Farid. «Parece que tu ser querido está en pánico y le envías dinero».

Hacer deepfakes y usar IA para las tareas diarias solo será más fácil y pronto se podrá hacer usando un teléfono celular, dijo Farid.

«Deberíamos pensar con mucho cuidado sobre cómo vamos a distinguir lo real de lo falso», dijo a Fox News.

Para ver la entrevista completa con Farid, haga clic aquí.