La tecnología Deepfake implica la creación de medios sintéticos, generalmente material de video, utilizando inteligencia artificial y herramientas de aprendizaje automático que permiten manipular las expresiones faciales y el habla de un individuo para que parezcan reales.
Los políticos de alto nivel llevan mucho tiempo soportando la peor parte de estas tecnologías, con videos falsificados de la canciller alemana Merkel, el ex presidente estadounidense Obama y el ex primer ministro italiano Matteo Renzi.
El propósito de los videos deepfake con motivación política es avivar el malestar social y la polarización política entre los usuarios en línea, mediante la entrega de mensajes falsificados de líderes conocidos. Europol espera que los medios de los productores sean más avanzados tecnológicamente en el futuro.
“Se espera que las personas y grupos detrás del abuso de deepfakes adapten su modus operandi con el objetivo de evadir la detección y entrenar sus modelos para seguir las medidas de contradetección”, afirma el informe de Europol, publicado el jueves (19 de noviembre).
“Deepfakes puede, en este sentido, convertirse en un desafío significativo para las técnicas de autenticación y análisis forense audiovisual actuales empleadas por las industrias, las autoridades competentes, los profesionales de los medios y la sociedad civil”, el documento, que examina el panorama de amenazas para las tecnologías de inteligencia artificial. , agrega.
Con el fin de abordar los desafíos futuros que plantea el desarrollo de herramientas deepfake más sofisticadas, el informe, elaborado junto con el Instituto Interregional de Investigación sobre la Justicia y la Delincuencia de las Naciones Unidas (UNICRI) y Trend Micro, recomienda a los organismos encargados de hacer cumplir la ley que establezcan medios más avanzados para detectar el próximo -Generación de contenido de audio y video manipulado.
“Es necesario no solo realizar inversiones significativas para desarrollar una nueva tecnología de detección para detectar alteraciones e irregularidades en el contenido visual y de audio, sino también para garantizar que dichas herramientas se mantengan actualizadas para reflejar la evolución de la tecnología de creación de deepfake, incluido el presente y el posible futuro abuso malintencionado de dicha tecnología “.
“Para optimizar los esfuerzos y abordar las brechas actuales, el desarrollo de sistemas para combatir las falsificaciones profundas debe realizarse de manera colaborativa entre la industria y los usuarios finales de las autoridades competentes”.
¿Ley de servicios digitales para tomar medidas drásticas contra los deepfakes?
En Bruselas, la Comisión Europea está dando los toques finales a su próxima Ley de Servicios Digitales, un ambicioso marco regulatorio que introducirá nuevas reglas en áreas que van desde la moderación del contenido hasta la publicidad en línea y la transparencia de los algoritmos. Las nuevas reglas serán presentadas por el ejecutivo de la UE el 9 de diciembre.
Un documento reciente financiado por el Ministerio de Relaciones Exteriores de Alemania y discutido en el Grupo de Trabajo sobre Amenazas Híbridas del Consejo de la UE establece que la Ley de Servicios Digitales podría incluir ‘oportunidades de regulación’ contra las ‘amenazas deepfake’.
Sin embargo, es poco probable que las obligaciones estrictas en las plataformas como parte de la Ley de Servicios Digitales puedan imponer reglas sobre la eliminación de dicho contenido.
“Para abordar la desinformación y el contenido dañino, debemos centrarnos en cómo se distribuye y muestra este contenido a las personas en lugar de presionar para que se elimine”, dijo recientemente Věra Jourová, vicepresidenta de Valores y Transparencia de la Comisión Europea.
Si bien podría haber reglas para reprimir la viralidad de contenido nefasto, como deepfakes en la Ley de Servicios Digitales de la UE, es probable que la Comisión también aborde el desafío de tratar este material en línea en el próximo Plan de Acción para la Democracia, que se perfeccionará en sobre noticias falsas en el contexto de injerencias externas y manipulación en las elecciones.
Jourová dijo, como parte de una videoconferencia en línea esta semana, que las nuevas medidas, que presentará la Comisión el 2 de diciembre, reforzarán la aplicación del código de prácticas de la UE contra la desinformación, un marco voluntario que introduce una serie de mejores prácticas para signatarios, incluidos Google, Facebook y Twitter, para cumplir.
El código fue introducido por la Comisión en octubre de 2018, en un intento por combatir las noticias falsas en el contexto de las elecciones al Parlamento Europeo de mayo de 2019.
La iniciativa recibió fuertes críticas a principios de este año, y una serie de estados miembros de la UE calificaron el marco de autorregulación como “insuficiente e inadecuado”.
[Edited by Zoran Radosavljevic]