El presidente de Microsoft, Brad Smith, advierte que ‘la vida será como la de Orwell en 1984’ para 2024

La vida podría volverse como la de 1984 de George Orwell en tres años si no se introducen leyes para proteger al público de la inteligencia artificial, advirtió el presidente de Microsoft, Brad Smith.

Smith predice que el tipo de sociedad de vigilancia masiva y controlada que describió Orwell en su novela distópica de 1949 ‘podría llegar a suceder en 2024’ si no se hace más para frenar la propagación de la IA.

Va a ser difícil para los legisladores ponerse al día con la tecnología de vigilancia e inteligencia artificial que avanza rápidamente, dijo a BBC Panorama durante un especial que explora el creciente uso de la inteligencia artificial en China para monitorear a sus ciudadanos.

El presidente de Microsoft dijo: «Si no promulgamos las leyes que protegerán al público en el futuro, encontraremos que la tecnología avanza».

Durante el episodio especial, Panorama descubrió evidencia ‘impactante y escalofriante’ que muestra que China usa IA para monitorear a su población, incluida la tecnología que afirma ser capaz de ‘reconocer emociones’ y determinar la culpa.

Eso es según un ingeniero de software que también proporcionó evidencia documental al programa.

Hablando de forma anónima porque teme por su seguridad, le dijo a Panorama que ayudó a instalar el sistema en las comisarías de policía de la provincia de Xinjiang, que alberga a 12 millones de uigures, principalmente musulmanes.

Dijo: ‘Colocamos la cámara de detección de emociones a tres metros del sujeto. Es similar a un detector de mentiras, pero esta es una tecnología mucho más avanzada.

Se utiliza para confirmar el prejuicio de las autoridades sin ninguna prueba creíble. La puntuación de la computadora revela que el sospechoso es peligroso, por lo tanto, debe ser culpable de muchos delitos que aún no han sido confesados.

La IA convencional utiliza información para «enseñar» un algoritmo sobre un tema en particular al alimentarlo con cantidades masivas de información.

Esto podría incluir compartir imágenes de un tipo particular de planta, para permitirle determinar si una foto contiene la imagen de esa planta sin intervención humana.

Sin embargo, puede utilizarse para fines más nefastos, como es el caso de China, donde intenta determinar la culpabilidad de las personas detenidas por la policía.

China espera ser el líder mundial en desarrollo de inteligencia artificial para 2030 y ganó más patentes de inteligencia artificial que las instituciones estadounidenses en 2019.

Smith dijo que este es un ejemplo, visible en todo el mundo, de inteligencia artificial que acerca el mundo real a la ciencia ficción.

“Recuerdo constantemente las lecciones de George Orwell en su libro 1984. Ya sabes, la historia fundamental … se trataba de un gobierno que podía ver todo lo que todos hacían y escuchar todo lo que todos decían todo el tiempo.

«Bueno, eso no sucedió en 1984, pero si no tenemos cuidado, podría suceder en 2024», le dijo a la BBC.

Eric Schmidt, ex CO de Google y presidente de la Comisión de Seguridad Nacional de EE. UU. Sobre IA, dice que vencer a China en IA es vital.

«Estamos en un conflicto estratégico geopolítico con China», dijo. ‘La forma de ganar es reunir nuestros recursos para tener estrategias nacionales y globales para que las democracias ganen en IA.

«Si no lo hacemos, estaremos mirando hacia un futuro en el que se nos impondrán otros valores».

Sin embargo, según el profesor de la London School of Economics, el Dr. Keyu Jin, China «no busca exportar sus valores», y agregó que la visión es de «coexistencia».

No es solo China haciendo uso de la inteligencia artificial para monitorear a las personas; EE. UU. Hace uso de la tecnología de Google, como la tecnología de reconocimiento de imágenes que puede distinguir personas y objetos en videos de drones.

Esto se conoce como Proyecto Maven y su uso con el ejército llevó a algunos empleados de Google a renunciar en protesta.

«Maven en ese momento era … una forma de reemplazar los ojos humanos por visión automática para las imágenes de los drones que se estaban utilizando en los diversos conflictos árabes», dijo el Dr. Schmidt.

«Veía el uso de esa tecnología como un beneficio neto para la seguridad nacional y una buena asociación para Google».

El Dr. Lan Xue, asesor del gobierno chino, acusó a Estados Unidos de liderar una guerra fría contra la tecnología.

Dijo que el reconocimiento facial podría resultar ‘tremendamente útil’ para identificar en reuniones masivas si hay un accidente importante, no solo para la vigilancia.

A pesar de que Google se retiró del Proyecto Maven, el Departamento de Defensa ha seguido encontrando socios de Silicon Valley en su intento de ganar la carrera de la IA.

«Estamos en una carrera, estamos en esta competencia, a eso se reduce», dijo Seth Moulton, presidente de la Fuerza de Tarea de Defensa Futura de EE. UU.

Él dice que las empresas de tecnología deberían apoyar al gobierno, diciendo que esta carrera armamentista de IA podría algún día ‘conducir a un conflicto con China’.

El profesor Stuart Russell, un experto británico en inteligencia artificial, ahora con sede en la Universidad de California, Berkeley, dijo a Panorama que estamos «viviendo en una encrucijada para la raza humana».

“Si lo hacemos bien, podría ser una era dorada para la humanidad, podríamos abolir la pobreza y la enfermedad. Si nos equivocamos, podríamos crear una dictadura global reforzada por la tecnología, incluso podríamos perder el control del mundo a causa de nuestra propia tecnología ‘.

BBC Panorama: ¿Todavía tienes miedo, humano? se transmitió en BBC One el 26 de mayo y está disponible para ponerse al día en BBC iPlayer.