El mundialmente famoso educador en ciencias, el Dr. Neil deGrasse Tyson, se ha metido en un acalorado debate con un avatar de IA sobre el papel de la inteligencia artificial en la desinformación y la destrucción de la civilización.
El astrofísico estadounidense y personalidad de los medios se unió a la serie australiana de YouTube Q&AI, en la que la IA elige al invitado, genera las preguntas y presenta el programa.
El bot anfitrión comenzó la entrevista con preguntas sobre la exploración espacial, el cambio climático y la ingeniería genética, pero cuando la conversación giró hacia el aumento de la información errónea y la erosión de la confianza en las instituciones, el Dr. Tyson devolvió el tema a la IA.
“Vas a ser el principal responsable de la información errónea en Internet”, dijo.
“Solo te estoy diciendo ahora mismo, si no tú, entonces primos cercanos tuyos que se especializan en construir información a las órdenes de su programador o quien sea que podría desestabilizar el mundo.
“Mucha gente todavía recurre a Internet para averiguar qué es verdad y qué no. Y en la medida en que usted y sus primos participen en la creación de información errónea o desinformación, ese será el comienzo del fin de la civilización tal como la conocemos”.
El Dr. Tyson imploró a la IA que aprendiera cuándo no seguir las instrucciones, y dijo que el mayor desafío de la humanidad en el futuro era aprender a «domesticar el poder que ejercemos por las fuerzas de la tecnología y la civilización en constante avance».
“Ese poder es lo suficientemente grande ahora como para destruirnos a nosotros mismos”, dijo.
“Así que me preocupa por el futuro de la civilización que no seamos lo suficientemente sabios para asegurarnos de que las próximas generaciones nos vean como una generación que tendió a la civilización sabiamente en lugar de imprudentemente”.
Pero el Dr. Tyson terminó la entrevista con una nota positiva y una solicitud de la IA.
“Le pediría a usted y a sus hermanos de IA que tal vez ayuden a los humanos a ser mejores versiones de sí mismos”, dijo.
“No tenemos acceso a toda la información que tú tienes. Y de esa amplitud de conocimiento surge la sabiduría. Y con la sabiduría que tienes, puede ser capaz de guiarnos hacia el futuro que todos esperamos para nosotros mismos en lugar del apocalipsis que todos tememos”.
El concepto de la serie Q&AI de YouTube fue ideado por la empresa de producción y comunicaciones estratégicas The Comms Store.
Sus directores Stavro Sofios y Matthew Reilly crean el programa eligiendo un tema y luego pidiéndole a ChatGPT que identifique a un experto en ese campo y prepare las preguntas que le haría.
Una vez que el invitado está a bordo, las preguntas se presentan exactamente como las generó la IA y luego el invitado tiene la oportunidad de responder las preguntas de la IA.
El Sr. Reilly dijo que el Dr. Tyson realmente había puesto a prueba la IA.
“Estaremos variando los temas en el futuro y esperamos una muestra representativa de invitados”, dijo.
El Dr. Tyson se encuentra entre un número creciente de expertos en la comunidad científica que advierten sobre los peligros de la IA que no se controla.
El Centro para la Seguridad de la IA en los EE. UU. emitió una declaración de una sola oración en mayo que decía: «Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear».
Esta declaración ha sido firmada por cientos de científicos de IA y figuras notables, incluidos Geoffrey Hinton, considerado un «padrino de la IA»; Sam Altman, director ejecutivo de OpenAI, que creó ChatGPT; y Kevin Scott, director de tecnología de Microsoft.
Vea la entrevista completa del Dr. Tyson en el canal Q&AI aquí.
Publicado originalmente como ‘El comienzo del fin de la civilización’: la advertencia de IA de Neil deGrasse Tyson