Dos de los tres padrinos de la IA son profesores con sede en Canadá. Uno de ellos, Geoffrey Hinton de la Universidad de Toronto, dejó recientemente su trabajo en Google para hablar con más franqueza sobre los riesgos de la inteligencia artificial.
El otro, Yoshua Bengio de la Université de Montréal, se hizo eco del sonido de esa alarma en una carta abierta reciente instando a una pausa en el desarrollo de sistemas de IA cada vez más poderosos.
Se encuentra entre los varios nombres de alto perfil, incluidos Elon Musk y el cofundador de Apple, Steve Wozniak, que creen que es hora de acelerar los descansos, aunque solo sea por seis meses.
[Read: ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead]
[Read Dan Bilefsky’s 2019 Saturday Profile of Yoshua Bengio: He Helped Create A.I. Now, He Worries About ‘Killer Robots’]
“Es debido a que hay una aceleración inesperada (probablemente no habría firmado una carta así hace un año) que debemos dar un paso atrás y que mi opinión sobre estos temas ha cambiado”, dijo el profesor Bengio en un correo en su blog. “Logramos regular las armas nucleares a escala global después de la Segunda Guerra Mundial, podemos llegar a un acuerdo similar para la IA”
Canadá está lejos de firmar la legislación, que se espera que entre en vigencia no antes de 2025. Se necesitan varios meses más para establecer las regulaciones para el proyecto de ley, C-27, la Ley de Inteligencia Artificial y Datos, que se presentó el pasado Junio.
En el corto plazo, los reguladores de privacidad canadienses están investigando una queja no especificada sobre si el chatbot ChatGPT recopila, usa o divulga de manera inapropiada los datos de los canadienses sin el consentimiento adecuado. El jueves, la oficina del comisionado federal de privacidad anunció que sus contrapartes provinciales en Quebec, Columbia Británica y Alberta se unirían a la investigación.
“Como reguladores, debemos mantenernos al día y adelantarnos a los rápidos avances tecnológicos para proteger los derechos fundamentales de privacidad de los canadienses”, dijo Philippe Dufresne, comisionado de privacidad, en un comunicado. declaración.
La adopción de herramientas públicas de IA, especialmente ChatGPT, abreviatura de «Transformador preentrenado generativo», ha sido explosiva. Los analistas del banco suizo UBS estimaron en un informe de mayo que ChatGPT, creado por la empresa OpenAI con sede en San Francisco, alcanzó más de 200 millones de usuarios activos mensuales en abril, el doble que en enero, aunque la tendencia muestra signos de estancamiento. .
En menos de seis meses, ChatGPT parece haberse multiplicado. Ha aparecido en los campus universitarios como una herramienta para fabricar cursos y ha sido restringido por las universidades. Se está utilizando para filtrar prospectos románticos en aplicaciones de citas. Y como descubrieron mis colegas, el columnista de tecnología del Times Kevin Roose y Emma Goldberg, que cubre el futuro del trabajo para el departamento de negocios, estos chatbots de IA pueden llevar a algunas conversaciones bastante alucinantes.
[Read Kevin’s story: A Conversation With Bing’s Chatbot Left Me Deeply Unsettled]
[Read Emma’s story: ChatFished: How to Lose Friends and Alienate People With A.I.]
El mercado de valores probó las consecuencias más aterradoras del mal uso de la IA a principios de esta semana, cuando los precios se desplomaron después de que circularan en Internet imágenes que mostraban un edificio cerca del Pentágono aparentemente en llamas. Resultó ser una parodia generada por IA.
Mientras presiona por una desaceleración en el desarrollo de los sistemas de súper IA, el profesor Bengio, quien también es el fundador y director científico de Mila (también conocido como el Instituto de Inteligencia Artificial de Quebec), también pide al gobierno canadiense que acelere los esfuerzos de regulación. .
Valerie Pisano, presidenta y directora ejecutiva de Mila, dijo que había pasos que el gobierno podría tomar de inmediato, como exigir etiquetas apropiadas para identificar texto, imágenes o voces generadas por IA, para proteger al público de algunos de los peligros de la tecnología, como campañas de desinformación durante las elecciones y alteraciones en el mercado laboral.
[Read: A.I.’s Threat to Jobs Prompts Question of Who Protects Workers]
“Esta tecnología está llegando a nuestras vidas mucho, mucho más rápido que cualquier cosa que hayamos visto antes”, me dijo la Sra. Pisano y dijo que la regulación se estaba quedando demasiado atrás. “Esta brecha está creando un desequilibrio que es realmente preocupante”.
La Sra. Pisano, junto con académicos, investigadores y líderes de la industria en Canadá están preguntando al gobierno aumentar la supervisión del gobierno a través del proyecto de ley C-27 y actuar rápidamente.
Luke Stark, investigador de la historia y la ética de la IA y profesor asistente en la Universidad Western en London, Ontario, me dijo que está complacido de ver que la investigación del comisionado de privacidad está en marcha mientras tanto.
“La cuestión de dónde proviene el material que se ha utilizado para entrenar estos grandes modelos de lenguaje es claramente un gran problema”, dijo el profesor Stark. Ese problema, agregó, “se ha perdido un poco en la prisa por promocionar estas tecnologías, para bien o para mal”.
Trans Canadá
-
Los votantes de Alberta se dirigen a las urnas el lunes para elegir a su próximo primer ministro. Ian Austen visitó Calgary y viajó por la región rural del sur de Alberta, hablando con canadienses conservadores que estaban reconsiderando sus opciones después del giro radical a la derecha del partido.
-
Grimes, un músico y productor canadiense, habló con Joe Coscarelli, un reportero de cultura de The Times, sobre su nueva herramienta de inteligencia artificial que ha «abierto» su voz.
-
Para aquellos que viajan por Vancouver durante un fin de semana de verano, aquí hay algunas recomendaciones de restaurantes, tiendas, lugares para visitar y cosas para ver en la ciudad como parte de la serie 36 horas de The Times.
-
Estados Unidos está compitiendo con Canadá y otros países para asegurar los minerales críticos necesarios para fabricar autos eléctricos y otros artículos en la transición energética.
-
¿Eres un ávido observador de aves, o incluso un principiante? La sección de Ciencias del Times está trabajando en un proyecto con el Laboratorio de Ornitología de Cornell y está recibiendo propuestas de los lectores. Aprende más aquí.
Vjosa Isai es reportera-investigadora de The New York Times en Canadá. Síguela en Twitter en @lavjosa.
¿Cómo vamos?
Estamos ansiosos por conocer su opinión sobre este boletín y los eventos en Canadá en general. Envíelos a [email protected].
¿Te gusta este correo electrónico?
Reenvíalo a tus amigos y hazles saber que pueden registrarse aquí.
