El presidente Joe Biden habla mientras se reúne con expertos e investigadores de IA en el Hotel Fairmont en San Francisco, el 20 de junio de 2023.
Jane Tyska | Grupo Medianoticias | Getty Images
Las siete principales empresas de inteligencia artificial, incluidas Google, microsoft y OpenAI, se reunirán en la Casa Blanca el viernes, comprometiéndose a crear formas para que los consumidores identifiquen los materiales generados por IA y prueben la seguridad de sus herramientas antes del lanzamiento público.
AmazonasAntrópico, Inflexión y Meta completar el grupo de posibles asistentes. Cada una de las siete empresas acordó el viernes un conjunto de compromisos voluntarios en el desarrollo de tecnología de IA.
Los compromisos incluyen:
- Desarrollar una forma para que los consumidores identifiquen el contenido generado por IA, como a través de marcas de agua.
- Involucrar a expertos independientes para evaluar la seguridad de sus herramientas antes de lanzarlas al público.
- Compartir información sobre mejores prácticas e intentos de eludir las salvaguardas con otros actores de la industria, gobiernos y expertos externos.
- Permitir que terceros busquen y reporten vulnerabilidades en sus sistemas.
- Informar las limitaciones de su tecnología y orientar sobre los usos apropiados de las herramientas de IA.
- Priorizar la investigación sobre los riesgos sociales de la IA, incluso en torno a la discriminación y la privacidad.
- Desarrollar IA con el objetivo de ayudar a mitigar los desafíos sociales como el cambio climático y las enfermedades.
La seguridad se ha convertido en una preocupación principal en el mundo de la IA desde el lanzamiento de ChatGPT por parte de OpenAI a fines del año pasado, que puede responder a entradas de texto simples con respuestas sofisticadas, creativas y conversacionales. Las principales empresas tecnológicas y los inversores están inyectando miles de millones de dólares en los grandes modelos de lenguaje detrás de la llamada IA generativa.
La tecnología tiene tal poder potencial que los principales actores en el espacio han expresado temores públicos de moverse demasiado rápido. En una carta abierta en mayo, los expertos y líderes de la industria escribieron que «mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear».
Los últimos compromisos son parte de un esfuerzo del presidente Biden para garantizar que la IA se desarrolle con las garantías adecuadas, sin obstaculizar la innovación. El Congreso está considerando las reglas que rodean a la IA, aunque la implementación de los estándares podría demorar meses o años, ya que los legisladores continúan aprendiendo de los expertos sobre cómo funciona la tecnología y los riesgos relevantes involucrados.
Los ejecutivos programados para asistir a la reunión de la Casa Blanca el viernes son el director ejecutivo de Amazon Web Services, Adam Selipsky, el director ejecutivo de Anthropic, Dario Amodei, el director de asuntos globales de Google, Kent Walker, el director ejecutivo de Inflection, Mustafa Suleyman, el director de asuntos globales de Meta, Nick Clegg, el presidente de Microsoft, Brad Smith, y el presidente de OpenAI, Greg Brockman.
La administración Biden dijo que ya ha consultado con muchos otros países sobre los compromisos voluntarios y está trabajando para asegurarse de que complementen los esfuerzos internacionales cuando se trata de colocar barandas alrededor de la tecnología.
La vicepresidenta Kamala Harris recibió anteriormente a los directores ejecutivos de AI y a expertos en libertades civiles y laborales para evaluar los desafíos que conlleva la IA.
VEA: Cómo la IA podría afectar los trabajos de los codificadores subcontratados en la India
