En medio de profundas preocupaciones sobre los riesgos que plantea la inteligencia artificial, la administración de Biden ha alineado los compromisos de siete empresas tecnológicas, incluidas OpenAI, Google y Meta, para cumplir con los principios de seguridad y confianza en el desarrollo de la IA.
Representantes de siete «compañías líderes en IA» (Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI) asistirán a un evento el viernes en la Casa Blanca para anunciar que la administración Biden-Harris ha obtenido compromisos voluntarios de las empresas para «ayudar a avanzar hacia un desarrollo seguro, protegido y transparente de la tecnología de IA», según la Casa Blanca.
“Las empresas que están desarrollando estas tecnologías emergentes tienen la responsabilidad de garantizar que sus productos sean seguros”, dijo la administración Biden en un comunicado el viernes. “Para aprovechar al máximo el potencial de la IA, la Administración Biden-Harris alienta a esta industria a mantener los más altos estándares para garantizar que la innovación no se produzca a expensas de los derechos y la seguridad de los estadounidenses”.
Tenga en cuenta que los acuerdos voluntarios de Meta, Google, OpenAI y los demás son solo eso: son promesas de seguir ciertos principios. Para garantizar las protecciones legales en el espacio de la IA, dijo la administración de Biden, “buscará una legislación bipartidista para ayudar a Estados Unidos a liderar el camino en la innovación responsable” en inteligencia artificial.
Los acuerdos “son un primer paso importante para garantizar que las empresas prioricen la seguridad a medida que desarrollan sistemas generativos de IA”, dijo Paul Barrett, subdirector del Centro Stern para Empresas y Derechos Humanos de la NYU. “Pero los compromisos voluntarios anunciados hoy no se pueden hacer cumplir, por lo que es vital que el Congreso, junto con la Casa Blanca, elaboren rápidamente una legislación que requiera transparencia, protección de la privacidad e investigación intensificada sobre la amplia gama de riesgos que plantea la IA generativa”.
Los principios que han acordado las siete empresas de IA son los siguientes:
Desarrollar «mecanismos técnicos robustos» para garantizar que los usuarios sepan cuándo se genera contenido mediante IA, como un sistema de marcas de agua para reducir los riesgos de fraude y engaño.
Informar públicamente las capacidades, limitaciones y áreas de uso apropiado e inapropiado de los sistemas de IA, cubriendo tanto los riesgos de seguridad como los riesgos sociales, como «los efectos sobre la equidad y el sesgo».
Comprometerse con pruebas de seguridad internas y externas de los sistemas de IA antes del lanzamiento, para mitigar los riesgos relacionados con la bioseguridad y la ciberseguridad, así como daños sociales más amplios.
Comparta información en toda la industria y con los gobiernos, la sociedad civil y la academia sobre la gestión de los riesgos de la IA, incluidas las mejores prácticas para la seguridad, información sobre los intentos de eludir las salvaguardas y la colaboración técnica.
Invierta en seguridad cibernética y salvaguardas de «amenazas internas» para proteger los pesos de modelos propietarios e inéditos.
Facilite el descubrimiento y la notificación de vulnerabilidades en los sistemas de IA por parte de terceros.
Priorizar la investigación sobre los riesgos sociales que pueden plantear los sistemas de IA, incluso para evitar la discriminación y los sesgos perjudiciales.
Desarrollar e implementar sistemas avanzados de inteligencia artificial «para ayudar a abordar los mayores desafíos de la sociedad», que van desde «la prevención del cáncer hasta la mitigación del cambio climático».
La Casa Blanca dijo que ha consultado sobre compromisos voluntarios de seguridad de IA con otros países, incluidos Australia, Brasil, Canadá, Chile, Francia, Alemania, India, Israel, Italia, Japón, Kenia, México, Países Bajos, Nueva Zelanda, Nigeria, Filipinas, Singapur, Corea del Sur, Emiratos Árabes Unidos y Reino Unido.
La Casa Blanca dijo que la Oficina de Administración y Presupuesto pronto publicará un borrador de orientación de políticas para que las agencias federales garanticen que el desarrollo, la adquisición y el uso de los sistemas de inteligencia artificial se centren en salvaguardar los derechos y la seguridad de los estadounidenses.
