SINGAPUR: El Primer Ministro Lawrence Wong enfatizó la necesidad de que la seguridad, la inclusión y la innovación avancen en conjunto dentro de la inteligencia artificial, y llamó a los países a trabajar juntos para aprovechar la tecnología emergente como una fuerza para el bien.
Wong habló el martes (21 de mayo) en una reunión virtual de líderes de la Cumbre de AI en Seúl, coorganizada por Corea del Sur y el Reino Unido.
El evento tiene como objetivo aprovechar el compromiso con la seguridad de la IA en la Cumbre de Seguridad de la IA celebrada en noviembre pasado en el Reino Unido, pero también amplía el alcance para cubrir otros aspectos del marco de gobernanza global de la IA.
La clave es aprovechar los beneficios de la IA y reducir sus daños y peligros al mismo tiempo, dijo Wong, al hacer tres sugerencias.
El primero es regular la IA sin sofocar la innovación potencial.
Pidiendo parámetros regulatorios sensatos, dijo: «Clasificar ampliamente toda la IA generativa como ‘de alto riesgo’, o regular los sistemas de IA con la condición de que no deben causar ningún daño, puede ser demasiado restrictivo e inevitablemente conducirá a una menor innovación».
Dijo que Singapur intenta lograr un equilibrio con leyes para proteger los datos personales y abordar actos delictivos en línea específicos en los que se podría utilizar la IA.
Además, el país ha desarrollado un conjunto de herramientas de pruebas de seguridad llamado AI Verify, que, según dijo, se seguirá mejorando mediante la colaboración con la comunidad de código abierto.
También es vital monitorear cómo se utiliza la IA a lo largo del tiempo y adaptar y actualizar los enfoques regulatorios cuando sea necesario.
Utilizando el ejemplo de la IA en las finanzas, como en la gestión de riesgos y la detección de fraude, dijo que los modelos de IA no siempre serán perfectos. Aun así, los reguladores financieros comprenden estos riesgos y pueden afrontarlos.
Sin embargo, la IA también se puede utilizar en áreas donde los riesgos son mucho mayores y donde puede haber resultados catastróficos si algo sale mal.
«Estos incluyen la IA integrada en sistemas de armas militares, así como el desarrollo de modelos de IA totalmente autónomos, que funcionan por sí solos sin intervención humana.
«Se pueden imaginar escenarios en los que la IA se vuelve rebelde o la rivalidad entre países conduce a consecuencias no deseadas», dijo.
Es por eso que el mundo necesita considerar cuidadosamente las normas y medidas de seguridad necesarias para garantizar que la tecnología se utilice de manera segura y responsable, añadió.
