Reconocimiento facial por medio de Inteligencia Artificial. iStockPhoto.com
El uso de la fuerza desmedida por parte de la policía, puntualmente en los Estados Unidos, ocupa la primera plana de la prensa de todo el mundo luego de los incidentes que llevaron a la muerte de George Floyd de manos de la policía de Minneapolis. Una petición oficial de grupos antirracistas instaron al gigante informático Amazon a poner fin a la colaboración tecnológica con la policía de Estados Unidos ya que, según estos grupos, estas tecnologías no solo se nutren de la injusticia, desigualdad y violencia sistemática contra las comunidades negras sino que las fomentan constantemente.
Ante este pedido y la presión de los grupos antirracistas contra Amazon, la firma del empresario Jeff Bezos decidió prohibir a la policía el uso de la tecnología de reconocimiento facial, basada en Inteligencia artificial, conocida como “Rekognition”, durante el lapso de un año. En un comunicado de prensa hecho público el miércoles pasado, Amazon aseguró que “se está trabajando para lograr regulaciones gubernamentales más estrictas sobre el uso ético de las tecnologías de reconocimiento facial, y el Congreso de Estados Unidos parece estar listo para aceptar dicho desafío”.
Protesta contra la desigualdad racial después de la muerte de George Floyd, en Nueva York. REUTERS/Idris Solomon
La muerte de George Floyd, un ciudadano afroamericano, que fue asfixiado por un policía blanco dejando imágenes escalofriantes reflejadas frente a numerosas cámaras hace un par de semanas en Minnesota, ha empujado a la sociedad en general a una reflexión sobre las técnicas utilizadas por la policía y ha puesto presión en diferentes ámbitos de la sociedad y sobre todo en las autoridades y en las empresas, gracias a movilizaciones en casi todos los estados de Estados Unidos y una importante campaña en las redes sociales. Este movimiento de manifestantes exigió puntualmente una reforma de gran amplitud con respecto a los sistemas de vigilancia utilizados por las autoridades, que según ellos, estaba dirigido desproporcionadamente contra la población negra de ese país.
Uno de los mayores logros de estas manifestaciones se vio reflejado en la Cámara de Representantes de Estados Unidos, de mayoría demócrata, que presentó en el recinto, una legislación para intentar cambiar la cultura dentro de la policía de Estados Unidos. Esta legislación incluye la creación de un registro nacional para los efectivos policiales que incurren en faltas de conducta, dando la posibilidad al enjuiciamiento de los policías y replanteando todo el proceso de reclutamiento y capacitación.
En el caso puntual de Amazon y su sistema de reconocimiento facial, hace ya casi dos años que la Unión Americana de Libertades Civiles (ACLU) viene pidiendo formalmente a la empresa que deje de suministrar su tecnología a la policía.
El logo de Amazon en Lauwin-Planque, en el norte de Francia. Abril de 2020. REUTERS/Pascal Rossignol/File Photo
En realidad, la controversia con los sistemas de reconocimiento facial es intensa no solo por la altísima tasa de falsos positivos que da como resultado sino por el sesgo racial y de género que gira en torno a esa tasa. Según indica el sitio Hypertextual, tanto las mujeres como la población negra se ve altamente discriminada ante una falibilidad mucho mayor.
En el año 2018, se llevaron a cabo estudios que indicaron que el sistema de reconocimiento facial de Amazon, “Rekognition”, había vinculado alrededor de 28 miembros del Congreso de Estados Unidos con caras de una base de datos de criminales. En el 2019, 27 atletas del Reino Unido fueron vinculados igualmente con bases de datos de delincuentes. En esa ocasión, la ACLU encontró que las personas negras eran significativamente más proclives al error.
Amazon tiene como clientes a numerosos departamentos de policía de EEUU e inclusive, según indica CNBC, “Rekognition” fue presentado a los responsables del sistema de Inmigración y Aduanas de Estados Unidos. Amazon todavía no hizo pública ninguna lista donde se mencionan los “clientes e instituciones” de este tipo que utilizan el sistema. Según algunos especialistas, la lista que hace pública Amazon no contiene a todos sus clientes.
Un artículo aparecido en Radio-Canadá, con informaciones de AFP, indica que un colectivo de organizaciones que responde al nombre de Athena, aseguran que Amazon viene buscando ya hace mucho tiempo ser la columna vertebral de este tipo de tecnologías utilizadas por las fuerzas del “bien y el orden”, incluyendo los servicios de la “nube”, cámaras de vigilancia “Ring”, entre otros.
En octubre del año pasado, Amazon había explicado que el reconocimiento facial podría ser mal utilizado. Según la empresa, los equipos técnicos estaban proporcionando orientación a los clientes de “Rekognition”, sobre todo a los organismos encargados de hacer cumplir la ley sobre cómo utilizar correctamente dicho software.
iStockPhoto.com
Mientras tanto, IBM decidió el lunes pasado, suspender la venta de software de reconocimiento facial con fines de identificación de personas, y se opuso públicamente a toda utilización con fines de vigilancia, de perfilaje racial y contrata toda utilización que pueda incurrir en una violación al os derechos humanos y libertades básicas. Sundar Pichai, director ejecutivo de Google aseguró en enero pasado que su empresa no proporcionará servicios de reconocimiento facial “llave en mano” hasta que las autoridades establecieran las normativas y salvaguardias necesarias. Nicole Ozer, Directora de Tecnología y Libertades de una sucursal de la ACLU en California, pidió públicamente también a Microsoft de seguir los pasos de Amazon, Google e IBM para pasar al lado correcto de la historia.
Fuentes: AWS Amazon, AFP, Radio-Canadá, CNBC, Hyertextual
