IBM ya no ofrecerá software de análisis o reconocimiento facial de uso general, dijo el CEO de IBM, Arvind Krishna. una carta al Congreso hoy. IBM también ya no desarrollará ni investigará la tecnología, según IBM El borde. Krishna dirigió la carta a los senadores Cory Booker (D-NJ) y Kamala Harris (D-CA) y las representantes Karen Bass (D-CA), Hakeem Jeffries (D-NY) y Jerrold Nadler (D-NY).
«IBM se opone firmemente y no tolerará el uso de [facial recognition] tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestros valores y Principios de confianza y transparencia«, Dijo Krishna en la carta. «Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deben emplear la tecnología de reconocimiento facial y cómo».
El software de reconocimiento facial ha mejorado mucho en la última década gracias a los avances en inteligencia artificial. Al mismo tiempo, se ha demostrado que la tecnología, debido a que a menudo es proporcionada por compañías privadas con poca regulación o supervisión federal, presenta sesgos en función de la edad, la raza y el origen étnico, lo que puede hacer que las herramientas no sean confiables para la aplicación de la ley y seguridad y maduras para posibles abusos de los derechos civiles.
Un Instituto Nacional de Estándares y Tecnología de diciembre de 2019 estudio encontrado «Evidencia empírica de la existencia de un amplio rango de precisión en las diferencias demográficas en la mayoría de los algoritmos de reconocimiento facial actuales que fueron evaluados», por ejemplo. La tecnología también ha sido criticada por su papel en las violaciones de privacidad.
Cabe destacar que el estudio del NIST no incluyó tecnología de Amazon, que es una de las pocas compañías tecnológicas importantes que vende software de reconocimiento facial a las fuerzas del orden. Sin embargo, Rekognition, el nombre del programa, también ha sido criticado por su precisión. En 2018, la Unión Americana de Libertades Civiles encontró que Rekognition emparejó incorrectamente a 28 miembros del Congreso con rostros elegidos de 25,000 fotos públicas, por ejemplo.
Otra compañía, Clearview AI, ha sido objeto de un intenso escrutinio. comenzando a principios de este año cuando se descubrió que su herramienta de reconocimiento facial, construida con más de 3 mil millones de imágenes compiladas en parte a partir de sitios de redes sociales, estaba siendo ampliamente utilizada por empresas del sector privado y agencias de aplicación de la ley. Desde entonces, Clearview recibió numerosas órdenes de cese y desistimiento y se encuentra en centro de una serie de demandas de privacidad. Facebook también fue ordenó en enero pagar $ 550 millones para resolver una demanda colectiva por el uso ilegal de la tecnología de reconocimiento facial.
IBM ha intentado ayudar con el problema del sesgo en el reconocimiento facial, lanzando un conjunto de datos públicos en 2018 diseñado para ayudar a reducir el sesgo como parte de los datos de entrenamiento para un modelo de reconocimiento facial. Pero también se descubrió que IBM compartía un conjunto de datos de capacitación por separado de casi un millón de fotos en enero de 2019 tomado de Flickr sin el consentimiento de los sujetos, aunque las fotos fueron compartidas bajo una licencia Creative Commons. IBM dijo El verge en una declaración en el momento en que los investigadores verificados solo tendrían acceso al conjunto de datos y solo incluirían imágenes que estaban disponibles públicamente. La compañía también dijo que las personas pueden optar por no participar en el conjunto de datos.
En su carta, Krishna también abogó por la reforma policial, argumentando que más casos de mala conducta policial deberían someterse a la competencia del tribunal federal y que el Congreso debería hacer cambios a la doctrina de inmunidad calificada, entre otras medidas. Además, Krishna dijo que «necesitamos crear vías más abiertas y equitativas para que todos los estadounidenses adquieran habilidades y capacitación comercializables», y sugirió que el Congreso considere ampliar el modelo de escuela P-TECH a nivel nacional y ampliar la elegibilidad para las Becas Pell.
