La IA podría empeorar las desigualdades de salud existentes para los grupos étnicos minoritarios del Reino Unido: nuevo informe

Las tecnologías basadas en datos como la inteligencia artificial (IA) son herramientas poderosas que demuestran potencial en el diagnóstico y tratamiento de enfermedades como el cáncer de piel. Sin embargo, esto podría empeorar inadvertidamente las desigualdades en salud que experimentan los grupos étnicos minoritarios si no se abordan con urgencia los desafíos actuales, como los algoritmos sesgados, la recopilación deficiente de datos y la falta de diversidad en la investigación y el desarrollo.

Estos son los hallazgos de un nuevo libro blanco del Instituto de Innovación en Salud Global (IGHI) del Imperial College London, que pide más investigación y un debate transparente sobre la creación y el uso de estas tecnologías en el cuidado de la salud.

El libro blanco revisó la literatura académica y la evidencia de políticas para identificar los problemas y las oportunidades para que la IA y las tecnologías basadas en datos mejoren la salud y la atención de los grupos étnicos minoritarios, que generalmente experimentan una salud más deficiente que la población en general, como lo enfatiza el COVID-19. pandemia. El estudio incluyó entrevistas con una variedad de expertos en el Reino Unido e internacionalmente en la academia, la industria, la política y la práctica del NHS, los organismos legales y reguladores, las organizaciones de atención al paciente y las organizaciones benéficas.

Los sistemas de inteligencia artificial se crean combinando grandes cantidades de datos, por ejemplo, de estudios de investigación o de Internet. Luego, la información se usa para ‘entrenar’ un programa de computadora o un algoritmo para tomar decisiones basadas en los datos. Por ejemplo, al usar datos, los algoritmos de IA pueden crear «puntuaciones de riesgo» para predecir qué pacientes podrían desarrollar ciertas enfermedades en el futuro.

Sin embargo, si gran parte de estos datos no son representativos de los grupos étnicos minoritarios y se centran predominantemente, por ejemplo, en los participantes blancos, es más probable que estos sistemas tomen decisiones que excluyan a comunidades diversas.

El informe presenta evidencia de este sesgo racial en la IA, lo que demuestra cómo los grupos étnicos minoritarios pueden verse desatendidos por la tecnología. Por ejemplo, los sistemas de reconocimiento facial han demostrado ser hasta un 19 % menos precisos en el reconocimiento de imágenes de hombres y mujeres negros en comparación con las personas blancas. Este sesgo también se observa en la IA cuando se utiliza en la detección y el tratamiento de problemas de salud como el cáncer de piel. Las imágenes de pacientes blancos se utilizan predominantemente para entrenar algoritmos para detectar el melanoma, lo que podría conducir a peores resultados para las personas negras a través de diagnósticos perdidos.

Los autores argumentan que el sesgo inconsciente y consciente en la IA se debe en parte a la falta de diversidad en el mundo académico, entre los desarrolladores de IA y en los niveles estratégicos del sistema de salud y el gobierno.

Los expertos entrevistados para el informe también expresaron su preocupación de que la falta de diversidad en la fuerza laboral de IA podría conducir a soluciones que no son completamente representativas de las necesidades de todos los usuarios. El informe advierte que mejorar la representación en esta industria debe ir más allá de abordar los procesos de contratación. Más bien, el problema también debe abordarse en todas las etapas de la educación, desde la escuela primaria hasta el nivel de posgrado.

Los autores destacan ejemplos de buenas prácticas observadas en la atención sanitaria y social tanto en el Reino Unido como en los EE. UU. y proponen acciones que se llevarán a cabo en el mundo académico, entre los desarrolladores de IA y en niveles estratégicos del sistema de salud y el gobierno para trabajar en el desarrollo de un sistema que facilite la desarrollo de tecnologías de IA más representativas, diseñadas teniendo en cuenta la equidad. A nivel nacional, se está haciendo más para abordar algunas de estas desigualdades en la atención médica. El gobierno anunció recientemente dos revisiones independientes, luego de la publicación del Libro Blanco «Levelling Up», para abordar las disparidades en la salud, incluida una revisión sobre el impacto en la salud del posible sesgo en los dispositivos médicos.

La Dra. Saira Ghafur, líder de salud digital en el Instituto de Innovación en Salud Global, dijo: «La IA tiene un enorme potencial para la prestación del sistema de atención médica. Sin embargo, nuestro libro blanco muestra cómo puede exacerbar las desigualdades en salud existentes en los grupos étnicos minoritarios. Al trabajar en todo el gobierno , salud y tecnología, es crucial que nos aseguremos de que nadie se quede atrás».

Lord James O’Shaughnessy, profesor invitado del Instituto de Innovación en Salud Global, dijo: «Abordar la desigualdad en salud es uno de los principales desafíos de nuestro tiempo. Los avances en IA y aprendizaje automático nos brindan nuevas herramientas para enfrentar este desafío, pero nuestro entusiasmo debe moderarse con una evaluación realista de los riesgos de que estas tecnologías perpetúen inadvertidamente las desigualdades.

«Este documento explica cómo podrían manifestarse estos riesgos y presenta propuestas concretas sobre cómo mitigarlos. Los formuladores de políticas deben prestar atención a las lecciones del informe para que los maravillosos avances en informática puedan beneficiar a quienes más lo necesitan».

Con base en esta investigación, los científicos hacen una serie de recomendaciones para habilitar mejor la IA para las comunidades étnicas minoritarias. Éstos incluyen:

• Involucrar a los pacientes y al público en todas las áreas de desarrollo de tecnología de IA.
• Crear sistemas de gobernanza, legislación y regulación en IA que protejan los datos y los derechos de los ciudadanos.
• Desarrollar un marco regulatorio para garantizar que los algoritmos se prueben y sean apropiados para grupos étnicos minoritarios para reducir el sesgo en los conjuntos de datos.

El profesor Ara Darzi, codirector del Instituto de Innovación en Salud Global, dijo: «Nuestro nuevo libro blanco identifica algunas consideraciones futuras importantes para maximizar el potencial de la IA para la salud de toda nuestra nación. Esperamos que nuestro informe pueda ser un catalizador para las conversaciones importantes que deben tenerse a medida que usamos cada vez más la IA en el cuidado de la salud».