La tecnología no es neutra. Tras la indignación mundial que ha suscitado la muerte del afroamericano George Floyd, asfixiado por un policía blanco el pasado 25 de mayo, actores relevantes de la industria de la tecnología han decidido posicionarse abiertamente. El CEO de IBM, Arvind Krishna, ha enviado una carta al Congreso de Estados Unidos en la que hace un llamado a abordar el uso responsable de la tecnología por parte de las fuerzas del orden.
“Las terribles y trágicas muertes de George Floyd, Ahmaud Arbery, Breonna Taylor y muchos otros nos recuerdan que la lucha contra el racismo es tan urgente como siempre”, se puede leer en la carta.
Krishna manifiesta su disposición para trabajar con el Congreso en la búsqueda de la justicia y la equidad racial, centrándose en un primer momento en áreas políticas que considera claves. Además de la reforma de la policía y la ampliación de habilidades y oportunidades educativas, el CEO de la compañía señala el uso responsable de la tecnología.
“La tecnología puede aumentar la transparencia y ayudar a la policía a proteger a las comunidades, pero no debe promover la discriminación ni la injusticia racial”, subraya el documento. En este se puede leer que IBM “ya no ofrece el software de reconocimiento facial o de análisis”.
“IBM se opone firmemente y no aprobará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la elaboración de perfiles raciales, las violaciones de los derechos humanos y las libertades básicas, o cualquier otro propósito que no sea coherente con nuestros valores y principios de confianza y transparencia”, ha enfatizado.
En opinión de Krishna, es necesario iniciar un diálogo sobre si los organismos nacionales encargados de hacer cumplir la ley deben emplear la tecnología de reconocimiento facial y cómo deben hacerlo.
“La inteligencia artificial es una herramienta poderosa que puede ayudar a las fuerzas del orden a mantener a los ciudadanos seguros. Pero los vendedores y usuarios de los sistemas de Al tienen la responsabilidad compartida de asegurar que se compruebe la parcialidad de Al, en particular cuando se utiliza en la aplicación de la ley, y que se audite y notifique dicha prueba de parcialidad”, ha detallado.
Por último, Krishna ha asegurado que la política nacional también debe alentar y fomentar los usos de la tecnología que aporten “mayor transparencia y responsabilidad a la labor policial”, como las cámaras corporales y las técnicas modernas de análisis de datos.
En dicha carta, el CEO de la compañía ha instado al Congreso a crear políticas nacionales para ampliar el número y alcance de ciertos programas para todos los estadounidenses, especialmente para las comunidades de color. Ha señalado que existe una demanda urgente de los llamados trabajos de "cuello nuevo", que requieren habilidades especializadas, pero no necesariamente un título universitario tradicional de cuatro años, desde la ciberseguridad hasta la computación en nube.
El racismo en la ciencia, en cuestión
En consonancia con las protestas convocadas en Estados Unidos, más de 5.000 científicos negros del país convocaron para este miércoles una huelga académica. “Nuestras instituciones académicas y colaboraciones de investigación, pese a las grandes conversaciones sobre diversidad, equidad e inclusión, han fallado, finalmente, a los negros. Las demandas de justicia han sido satisfechas con gradualismo y simbología, así como con iniciativas de diversidad e inclusión que, aunque a veces bien intencionadas, han tenido un impacto poco significativo en las experiencias vividas por los estudiantes, personal, investigadores y profesores negros”, han asegurado los académicos en un comunicado de 'Partículas por la justicia', un grupo que lucha contra el sexismo en la academia. Quienes lo suscriben pertenecen a unas 15 universidades, entre ellas, la Universidad de Chicago, el Instituto Tecnológico de Massachusetts (MIT) y la Universidad de Harvard.
Este señala, asimismo, que la representación de los negros entre el profesorado de física es “inexistente en la mayoría de las instituciones”, y que los estudiantes negros se sienten a menudo mal acogidos, sin apoyo e incluso inseguros en sus departamentos de física y en los campus predominantemente blancos.
“La lucha contra la supremacía blanca, en todas sus manifestaciones, es urgente, y tenemos claro de que la justicia no se logrará hasta que las personas negras no solo tengan el derecho a sobrevivir sino también a prosperar”, advierten los académicos.
La Asociación Americana para el Avance de la Ciencia ha asegurado que ella y su principal revista, Science, estarán observando #ShutdownStem, y escuchando a los miembros su comunidad que están discutiendo formas de eliminar el racismo y hacer que las disciplinas STEM sean más inclusivas para la gente negra. Ha invitado a sus 120.000 miembros a unirse al esfuerzo.
No es la primera vez que se señala el racismo desde la ciencia o la industria de la tecnología. Un artículo publicado en la revista Science ha evidenciaba la existencia de un sesgo racial presente en un algoritmo ampliamente usado en el sistema de salud estadounidense. Este sesgo provoca que los pacientes negros reciban menos atención sanitaria que los blancos.
