Carol Reiley, emprendedora informática, pionera en el desarrollo de aplicaciones de conducción autónoma y cirugía robotizada, lo tiene claro: “El diseño sesgado, el mal diseño, es muy a menudo cuestión de vida o muerte”. En un artículo para la revista tecnológica Tech Crunch, Reiley, toda una autoridad mundial en su campo, cuenta que ya en sus años universitarios, en la década de 2000, ella desarrolló un prototipo de robot quirúrgico que recibía órdenes a través del sistema de reconocimiento de voz de Microsoft, por entonces puntero. “Por increíble que parezca, aquel sistema no reconocía mi voz. Había sido diseñado por un equipo de hombres de entre 20 y 30 años y no era capaz de procesar el tono en general más agudo de las voces femeninas”. No era apto, en fin, para el 51% de los habitantes del planeta.
Para presentar su diseño en el aula universitaria, Reiley se vio obligada a recurrir a la ayuda de un compañero de clase, que fue quien transmitió sus órdenes. “Puede parecer una simple anécdota”, prosigue Reiley en su artículo, “pero ahora piensen por un momento en un precario hospital de campaña en un lugar como Afganistán y en una doctora que pierde a un paciente que podría haberse salvado solo porque su avanzado sistema de cirugía telemática depende de una aplicación tan rudimentaria y, sí, tan sexista que solo reconoce voces masculinas”.
A Reiley le resulta “decepcionante y escandaloso” lo poco que se ha progresado en este ámbito en los últimos veinte años. “Seguimos sacando al mercado muñecas como Hello Barbie, programadas para hablar con niñas, pero no con niños. Nuestros algoritmos de voz o de reconocimiento facial siguen teniendo, casi sin excepción, un sesgo racial y de género. Y estamos diseñando novísimos sistemas de conducción autónoma pensados casi exclusivamente por y para hombres blancos”.
Reiley ha centrado sus esfuerzos recientes en este último punto. No pierde de vista, según explica, que cuando nos subimos a un vehículo estamos poniendo nuestra vida en manos de un equipo de seres humanos que ha tomado una serie de decisiones tecnológicas y de diseño cruciales. “Si esas personas no han tenido en cuenta nuestras características y necesidades concretas, nos están poniendo en peligro”.
La nota precedente contiene información del siguiente origen y de nuestra área de redacción.
