«Confíamos ya más en las máquinas que en en los propios humanos»

Analista e investigadora, Gemma Galdón fundó en 2012 Eticas Consulting, una empresa que realiza auditorías de algoritmos para que las empresas sean conscientes de los sesgos que estos datos con los que trabajan pueden tener. Se intenta evitar así que haya situaciones de desigualdad de oportunidades o de discriminación, mejorando para ello la transparencia.

– ¿Cómo y cuándo surge la idea de formar Eticas Consulting?

– ¿Qué dificultades encontró?

– Siempre digo que hemos tenido mucha suerte. Sin quererlo, tenemos el interés de un montón de actores públicos y privados. Nunca me plantee algo así. Todo lo que supone tener una organización económica me ha desbordado y me ha costado mucho, sobre todo encontrar espacios de apoyo que entiendan qué es ser mujer emprendedora. Si no naces con ese espíritu emprendedor estás muy sola. A veces no pedía dinero, sino solo ayuda.

– ¿Por qué emprendió entonces?

– Por responsabilidad. Tus proyectos son como tus hijos. No tenía espíritu emprendedor pero me he comprometido a acabar esta investigación. Y ha habido retos complicados durante estos diez años. Ya no tenemos proyectos de vida o muerte, aunque creo que la auditoría algorítmica debe ser estándar. Hay personas afectadas por malas decisiones algorítmicas, pero no hay visibilidad de esto. Por eso es gratificante lo que hacemos; somos útiles.

– ¿Cuándo observa que hay un problema con los algoritmos?

– Por características sociotécnicas. Hay mucha gente que emplea la tecnología desde fuera, yo la uso desde dentro. Era consciente de los problemas que había, pero también de que si cambias la forma de codificar eliminas ese impacto social. Estos problemas no están hechos con mala fe, sino por desconocimiento. A los ingenieros no les habían explicado que, si no tenían en cuenta a cada colectivo específico, esos grupos serían discriminados.

– ¿Cuáles son esos obstáculos?

– Se habla mucho de los sesgos, porque son permanentes. Pero los algoritmos están hechos para sesgar y discriminar. El tema es cómo y a quién. Los algoritmos siempre premian la norma, lo que es más abundante. Por ejemplo, los sistemas bancarios se basan en las series históricas, por lo que siguen premiando al hombre. Se coge el ‘big data’ del pasado y se concluye que el mejor cliente es hombre, mientras que la mujer es un cliente de riesgo. Se les da diez veces más crédito, aunque el historial de la mujer sea mejor y seamos mejores pagadoras. Nadie limpia los datos para evitar esa discriminación estadística.

– ¿Cómo se pueden arreglar esos sesgos? ¿Es solo tecnología?

– La tecnología es el problema y la solución a la vez. Sería genial que hubiera más alfabetización digital y que los ingenieros fueran más humanistas. La inteligencia artificial y los datos se ha mantenido muy cerrados en la ingeniería, pero deben tener nociones de impacto social. Para eso hay que hacer equipos multidisciplinares. Llevo viendo esto diez años y hay una ruptura de confianza entre la sociedad y la tecnología. Ha abusado mucho de la ciudadanía y ahora debemos recuperar nuestro espacio, hacer una tecnología mejor.

– ¿La población es consciente?

– No, porque hay mucha opacidad respecto a los procesos. Deberíamos saber cuándo somos sujetos de procesos automatizados. Pero creo que va a cambiar.

– ¿Y las empresas?

– Tampoco. No hay mala fe, sino desconocimiento. Se cree que la tecnología es mágica. Asumimos que una persona puede fallar, pero no que lo pueda hacer la tecnología. Confiamos ya más en las máquinas que en los humanos y no nos protegemos de las malas decisiones de los algoritmos. Y algunos son de mala calidad, lo que lleva a que se tomen malas decisiones en su programación.

Ecosistemas femeninos para emprender