{"id":47888,"date":"2021-06-26T09:37:46","date_gmt":"2021-06-26T07:37:46","guid":{"rendered":"http:\/\/miradordeatarfe.es\/?p=47888"},"modified":"2021-06-22T13:40:44","modified_gmt":"2021-06-22T11:40:44","slug":"confiamos-ya-mas-en-las-maquinas-que-en-en-los-propios-humanos","status":"publish","type":"post","link":"https:\/\/miradordeatarfe.es\/?p=47888","title":{"rendered":"\u00abConf\u00edamos ya m\u00e1s en las m\u00e1quinas que en en los propios humanos\u00bb"},"content":{"rendered":"<div class=\"voc-detail-header\">\n<h2 style=\"text-align: justify;\">Advierte sobre las malas decisiones tomadas en base a algoritmos, que a su juicio est\u00e1n hechos para sesgar y discriminar&#8230; aunque sin mala fe<\/h2>\n<div class=\"voc-author-timesocial\" style=\"text-align: justify;\">\n<div class=\"voc-author-timesocial__voc-container-info-signature\">\n<div>\n<div class=\"voc-author-info\">\u00a0<\/div>\n<\/div>\n<\/div>\n<div class=\"voc-author-social\"><i class=\"voc-icons comment\"><\/i><i class=\"voc-icons facebook\"><\/i><i class=\"voc-icons twitter\"><\/i><input id=\"moreSocialMedia\" class=\"voc-input-media\" type=\"checkbox\" \/><label class=\"voc-social-btn voc-more-share\" for=\"moreSocialMedia\"><i class=\"voc-icons dots\"><\/i><\/label><i class=\"voc-icons bookmark\"><\/i><\/div>\n<\/div>\n<\/div>\n<p style=\"text-align: justify;\">Analista e investigadora, Gemma Gald\u00f3n fund\u00f3 en 2012 Eticas Consulting, una empresa que realiza auditor\u00edas de algoritmos para que las empresas sean conscientes de los sesgos que estos datos con los que trabajan pueden tener. Se intenta evitar as\u00ed que haya situaciones de desigualdad de oportunidades o de discriminaci\u00f3n, mejorando para ello la transparencia.<\/p>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfC\u00f3mo y cu\u00e1ndo surge la idea de formar Eticas Consulting?<\/strong><\/p>\n<div id=\"_wmass_9501999998092651\" style=\"text-align: justify;\">\n<div id=\"jw-9265192651\" class=\"St_jw-9265192651\">\n<div class=\"wm-wrapper\">\n<div class=\"wm-publi\">\u2013 Cuando acab\u00e9 la tesis, hace casi diez a\u00f1os, me segu\u00edan ofreciendo mucha financiaci\u00f3n para investigar. No era frecuente ni que hubiera gente trabajando a caballo entre las ciencias sociales y la tecnolog\u00eda, ni tampoco que alguien tan joven, sin plaza fija en la universidad, recibiera este apoyo econ\u00f3mico. Cuando pas\u00e9 del mill\u00f3n de euros de financiaci\u00f3n externa, me invitaron a irme. Me llev\u00e9 los proyectos a casa y tuve que constituir una entidad jur\u00eddica para sacarlos adelante. Luego los acab\u00e9 y contrat\u00e9 gente. Pero segu\u00edamos recabando financiaci\u00f3n para investigar temas de impacto de la tecnolog\u00eda en la gente. Al cabo de unos a\u00f1os quise ser m\u00e1s proactiva y responder a esa demanda de investigaci\u00f3n para entender mejor c\u00f3mo impacta la tecnolog\u00eda en la sociedad.<\/div>\n<\/div>\n<\/div>\n<\/div>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfQu\u00e9 dificultades encontr\u00f3?<\/strong><\/p>\n<p style=\"text-align: justify;\">\u2013 Siempre digo que hemos tenido mucha suerte. Sin quererlo, tenemos el inter\u00e9s de un mont\u00f3n de actores p\u00fablicos y privados. Nunca me plantee algo as\u00ed. Todo lo que supone tener una organizaci\u00f3n econ\u00f3mica me ha desbordado y me ha costado mucho, sobre todo encontrar espacios de apoyo que entiendan qu\u00e9 es ser mujer emprendedora. Si no naces con ese esp\u00edritu emprendedor est\u00e1s muy sola. A veces no ped\u00eda dinero, sino solo ayuda.<\/p>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfPor qu\u00e9 emprendi\u00f3 entonces?<\/strong><\/p>\n<p style=\"text-align: justify;\">\u2013 Por responsabilidad. Tus proyectos son como tus hijos. No ten\u00eda esp\u00edritu emprendedor pero me he comprometido a acabar esta investigaci\u00f3n. Y ha habido retos complicados durante estos diez a\u00f1os. Ya no tenemos proyectos de vida o muerte, aunque creo que la auditor\u00eda algor\u00edtmica debe ser est\u00e1ndar. Hay personas afectadas por malas decisiones algor\u00edtmicas, pero no hay visibilidad de esto. Por eso es gratificante lo que hacemos; somos \u00fatiles.<\/p>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfCu\u00e1ndo observa que hay un problema con los algoritmos?<\/strong><\/p>\n<p style=\"text-align: justify;\">\u2013 Por caracter\u00edsticas sociot\u00e9cnicas. Hay mucha gente que emplea la tecnolog\u00eda desde fuera, yo la uso desde dentro. Era consciente de los problemas que hab\u00eda, pero tambi\u00e9n de que si cambias la forma de codificar eliminas ese impacto social. Estos problemas no est\u00e1n hechos con mala fe, sino por desconocimiento. A los ingenieros no les hab\u00edan explicado que, si no ten\u00edan en cuenta a cada colectivo espec\u00edfico, esos grupos ser\u00edan discriminados.<\/p>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfCu\u00e1les son esos obst\u00e1culos?<\/strong><\/p>\n<p style=\"text-align: justify;\">\u2013 Se habla mucho de los sesgos, porque son permanentes. Pero los algoritmos est\u00e1n hechos para sesgar y discriminar. El tema es c\u00f3mo y a qui\u00e9n. Los algoritmos siempre premian la norma, lo que es m\u00e1s abundante. Por ejemplo, los sistemas bancarios se basan en las series hist\u00f3ricas, por lo que siguen premiando al hombre. Se coge el &#8216;big data&#8217; del pasado y se concluye que el mejor cliente es hombre, mientras que la mujer es un cliente de riesgo. Se les da diez veces m\u00e1s cr\u00e9dito, aunque el historial de la mujer sea mejor y seamos mejores pagadoras. Nadie limpia los datos para evitar esa discriminaci\u00f3n estad\u00edstica.<\/p>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfC\u00f3mo se pueden arreglar esos sesgos? \u00bfEs solo tecnolog\u00eda?<\/strong><\/p>\n<p style=\"text-align: justify;\">\u2013 La tecnolog\u00eda es el problema y la soluci\u00f3n a la vez. Ser\u00eda genial que hubiera m\u00e1s alfabetizaci\u00f3n digital y que los ingenieros fueran m\u00e1s humanistas. La inteligencia artificial y los datos se ha mantenido muy cerrados en la ingenier\u00eda, pero deben tener nociones de impacto social. Para eso hay que hacer equipos multidisciplinares. Llevo viendo esto diez a\u00f1os y hay una ruptura de confianza entre la sociedad y la tecnolog\u00eda. Ha abusado mucho de la ciudadan\u00eda y ahora debemos recuperar nuestro espacio, hacer una tecnolog\u00eda mejor.<\/p>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfLa poblaci\u00f3n es consciente?<\/strong><\/p>\n<p style=\"text-align: justify;\">\u2013 No, porque hay mucha opacidad respecto a los procesos. Deber\u00edamos saber cu\u00e1ndo somos sujetos de procesos automatizados. Pero creo que va a cambiar.<\/p>\n<p style=\"text-align: justify;\"><strong>\u2013 \u00bfY las empresas?<\/strong><\/p>\n<p style=\"text-align: justify;\">\u2013 Tampoco. No hay mala fe, sino desconocimiento. Se cree que la tecnolog\u00eda es m\u00e1gica. Asumimos que una persona puede fallar, pero no que lo pueda hacer la tecnolog\u00eda. Confiamos ya m\u00e1s en las m\u00e1quinas que en los humanos y no nos protegemos de las malas decisiones de los algoritmos. Y algunos son de mala calidad, lo que lleva a que se tomen malas decisiones en su programaci\u00f3n.<\/p>\n<p style=\"text-align: justify;\"><em><strong>Ecosistemas femeninos para emprender<\/strong><\/em><\/p>\n<section class=\"voc-ficha-detail\">\n<div class=\"voc-ficha-despiece\">\n<p style=\"text-align: justify;\"><em>Gemma Gald\u00f3n ha recibido ya varios premios por su trayectoria profesional. \u00abEst\u00e1n muy bien, pero no son suficientes\u00bb, dice. \u00abFaltan m\u00e1s cosas para que las mujeres nos sintamos c\u00f3modas\u00bb, como referentes y colegas a quien llamar. \u00abCada proyecto nuevo es un premio para mi pero nos faltan ecosistemas femeninos, ver a m\u00e1s mujeres en estos roles\u00bb.<\/em><\/p>\n<p style=\"text-align: justify;\"><em>Sabe que para cambiarlo algunas aristas pueden atajarse a corto plazo, pero otras conllevan m\u00e1s tiempo. \u00abSe nos tiene que ver m\u00e1s, se tiene que confiar en nosotras para dirigir y hay que acompa\u00f1ar a otras mujeres. El emprendimiento tambi\u00e9n tiene que entender a las mujeres\u00bb, reivindica. \u00abEn \u00e9tica de c\u00f3digo la mayor\u00eda somos mujeres, pero en Espa\u00f1a eso no se considera innovaci\u00f3n porque no es como un nuevo aparato \u2013critica\u2013. Eso hace que te quedes fuera de muchas ayudas y financiaci\u00f3n\u00bb<\/em>.<\/p>\n<p style=\"text-align: justify;\">\u00abCrear espacio sociot\u00e9cnicos no se considera innovaci\u00f3n\u00bb, insiste Gald\u00f3n, quien a\u00f1ade que \u00abmuchas mujeres estamos mejorando procesos, pensando fuera de la caja\u00bb. \u00abY a eso hay que darle visibilidad\u00bb, afirma.<\/p>\n<figure class=\"voc-main-figure \" style=\"text-align: justify;\"><figcaption class=\"figure-caption\"><span class=\"voc-photo-caption\"><strong><a class=\"voc-author\" title=\"ARANTXA HERRANZ\">ARANTXA HERRANZ<\/a><\/strong><br \/>\nGemma Gald\u00f3n, en un descanso de su jornada diaria de trabajo. \/\u00a0<\/span><span class=\"voc-photo-author\">D. BLANCO \/ ARGIA<\/span><\/figcaption><\/figure>\n<div class=\"voc-author-timesocial\">\n<div class=\"voc-author-timesocial__voc-container-info-signature\">\n<div class=\"voc-author-info\">https:\/\/www.ideal.es\/tecnologia\/confiamos-maquinas-propios-humanos-entrevista-gemma-galdon-20210611115201-ntrc.html<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/section>\n","protected":false},"excerpt":{"rendered":"<p>Advierte sobre las malas decisiones tomadas en base a algoritmos, que a su juicio est\u00e1n&#8230;<\/p>\n","protected":false},"author":1,"featured_media":47889,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_coblocks_attr":"","_coblocks_dimensions":"","_coblocks_responsive_height":"","_coblocks_accordion_ie_support":"","jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"enabled":false},"version":2}},"categories":[7725,1161,44,6937,6920,15],"tags":[677,35],"class_list":["post-47888","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-atarfe-sostenible","category-ciudadania","category-noticias-de-hoy","category-sociedad","category-tecnologia","category-ultimas-noticias","tag-humanidad","tag-tecnologia"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/miradordeatarfe.es\/wp-content\/uploads\/2021\/06\/gemma-galdon-k6EE-U140620387087lFI-624x385%40RC.jpg?fit=623%2C385&ssl=1","jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts\/47888","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=47888"}],"version-history":[{"count":1,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts\/47888\/revisions"}],"predecessor-version":[{"id":47890,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts\/47888\/revisions\/47890"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/media\/47889"}],"wp:attachment":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=47888"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=47888"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=47888"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}