{"id":58876,"date":"2023-01-27T09:02:51","date_gmt":"2023-01-27T08:02:51","guid":{"rendered":"https:\/\/miradordeatarfe.es\/?p=58876"},"modified":"2023-01-23T20:07:33","modified_gmt":"2023-01-23T19:07:33","slug":"como-la-inteligencia-artificial-puede-agrandar-la-brecha-social","status":"publish","type":"post","link":"https:\/\/miradordeatarfe.es\/?p=58876","title":{"rendered":"C\u00f3mo la inteligencia artificial puede agrandar la brecha social"},"content":{"rendered":"

Los algoritmos se nutren de la informaci\u00f3n que le dan los humanos y, con ello, tambi\u00e9n beben de sus sesgos. Los expertos aseguran que una IA m\u00e1s \u00e9tica es posible<\/h3>\n

Hace unos a\u00f1os, una investigaci\u00f3n de la Uni\u00f3n Estadounidense por las Libertades Civiles (ACLU) lleg\u00f3 a una llamativa conclusi\u00f3n. Aun siendo juzgados por los mismos delitos, las sentencias que condenaban a las personas de color impon\u00edan penas un 20% m\u00e1s largas que las que lo hac\u00edan con personas blancas.<\/p>\n

La raz\u00f3n de esta divergencia entre los tiempos en prisi\u00f3n de unos y otros no era casual, como recuerda en ‘El enemigo conoce el sistema’ Marta Peirano, sino que la ra\u00edz del problema estaba en la tecnolog\u00eda. La herramienta TI que usaba la justicia estadounidense y que le ayudaba a evaluar el riesgo de reincidencia estaba sesgada. De las personas blancas dec\u00eda que era la mitad de probable que reincidiesen. De las negras, apuntaba que lo eran el doble.<\/p>\n

\n
\n
\u00a0<\/div>\n<\/div>\n<\/div>\n

La inteligencia artificial (IA) est\u00e1 cada vez m\u00e1s presente en el d\u00eda a d\u00eda. No la vemos y no la sentimos, pero desde que nos levantamos hasta que nos vamos a dormir \u2014pero incluso a veces mientras dormimos: cada vez se alimentan m\u00e1s bases de datos con informaci\u00f3n de los patrones de sue\u00f1o\u2014 nos acompa\u00f1a a todas partes y en todas ocasiones.<\/p>\n

La IA calcula las mejores rutas en los sistemas de mapas, nos responde a las preguntas que le hacemos v\u00eda asistentes virtuales o est\u00e1n detr\u00e1s del \u2018bot\u2019 que ayuda a gestionar ese fallo en el billete de avi\u00f3n comprado para las vacaciones. Y no solo eso: tambi\u00e9n est\u00e1 detr\u00e1s de cada vez m\u00e1s decisiones claves y fundamentales, como detectar fraudes en los movimientos de las cuentas bancarias o ayudar a diagnosticar enfermedades.<\/p>\n

\n

A m\u00e1s potencia, m\u00e1s responsabilidad<\/h3>\n<\/div>\n

Y si bien el potencial de la\u00a0inteligencia artificial\u00a0<\/a>parece inmenso y sus retornos muy favorables, no hay que olvidar que \u2014como ya han ido demostrando otras tecnolog\u00edas antes\u2014 estas herramientas no son exactamente neutrales. No est\u00e1n al margen del mundo en el que se usan. Si en \u00e9l existen brechas y problemas, la IA tambi\u00e9n funcionar\u00e1 en esos par\u00e1metros.<\/p>\n

\u00bfTiene la inteligencia artificial un impacto en las brechas sociales? \u00abS\u00ed, por supuesto, s\u00ed. La IA al final automatiza procesos que los humanos ya realizamos y cualquier efecto negativo que pueda haber en esos procesos, como la discriminaci\u00f3n, la inteligencia artificial lo automatiza e incluso, y no intencionadamente, lo esconde\u00bb, apunta Joan Casas-Roma, investigador de los Estudios de Inform\u00e1tica, Multimedia y Telecomunicaci\u00f3n de la Universitat Oberta de Catalunya (UOC).<\/p>\n

Ya en 2018 McKinsey alertaba en uno de sus an\u00e1lisis sobre el futuro de la IA y su impacto en la econom\u00eda que, si bien esta herramienta tendr\u00eda un papel muy importante en el crecimiento futuro, los pa\u00edses en v\u00edas de desarrollo no jugaban con las mismas cartas que los desarrollados.<\/p>\n

Entre el momento del informe y 2030, esperaban que la inteligencia artificial estuviese detr\u00e1s de un aumento del 16% del PIB global. Sin embargo, las tasas de crecimiento de los pa\u00edses ricos (entre el 20 y el 25% de beneficios) y de los en v\u00edas de desarrollo (entre el 5 y el 15%) divergir\u00edan. Las razones estaban en el muy diferente punto de partida: si no se correg\u00eda, la brecha entre unos y otros \u2014y el dominio de los primeros sobre los segundos\u2014 aumentar\u00eda.<\/p>\n

\n

De la riqueza al g\u00e9nero<\/h3>\n<\/div>\n

Otro ejemplo claro de c\u00f3mo la IA puede ampliar las brechas sociales est\u00e1 en la de g\u00e9nero. La UNESCO teme no solo que la aumente sino que adem\u00e1s empobrezca a las mujeres, puesto que la probabilidad de desempe\u00f1ar un trabajo que ser\u00e1 automatizado por la IA es m\u00e1s alta entre ellas que entre los hombres.<\/p>\n

A eso hay que sumar que el dise\u00f1o de la inteligencia artificial le ha llevado a perpetuar comportamientos y\u00a0visiones machistas\u00a0<\/a>: la escasa presencia de las mujeres en el trabajo en IA \u2014solo son menos del 25%\u2014 no ayuda a romper con el patr\u00f3n.<\/p>\n

Paradigm\u00e1tico \u2014y recurrentemente mencionado cuando se habla de esta cuesti\u00f3n\u2014 es el caso de Amazon, que usaba un algoritmo para ayudar a su equipo de recursos humanos a filtrar las candidaturas recibidas. Hace unos a\u00f1os se dio cuenta de que estaba penalizando a las mujeres, puesto que, como en el pasado no hab\u00edan ocupado muchos puestos de trabajo en la compa\u00f1\u00eda, hab\u00eda aprendido que no eran las personas adecuadas. \u00abNo era culpa del sistema\u00bb, explica Idoia Salazar, presidenta de OdiseIA (un organismo centrado en lograr el \u00abbuen uso de la inteligencia artificial\u00bb), \u00absino de que se hab\u00eda entrenado con datos del hist\u00f3rico, en el que hab\u00eda m\u00e1s hombres que mujeres que acced\u00edan a esos puestos\u00bb.<\/p>\n

Si hasta entonces todos los desarrolladores de software hab\u00edan tenido cierto perfil, el sistema simplemente asume que eso es lo que debe ser, a menos que alguien lo corrija.<\/p>\n

\n

Corregir la IA<\/h3>\n<\/div>\n

Ah\u00ed est\u00e1 la base del problema y el por qu\u00e9 la IA ahonda en esas brechas sociales. Como apunta Salazar, si los datos est\u00e1n ya sesgados y no se hace el trabajo de darle un equilibrio, la herramienta simplemente seguir\u00e1 los patrones que ve como establecidos.<\/p>\n

Pero esto es tambi\u00e9n lo que puede llevar a que se cambien las cosas, porque el potencial de la inteligencia artificial es muy elevado y aprovechar sus ventajas puede mejorar mucho las cosas. La IA podr\u00eda ayudar a reducir esas brechas y a corregirlas, siempre que se tenga claro qu\u00e9 se hace y c\u00f3mo \u2014por eso se habla cada vez m\u00e1s de inteligencia artificial \u00e9tica\u2014 y si no se olvida al humano en todo este proceso.<\/p>\n

Salazar recuerda, por ejemplo, el potencial de los bancos de datos p\u00fablicos \u2014algo en lo que trabaja ya el Gobierno de Espa\u00f1a, recuerda\u2014 y que democratizar\u00e1n el acceso a la IA, pero tambi\u00e9n insiste en la importancia de que al final est\u00e9 \u00abel humano en el centro\u00bb.<\/p>\n

\u00abEstas herramientas pueden ayudar a las personas a tomar mejores decisiones, mejor fundamentadas y menos limitadas por los sesgos humanos\u00bb, insiste, recordando tambi\u00e9n el potencial de estas herramientas para gestionar crisis como las de refugiados o las causadas por los desastres naturales de forma r\u00e1pida y eficiente. Para eso, debe ser, ya de partida, m\u00e1s diversa, tanto en la informaci\u00f3n que usa como en los equipos que la crea.<\/p>\n

\n

El dise\u00f1o que la har\u00e1 mejor, la clave<\/h3>\n<\/div>\n

Joan Casas-Roma indica que el dato, sin contexto, no genera soluciones y respuestas, por lo que es muy importante tener presente la \u00e9tica a la hora de abordar la inteligencia artificial y sus efectos. \u00abPara resolver estas estas brechas, hay que entender qu\u00e9 es lo que las causa: alg\u00fan problema de desigualdad social\u00bb, explica.<\/p>\n

Hay que comprender a la sociedad y eso no se puede hacer simplemente con un algoritmo. De hecho, los equipos que se centran en estas cuestiones incorporan cada vez m\u00e1s a profesionales de ramas m\u00e1s variadas \u2014las Humanidades son cada vez m\u00e1s importantes para la ciencia\u2014 y \u00e1reas como la filosof\u00eda tienen m\u00e1s peso a la hora de entender c\u00f3mo se debe dise\u00f1ar el mundo del futuro para que sea m\u00e1s justo.<\/p>\n

Mientras, se trabaja ya en normativas que abordan estos retos. La Uni\u00f3n Europea, por ejemplo, lo est\u00e1 haciendo. \u00abPero es importante no olvidar que esto es la mitad de la pregunta. Las leyes son reactivas y castigan el da\u00f1o que est\u00e1 ya hecho\u00bb, apunta Joan Casas-Roma. \u00abEs importante que tengamos esa parte anterior\u00bb, afirma. Es ese dise\u00f1o de partida los que los expertos creen que har\u00e1 de la IA algo mejor.<\/p>\n","protected":false},"excerpt":{"rendered":"

Los algoritmos se nutren de la informaci\u00f3n que le dan los humanos y, con ello,…<\/p>\n","protected":false},"author":1,"featured_media":58877,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_coblocks_attr":"","_coblocks_dimensions":"","_coblocks_responsive_height":"","_coblocks_accordion_ie_support":"","jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"enabled":false},"version":2}},"categories":[1161,44,6937,15],"tags":[507,3666,49,1628],"class_list":["post-58876","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciudadania","category-noticias-de-hoy","category-sociedad","category-ultimas-noticias","tag-genero","tag-inteligencia-artificial","tag-pobreza","tag-riqueza"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/miradordeatarfe.es\/wp-content\/uploads\/2023\/01\/ia-U54657168606USx-1248x698-1.jpg?fit=1248%2C698&ssl=1","jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts\/58876","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=58876"}],"version-history":[{"count":1,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts\/58876\/revisions"}],"predecessor-version":[{"id":58878,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/posts\/58876\/revisions\/58878"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=\/wp\/v2\/media\/58877"}],"wp:attachment":[{"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=58876"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=58876"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/miradordeatarfe.es\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=58876"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}