*
\n\/ Escrito por Sandra de los Santos Chandomi \/<\/p>\n
Hace unos d\u00edas se hizo viral que un generador de contenidos en redes sociales le pidi\u00f3 a una inteligencia artificial (concretamente a Chat GPT de Open IA) que contara del uno al mill\u00f3n y se neg\u00f3 a hacerlo (lo de negarse a hacerlo es un decir porque m\u00e1s bien le dijo que no era funcional hacerlo por la forma en que estaba dise\u00f1ado). Hubo p\u00e1ginas (muchas de clickbait<\/em>) que ya predec\u00edan con esto la rebeli\u00f3n de las m\u00e1quinas.<\/p>\n Pero \u00bfqu\u00e9 pas\u00f3 realmente? Nuestro conocimiento sobre el uso y la operaci\u00f3n de la inteligencia artificial sigue siendo, en su mayor\u00eda, rudimentario. Estamos aprendiendo a usarla como aprendimos a usar las redes sociales e incluso el internet: sobre la marcha, sin leer el manual.<\/p>\n Nos centramos en lo que puede hacer, pero pocas veces nos detenemos a ver qu\u00e9 hay detr\u00e1s de la tecnolog\u00eda porque el tiempo apremia. Y, en ese camino, estamos propagando ideas equivocadas: una de ellas es asumir que las IAs \u201crazonan\u201d o \u201cpiensan\u201d como nosotras y nosotros.<\/p>\n La realidad es que las inteligencias artificiales como ChatGPT no piensan ni sienten. Para eso necesitar\u00edan experiencia de vida, y no la tienen (no le quiero romper el coraz\u00f3n a nadie, pero es riesgoso tratarlas como si fueran personas).<\/p>\n Funcionan con patrones: procesan cantidades enormes de informaci\u00f3n que ya existen (libros, art\u00edculos, conversaciones) y, con eso, predicen qu\u00e9 palabra, frase o dato es m\u00e1s probable que siga. No generan conocimiento nuevo, solo reorganizan lo que encuentran. Por eso \u201ccontar hasta un mill\u00f3n\u201d les parece poco funcional porque tendr\u00edan que hacer demasiado para algo tan simple. No est\u00e1n dise\u00f1adas para eso.<\/p>\n Toda esa informaci\u00f3n que reorganiza viene de un mundo desigual as\u00ed que arrastra sus sesgos.<\/p>\n Si en los textos que \u201cleen\u201d predominan las miradas masculinas, racistas o clasistas, las respuestas tender\u00e1n a reproducir esas perspectivas, a menos que se les corrija o se les entrene con criterios distintos. La m\u00e1quina no discrimina por s\u00ed sola, pero tampoco cuestiona lo que aprende.<\/p>\n Y ah\u00ed es donde el asunto se pone interesante: si no cuestionamos c\u00f3mo est\u00e1n entrenadas estas inteligencias artificiales, corremos el riesgo de que repliquen y amplifiquen las desigualdades que ya existen. Los sesgos de g\u00e9nero son un ejemplo claro.<\/p>\n Si la mayor\u00eda de los textos con los que se alimenta una IA hablan de las mujeres como secundarias, fr\u00e1giles o invisibles, la m\u00e1quina aprender\u00e1 a responder desde esas narrativas. No es que \u201cpiense\u201d as\u00ed, es que repite el mundo que le ense\u00f1aron. Por eso a veces parece que las IAs saben mucho y, al mismo tiempo, entienden poco. Son capaces de dar cifras exactas sobre la brecha salarial, pero tambi\u00e9n pueden omitir la voz de las mujeres o reforzar estereotipos sin siquiera \u201csaber\u201d que lo est\u00e1n haciendo. El problema no es solo tecnol\u00f3gico, es pol\u00edtico.<\/p>\n Combatir estos sesgos no se logra solo con \u201cmejores algoritmos\u201d, sino con decisiones pol\u00edticas y \u00e9ticas sobre qu\u00e9 datos se utilizan para entrenar las IAs y qui\u00e9n participa en ese proceso. Si las bases de datos se nutren casi exclusivamente de voces masculinas, el resultado ser\u00e1 un modelo que silencia a las mujeres. Necesitamos dise\u00f1ar tecnolog\u00edas que integren perspectivas feministas, plurales y diversas. De lo contrario, lo que llamamos \u201cinteligencia\u201d artificial seguir\u00e1 siendo un espejo que nos devuelve, amplificados, los mismos prejuicios y desigualdades que queremos desmontar.<\/p>\n La inteligencia artificial puede ser una herramienta \u00fatil para procesar tareas, investigar, analizar datos o hasta para ayudarnos a generar nuevas ideas, pero si asumimos que sus respuestas son \u201cneutrales\u201d o \u201cinfalibles\u201d, estamos renunciando a cuestionar el origen de la informaci\u00f3n y los marcos que reproduce.<\/p>\n Necesitamos preguntarnos siempre desde d\u00f3nde responde, qu\u00e9 voces quedan fuera y qu\u00e9 estructuras sostiene. La m\u00e1xima que dice: \u201c\u00bfqui\u00e9n dice qu\u00e9 y por qu\u00e9? Usar la IA sin pensamiento cr\u00edtico es aceptar que una m\u00e1quina decida por nosotras y nosotros c\u00f3mo se interpreta el mundo; usarla de forma consciente, en cambio, puede ayudarnos a evidenciar sesgos, disputarlos y abrir otras narrativas.<\/p>\n El principal problema de la IA no es que un d\u00eda se rebele y deje de hacernos caso; el problema real es que la estamos utilizando sin entenderla y, en ese camino, corremos el riesgo de reproducir lo que buscamos romper. Es un bucle enorme: la IA nos dice lo que existe, lo que ya hay. Son el \u201cespejito, espejito\u201d del cuento de Blanca Nieves. Nos devuelve respuestas c\u00f3modas.<\/p>\n \u00bfCreen que le dir\u00e1 al \u201cChicharito\u201d que sus afirmaciones son sexistas? No. Le dir\u00e1 que \u201ctiene sus pensamientos claros y decisivos\u201d. Porque la IA no cuestiona el orden establecido. Y justamente por eso no podemos delegarle nuestras decisiones, ni permitir que moldee lo que pensamos.<\/p>\n