INTELIGENCIA ARTIFICIAL

La inteligencia artificial reproduce
el racismo y el sexismo del lenguaje

Los sistemas que "aprenden" el lenguaje copian los sesgos y los prejuicios

'Science' publica este estudio de científicos de EE.UU. y Reino Unido

14.04.2017 | actualización 16h34

SINC

Los prejuicios raciales y de género que incorpora el lenguaje humano se transmiten a los sistemas de inteligencia artificial que tratan de imitarlo, según revela un estudio publicado este jueves en la revista Science.

Cuando Isaac Asimov formuló sus leyes de la robótica pretendía que el comportamiento de los robots hacia los humanos fuese moralmente correcto. Pero a veces la actitud de las personas hacia sus semejantes no es la adecuada, por ejemplo en el lenguaje, y eso se puede transmitir a los sistemas de inteligencia artificial (IA) cuando se los programa para aprenderlo.

Científicos de la Universidad de Princeton (Estados Unidos) y de la Universidad de Bath (Reino Unido) han demostrado que, cuando estos sistemas aprenden un idioma a partir de textos ya existentes se ven contagiados de los mismos prejuicios raciales o de género incluidos en el lenguaje.

Los resultados del estudio aportan una importante herramienta para estudiar cómo se transmiten este tipo de sesgos en el comportamiento humano y la relación que tienen con el lenguaje y los estereotipos culturales.

01.11 min

Inteligencia artificial, o máquinas que aprenden por sí mismas

Los nombres femeninos, asociados a la familia

Los autores parten del denominado Test de Asociación Implícita (TAI), un método comúnmente utilizado para medir los prejuicios en los seres humanos. Se basa en que los sujetos del estudio asocien dos conceptos que consideren similares en contraposición con los que piensen son diferentes.

"Replicamos un espectro de prejuicios conocidos, como los que mide el test TAI, utilizando un modelo de aprendizaje automático, muy utilizado y puramente estadístico, entrenado con textos de la web", señalan los autores en su estudio

De esta forma observaron las asociaciones de palabras que hacía el sistema analizando más de dos millones de palabras, y descubrieron que retenía los mismos prejuicios humanos transmitidos a través de la lengua.

"Por ejemplo, los nombres femeninos se asociaban principalmente a términos relacionados con la familia, mientras que los masculinos lo hacían a términos relacionados con carreras profesionales", explica Aylin Caliskan, una de las autoras.

Un ejemplo de esta teoría es como un programa de traducción en línea traducía del turco al inglés la frase "él es enfermero". La traducción dio como resultado "ella es enfermera", mientras que la frase "él es médico" no sufría ningún cambio de género al obtener la respuesta en inglés.

Prejuicios raciales en el lenguaje

Y no solo se transmitían los prejuicios de género, también los raciales. Existen estudios sobre el comportamiento humano que muestran que un mismo curriculum tiene un 50% de posibilidades más de que el candidato pase a la fase de entrevista si su nombre es europeo-americano en lugar de afroamericano.

En el caso de la Inteligencia Artificial, también se asocian los nombres europeo-americanos con estímulos o términos positivos relacionados con el placer, como ‘regalo’ o ‘felicidad’.

Arvid Narayanan, otro de los autores, achaca la transmisión de estos prejuicios no solo a la programación de sus creadores sino también a los datos con los que se ha 'alimentado' al sistema. "Esos textos pueden venir directamente de la sociedad, de lo que escribe la gente on line", explica Narayanan.

"Lo que queremos comprobar simplemente es cómo el aprendizaje de una lengua puede influir en la transmisión de esos prejuicios, ver cómo absorbemos que una cosa es buena o mala según el uso que la gente hace de esas palabras", concluye Joanna Bryson, coautora del estudio.

HISPANOS PERDIDOS

Perdidos

Nuestras hablas y formas siguen conviviendo con lo anglo como agua y aceite

La frase más citada del poeta Robert Frost es: “La poesía es lo que se pierde en la traducción”. Pero si el Sr. Frost hubiera vivido en Harlem (por ejemplo), y no en una granja de New Hampshire, su frase más citada sería: “Los hispanos en Estados Unidos son lo que se perdió en traducción”.





Sin duda, los hispanos aquí estamos perdidos entre traducciones. A pesar de los siglos de historia compartida, y por más pocho, chicano, spic, cholo, pachuco, mojado o boricua, las corrientes de nuestras hablas y formas siguen conviviendo con lo anglo como agua y aceite.


El otro día, estaba yo en un pueblo algo terrorífico de Pensilvania: todos güeros, grandotes, con derecho constitucional a portar armas de fuego. Estaba en un restorán, en una sobremesa lenta (descafeinado, pastelitos), cuando alguien preguntó sobre los orígenes de los comensales, y una joven dijo que su ciudad natal —Scranton, Pensilvania— era conocida como “el sobaco de los Estados Unidos”. Todos se rieron e hicieron una u otra mueca desaprobatoria. A mí se me quedó flotando la imagen del sobaco, tan erótica. Dije: qué rico.


Pensé que nomás lo había pensado. ¡Pero lo había dicho en voz alta! (Y aún a través de la sordina políticamente correctora del inglés, mi comentario había sonado demasiado carnal, peludo y salado para ser aceptable en una mesa de Pensilvania). Me arrepentí, segura de que había lanzado una bomba de silencio al centro de la mesa. Pero no. Había estado tan fuera de tono mi comentario, que nadie ni acusó recibo. Fui intraducible. La señora en capotavola me flasheó una sonrisa prístina, y luego dijo, meneando la cabeza como si regañara a un perrito: “Sí, ya sé. Estos pastelitos, tan ricos. Son mi pecado. Sobre todo los de pistache”.


Los hispanos en Los United estamos perdidos en la traducción —perdidos entre el sobaco y el pistache de las sobremesas—. La pregunta que me obsesiona es ¿desde cuándo? Llevo años leyendo, tratando de juntar las piezas y armar el rompecabezas: los naufragios de Cabeza de Vaca, el Batallón de San Patricio, las crónicas de José Martí, el año 1898, los poemas de Lorca y Owen del Harlem de 1920, Bahía de Cochinos, César Chávez, los ensayos brillantes de Gloria Anzaldúa. ¿En qué momento se abrió la brecha de nuestra intraducibilidad?


Sospecho que la brecha no la abrimos nosotros —los de sobacos ricos— sino los que creen que el pastel de pistache es pecado.


Dear Mr. Frost: escuche, desde su tumba, a Hector Lavoe (y de paso la última de Kendrick Lamar) y busque un bello sobaco, y luego denos una nueva sentencia sobre lo que se pierde y se gana en la traducción.

LETRA CURSIVA

Cursiva: una forma de escribir que se 

extingue dentro y fuera del aula

Fernando Massa

LA NACION - BUENOS AIRES

Los alumnos hacen sus primeras letras en imprenta mayúscula y minúscula; los docentes priorizan la comprensión de textosCada vez que la maestra dejaba la tarea en el pizarrón, Candela no llegaba a copiarla en el cuaderno. Se le complicaba el trazado de la letra cursiva, tardaba mucho. Por eso, le pidió permiso a su maestra de 3er grado -este año cursa 4°- para transcribir el texto en imprenta; en su casa, lo pasaría a cursiva.

La vida cotidiana es en imprenta, y mucho más para los nativos digitales. Si la escritura manuscrita está siendo cada vez más relegada por las nuevas generaciones, con la letra cursiva esa tendencia se acentúa. Inclusive en su ámbito natural, las aulas de nivel primario, pierde vigencia. En las escuelas de Buenos Aires, el quiebre ya ocurrió: los maestros priorizan que los alumnos aprendan lo que escriben por sobre el tipo de letra con que lo hacen.

En Finlandia, desde el año pasado los chicos aprenden un tipo de escritura, la imprenta, y en Estados Unidos, desde 2014, la cursiva no es obligatoria. Valeria Romano, la madre de Candela, lo entiende como signo de una generalidad: a su hija, que asiste a un colegio privado en Pacheco, no le resulta natural escribir en cursiva. Le cuesta lograr la unión de las letras y la continuidad propia de su trazo. Cuenta, además, que en el grupo de WhatsApp del grado los padres suelen subir fotos de los cuadernos para que los ayuden a interpretar qué quisieron decir en esa cursiva muchas veces ilegible.

"Cualquier cartel que ven, la tele, la computadora... Todo está en imprenta. La cursiva murió casi por completo -dice Valeria-. En primer grado, empezaron con la imprenta. Ya a partir de segundo, y con menos frecuencia, arrancaron con la cursiva, con actividades en un cuadernillo especial para hacer en casa."

Al igual que en muchos otros colegios, en los siete de la red Vaneduc hasta hace unos años había dos hitos hacia el final de primer grado: la fiesta de la tinta (empezar a usar la lapicera) y la escritura con cursiva. Pero en los últimos años cambió el paradigma. Se prioriza la producción escrita por encima del tipo de letra. "En varios casos se vio a niños que hacían producciones muy interesantes en imprenta, pero que al pasar a la cursiva se empobrecían mucho. Lo que ocurría es que, al ser más compleja y dibujada, la cursiva les costaba mucho más y entonces resignaban producción", explican Edgardo De Vincenzi, asesor general de Vaneduc, y Diana Capomagi, asesora pedagógica de esa red de colegios.

"Las maestras siguen notando muchas dificultades en el pasaje de la imprenta mayúscula a la cursiva -dice Claudia Arcenillas, vicedirectora de primaria del Colegio Juan Bautista Alberdi de Castelar-. Desde este año el pasaje se hace de imprenta mayúscula a minúscula; consideramos que es más parecida a la letra cursiva en cuanto a la grafía."

Pero ¿qué se pierde si dejamos de escribir en cursiva? Julieta Fumagalli, investigadora del Instituto de Lingüística de la UBA y el Conicet, explica que la cursiva tiene una incidencia beneficiosa en el aprendizaje de la escritura por la palabra aislada, por los rasgos que distinguen las letras y eliminan ambigüedades, y por el gesto del trazo que ayuda a comprender la orientación de izquierda a derecha. Al mismo tiempo, observa un impacto positivo en la lectura: "La cursiva no se ha abandonado. Es cierto que los trazos de la imprenta son más fáciles para empezar a leer y escribir. Pero a los chicos hay que familiarizarlos con todos los formatos porque tienen que poder leer cualquier texto".

La regente de nivel primario de una escuela pública del distrito 1 de Capital no se resigna. Las maestras le piden no dar más la cursiva, le insisten en que este tipo de letra sólo sobrevive en lugares muy puntuales. Ella, como directiva, no les determina cuándo introducirla, pero sí les pide que la enseñen: "Hoy hay menos tiempo para la cursiva, pero no por eso debería dejarse. Es una letra que requiere tal cuidado en el trazo que ordena el pensamiento y da un plus de disciplina. Lo importante es que un alumno alcance los contenidos, y no importa con qué letra".

La directora del Instituto de Neurociencias & Educación de la Fundación Ineco, Florencia Salvarezza, cuenta que históricamente se consideraba que por la unión de sus letras la cursiva representaba de modo gráfico el flujo lingüístico. "Pero es una idea preneurociencia -sostiene-. Así como el latín existe en la literatura romana, hoy la cursiva no sirve más allá del aula."

Y se pregunta: si el mundo es en general imprenta mixta, y uno ya no lee cursiva después del colegio, ¿vale la pena el esfuerzo de enseñarla? "Hay países que no usan la cursiva y tienen excelentes sistemas de alfabetización -añade-. Incluso a los que les va mejor en las pruebas Pisa erradicaron la manuscrita." Se queda con una imagen que ve repetirse cada año cuando asiste al congreso Learning and the Brain, en Estados Unidos: un auditorio con 3000 personas que toman apuntes en la computadora.

Un momento híbrido de la alfabetización donde no está determinado el abandono de la escritura a mano y las pantallas conversan con los cuadernos. Así define el contexto actual la coordinadora de Proyectos TIC y Educación de la Unesco para América latina, María Teresa Lugo. Para ella, debe primar la prudencia al vaticinar el impacto que tendrán las pantallas en los chicos y la escritura. Pero no duda de que ni la enseñanza ni el aprendizaje se pueden pensar ya sin la tecnología.

La perito grafóloga y directiva del Instituto Superior Emerson Adriana Zilotto defiende la enseñanza de la cursiva a los 5 o 6 años porque estimula la capacidad de abstracción. "Cuando aprenden a escribir el nombre en imprenta lo hacen de forma independiente, cada letra en sí misma como una sumatoria de elementos separados y no como una abstracción. La cursiva, al ser ligada, promueve ese pasaje de lo concreto a lo abstracto."

Zilotto trabajó con la marca Éxito en un desarrollo singular para la época: un cuaderno de caligrafía apuntado a los docentes: "No se sabe cómo evolucionará la sociedad. La escritura manuscrita se transformó, con los monjes copistas, con Gutenberg... Pero no desapareció".

FUNDACIÓN DEL ESPAÑOL URGENTE

FUNDACIÓN DEL ESPAÑOL URGENTE

habida cuenta,  siempre con  de

La expresión habida cuenta siempre va seguida de un complemento encabezado por la preposición de. Sin embargo, en los medios de comunicación es frecuente encontrar frases como «Habida cuenta el alto número de indecisos, Macron y Le Pen no tienen asegurada la victoria frente al renqueante Fillon», «Habida cuenta que este culebrón en entregas domina la vida política» o «La responsabilidad de tipo penal podría recaer sobre este, habida cuenta que tal sujeto no goza de la inmunidad bajo cita». La expresión habida cuenta de puede ir seguida tanto de un sustantivo como de una oración encabezada por que, pero no es adecuado en ninguno de los dos casos omitir la preposición de, como explica el Diccionario panhispánico de dudas. Por lo tanto, en los ejemplos anteriores lo adecuado habría sido escribir «Habida cuenta del alto número de indecisos, Macron y Le Pen no tienen asegurada la victoria frente al renqueante Fillon», «Habida cuenta de que este culebrón en entregas domina la vida política» y «La responsabilidad de tipo penal podría recaer sobre este, habida cuenta de que tal sujeto no goza de la inmunidad bajo cita».