lunes, 9 de junio de 2025

Una inteligencia artificial y un cómic malhablado


Imágenes de DC Comics
 

Volvemos con la más reciente alucinación de una IA que, como en el caso pasado de no saber una cita de Shakespeare, es cometida por Gemini.

Decíamos que Google ha instaurado la pésima idea de dar una respuesta de su IA como primer resultado de una búsqueda, aún sabiendo de la cantidad de errores que cometen.

Y de nuevo, no estamos hablando de errores para procesar un problema razonado truculento ni un problema matemático raro: errores en búsquedas simples que su buscador tradicional resuelve perfectamente. En chino, se le dice a esto “dibujarle patas a una víbora” o lo que conocemos como “no arregles lo que no está roto”.

Aquí está la barrabasada:

Si mi lector no es fan de los cómics, permítame explicarle:

La búsqueda fue “Lobo bastich”. Este es Lobo, un personaje de DC, que es un cazarecompensas interplanetario que es extremadamente violento:

La palabra “bastich” es una expresión muy de él, un insulto que usa seguido y que es mezcla de “bastard” y “bitch”. De hecho, la búsqueda normal de Google (la respuesta de abajo) lo explica correctamente.

Por otro lado, la respuesta de Gemini no sólo es incorrecta sino que ni siquiera tiene sentido. Por alguna razón se pone a decir que “bastich” es una representación equivocada o incluso una variación de la palabra “lobo”, o sea que ni siquiera hace la relación con el personaje de DC, como sí lo hace de inmediato la búsqueda normal.

Ya hemos visto anteriormente que estas alucinaciones se pueden deber a una multiplicaidad de causas, desde datos de entrenamiento contaminados ó demasiado comprimidos, hasta ponderaciones de palabras que fallan en casos que requieren de mucho contexto por usar palabras polisémicas (en este caso “lobo”).

Hace un par de días salió un artículo que ha causado revuelo, publicado por los laboratorios de IA de Apple. Se llama The Illusion of Thinking y es bastante técnico, pero en pocas palabras hace un estudio de los límites de lo que llamamos en ciencias computacionales “modelos de racioncinio” (término bastante mal usado). Concluye que las actuales IAs que usan modelos de lenguaje grandes (LLM) no pueden llegar a un proceso de raciocinio como lo entendemos: el deducir cosas a partir de primeros principios. ¿Por qué? Pues porque están creados con (muchísimos) datos de entrenamiento y son buenísimos para reconocer patrones y predecir texto que va de acuerdo a tales patrones, pero...

Sin razonamiento real ni entendimiento real de los contextos (en este caso, la ambiguedad de la palabra “lobo”) es inevitable que sigan teniendo alucinaciones incluso en preguntas muy sencillas.

Así que, por el momento esperemos que más resultados como éste puedan atemperar el hype desbocado que rodea a las IAs en nuestros días, y con un mejor entendimiento podamos moderar nuestras expectativas y claro, identificar las áreas donde realmente son más útiles.




domingo, 8 de junio de 2025

Las modernas luciérnagas de Che Yin

 


En Occidente, quien haya terminado una carrera universitaria, sabe que el proceso educativo se va haciendo más difícil a medida que se avanza por primaria, secundaria, preparatoria y universidad. Esto parece obvio y lógico. Pero hay muchas cosas que tenemos que des-aprender cuando hablamos de China. El sistema educativo chino es bastante más pesado que el occidental en primaria, en secundaria es impresionantemente difícil, y la preparatoria hace llorar a un soldado. La universidad es un descanso.

Recientemente el gobierno chino ha presentado algunas reformas a su sistema educativo para aminorar la carga de los niños, en especial en primaria. Una de esas iniciativas propone que las escuelas no encarguen tarea sino hasta llegar a cuarto año, pues saben que los padres chinos por lo general enrolan a sus niños en una gran variedad de actividades extraescolares –inglés, matemáticas, historia– para darles un extra de oportunidades en la increíblemente competitiva sociedad china.

Pero estas reformas van poco a poco. Grosso modo, la secundaria (grados 7 a 9) y la preparatoria (10 a 12) tienen cargas de trabajo y niveles de estudio que en Occidente nos parecerían inimaginables. El sistema sigue siendo muy tradicional, con mucho énfasis en memorización, o bien en física y matemáticas, en el aprendizaje de técnicas preestablecidas para la resolución de problemas. Esto hace que los estudiantes chinos sean mundialmente famosos por sus habilidades en estas áreas cuando van a escuelas extranjeras, porque están acostumbrados a aprenderse de memoria la Biblia en verso y resolver problemas técnicos muy complicados con la aplicación de técnicas practicadas mil veces. Así que por ese lado es muy efectiva, pero como se ha criticado por siglos –desde dentro y desde fuera–, deja muy poco espacio a la improvisación y la creatividad. Ser un genio en China es entonces doblemente difícil, pues no sólo hay que lidiar con la incomprensión típica que conlleva, sino navegar en un sistema extraordinariamente rígido. Yo creo que por eso era algo de esperarse de un genio en la China clásica, que fuera un borracho o por lo menos un excéntrico incorregible.

Yo viví por más de un año en una secundaria y preparatoria china y vi la rutina diaria. Aunque no es la generalidad, ya que era una escuela tipo internado, en la que los alumnos sólo tenían los domingos libres, sí representa la actitud general del sistema y de la carga de trabajo.

El día empezaba a las 5:45 am, cuando los altavoces nos despertaban a maestros y alumnos con una canción que me aprendí de memoria y tardé varios años en sacarme de la cabeza. Con esa diana, bajábamos todos al campo deportivo –que era un campo de futbol rodeado de una pista olímpica– para hacer calentamiento, estirarse y correr dos kilómetros y medio. Con escarcha o nieve, ahí estábamos todos de 6:00 a 6:30 dándole vueltas al campo y gritando lo más fuerte que podíamos: “yi, er, san, si… yi-er, san-si!” (Uno, dos, tres, cuatro… un-dos, tres-cuatro).

Desde un principio me habían dicho que esto no era requerimiento para mí, pero me parecía poco solidario estar tapado y calientito una hora más, mientras toda la escuela se moría de frío ahí en el campo, así que lo hice siempre con ellos.

Después de correr, los estudiantes se iban media hora a sus salones a leer sus libros de inglés, mientras los profesores íbamos a lavarnos la cara o por lo menos a descansar un poco, mientras se servía el desayuno en las cafeterías, exactamente a las 7.00.

Las clases empezaban a las 8:00, y yo tenía horario completo diario, corriendo de salón a salón hasta las 11:30, y en la tarde de 1:30 a 4:30. Era algo brutal, porque cuando no estaba en clase, estaba en la oficina de profesores de inglés, y como era el único extranjero –no sólo en la escuela, sino a 200 kilómetros a la redonda– mis alumnos me buscaban durante todo el tiempo libre que tenía: a preguntarme dudas, practicar sus habilidades de conversación, invitarme a sus prácticas de la banda musical, enseñarme a cocinar baozis, ó a subir al observatorio (sí, teníamos observatorio en la escuela).

Pero mi carga de trabajo, que en México hubiera sido salvaje, era irrisoria comparada con la de mis alumnos. Además de las clases, tenían una sesión más de acondicionamiento físico a las 4:30, antes de la cena a las 5:30. Luego tenían un breve periodo de descanso entre 6:00 y 7:00 de la tarde –que muchos aprovechaban para jugar de nuevo al basquetbol o bádminton a donde, por supuesto, siempre me invitaban– y luego era irse de nuevo a sus salones de clase desde las 7 hasta las 9, para hacer tareas.

A las 9 en punto, sonaba la última diana del día, para que los alumnos se retiraran a sus dormitorios. Ahora bien, el edificio de profesores donde yo vivía estaba justo frente a uno de los dormitorios de estudiantes, pero la diferencia es que en los de ellos, las luces se apagaban a las 9:30, mientras que nosotros teníamos luz toda la noche.

Ahí desde mi cuarto, noche tras noche vi la misma escena a través de mi ventana, mientras tomaba un descanso de mis libros de chino y me preparaba un té de crisantemo: las “luciérnagas de Che Yin”.

Che Yin vivió durante la Dinastía Jin (265-420), y se dice que desde muy pequeño mostraba un gran amor por el estudio y la lectura, pero su familia era muy pobre y eso significaba que durante todo el día debía ayudar en las labores del campo. Cuando finalmente tenía tiempo libre, iba ansioso a su cuarto a leer los libros que su padre podía conseguir para él, pero siendo tan pobres debían escatimar en el uso del aceite para las lámparas, así que tras un tiempo muy corto debía apagar la luz y dejar de leer. De esta forma, el pequeño Che Yin se pasaba las noches viendo a través de su ventana y deseando que la luna llena llegara en una noche despejada, para poder leer tan sólo unas cuantas páginas más. Una noche de verano, el niño vio una gran cantidad de luciérnagas volando entre los árboles, encendiendo y apagando sus luces. Esto le dio una gran idea, por lo que de inmediato tomó una vieja red y se dirigió al jardín. Tras un rato de correr de un lado a otro, Che Yin capturó diez luciérnagas, que puso en una pequeña bolsa de tela tan desgastada que era ya casi transparente. Regresando emocionado a su cuarto, colgó la bolsa de una vara que sujetó a la mesa donde solía estudiar, y con alegría comprobó que la luz que emitían las luciérnagas era más que suficiente para abrir sus libros y leer durante la noche. A partir de ese día, Che Yin hizo de esto una rutina: cada día al terminar sus tareas en el campo, iba a capturar una docena de luciérnagas y se pasaba varias horas estudiando en la noche. Cuando creció, llegó a convertirse en un erudito renombrado y logró obtener un cargo oficial.

Frente a mi cuarto, en el dormitorio de estudiantes, vi cada noche esas luciérnagas: las pequeñas  linternas eléctricas que los estudiantes usaban para seguir leyendo bajo sus cobijas; adelantando alguna lección, practicando su inglés, leyendo un capítulo más del Sueño de las Mansiones Rojas. El espectáculo nunca dejó de fascinarme, enternecerme y quitarme el sueño, y es quizá una de las cosas más hermosas que he visto en China. Muchas veces me quedé despierto con ellos, con mis libros de chino abiertos sobre mi escritorio; acompañándolos hasta que la última luciérnaga se apagaba.