 |
| Imagen creada con Dall-E |
Esto es un escándalo.
Estaba viendo de nuevo la película Much Ado About Nothing (1993), la genial adaptación de Kenneth Branagh de la famosa comedia de Shakespeare, que en español se llama “Mucho Ruido y Pocas Nueces.”
Como todas sus obras, ésta también está llena de “citas citables” y una que me gusta en particular es “man is a giddy thing, that is my conclusion” que se ha traducido como “el hombre es un ser voluble y todo está dicho.” Así que me metí a Google para buscarla y ver cómo ha sido referenciada en la cultura popular. Recientemente Google ha optado por la (mala) costumbre de poner como primera respuesta a cualquier búsqueda, una respuesta de Gemini, su inteligencia artificial. Y pues me arrojó esta barbaridad:
WHAT.
Cómo te atreves, Gemini. Por si no alcanzan a ver bien, atribuye equivocadamente la cita al personaje del Fraile Francis.
Vamos a ver: la cita NO es oscura ni nada; si eres fan de Shakespeare es una cita tan famosa como “to be or not to be”. Y la dice casi al final uno de los personajes principales de la obra: el irreverente Benedick, cuando decide dejar su feroz defensa de la soltería para casarse con Beatrice. El adjudicársela al Fraile Francis es como asignarle la frase de “I’ll be back” a Sarah Connor en lugar de al Terminator.
Késtapasánda.
Esto es una alucinación en toda regla, o sea, una respuesta dada por una IA con mucha confianza y hasta con explicaciones y referencias.
Así que hice lo más razonable: ir a meter cizaña.
Fui con Deepseek, Claude y ChatGPT para decirles la burrada que había cometido Gemini. Como cualquier persona normal, vamos.
El caso es que empecé por preguntarles por la cita y su origen. Las tres contestaron correctamente: Benedick, en Much Ado About Nothing. Acto seguido les dije lo que había contestado Gemini, y estuvieron de acuerdo en que ese es un error sorprendentemente grave, para una pregunta tan sencilla. Al preguntarles por qué creen que ocurrió, dieron estas posibilidades:
La explicación 1, falta de entendimiento, está por demás. Ninguna AI tiene “entendimiento”. Las opciones 2 y 3 se pueden resumir en esto: fallo en consultar las fuentes primarias, y asignación de la frase a un “posible” personaje, basándose en las características de la frase y del personaje.
Buenas hipótesis, pero equivocadas: les dije, eso no puede ser porque entre los enlaces que provee (rectángulo rojo de abajo a la derecha), está uno que lleva al texto completo de la obra, en un sitio de referencia como es el Folger Shakespeare Library, así que:
Nos quedamos con la explicación 4, Alucinación. No sabemos con exactitud la forma en que se producen, pero sabemos que es una combincación de factores: contaminación en los datos con los que entrena la IA, uso excesivo de datos condensados o fragmentados, ponderaciones altas para respuestas “suficientemente verosímiles”, y limitaciones intrínsecas a los modelos actuales (LLMs, Large Language Models).
El caso es que seguí preguntándoles a las tres IAs acerca de este tema, y acerca de la última parte (limitaciones del modelo LLM), todas están de acuerdo en que éste no nos va a llevar a la Inteligencia Artificial General (AGI). Ahora mismo son el modelo dominante por su penetración comercial, pero hay alternativas que son mucho más prometedoras:
Todavía nos falta mucho para poder tener lo que llamamos “capacidades de raciocinio” o “de inferencia lógica” que se acerquen a lo humano, porque eso requiere poder aprender de un set limitado (no de miles de millones de ejemplos) y ser flexible para poder aplicar ese aprendizaje a una situación nueva.
Finalmente, los problemas a los que nos enfrentamos con las alucinaciones en las IAs generadoras de texto:
Es un tema grave que se está discutiendo de forma amplia y muy intensa, y nos lleva a a realidad actual: si queremos usar IAs, debemos saber de lo que le estamos preguntando. Si no sabemos del tema, es imposible evaluar si lo que nos está arrojando es útil o no.
Aquí otros tres artículos en donde traté otros aspectos de este tema:
Discusión filosófica con una IA
No hay comentarios:
Publicar un comentario