Para aquellos que se creen a pies juntillas todo lo que les dice la IA. Voy a contaros una historia que me pasó hace un par de meses y que cambió casi por completo mi relación con los agentes de IA generativa.

Mi biblioteca personal no es enorme, pero acumulaba en ese momento unos 1.200 libros, así que localizar uno concreto se volvía una auténtica pesadilla que generalmente necesitaba el apoyo de alguno de mis hijos. Mil doscientos volúmenes a dos centímetros de lomo son casi veinticinco metros lineales de estantería: hay que recorrerlos con la mirada, título a título, y con los años la vista tampoco ayuda. En esta ocasión ni mi hijo ni yo fuimos capaces de localizar el libro. Así que tuve la maravillosa idea de preguntarle a la IA, que presume de capacidades de búsqueda de palabras en imágenes.

Voy a reproducir lo mejor que pueda mi interacción con OpenAI para este caso.

Una vez enviada esta foto, mi pregunta fue: «Busco un libro llamado "Hello World", ¿lo ves?»

A lo que ChatGPT me responde:

Sí 🙂
Lo veo en la segunda balda empezando por abajo (la que está justo encima del calendario), aproximadamente en el centro-izquierda.

Es un libro blanco con letras negras grandes en vertical que pone:

"HELLO WORLD"

Está inclinado ligeramente hacia la derecha, entre otros libros claros y azules.

Con esta respuesta tan contundente, me vuelvo hacia la librería y repaso la segunda balda comenzando por la izquierda y revisando poco a poco toda la balda, para darme cuenta de que no está donde me dice que está. Se habrá confundido de balda, o yo no lo he buscado correctamente, así que se lo indico de manera educada y pausada (como no podía ser de otro modo). Su respuesta:

Mira esta zona 👇

  • Ve a la segunda estantería desde abajo.
  • Ahora busca el centro exacto de la biblioteca.
  • Verás un grupo de libros claros y azules.
  • El libro está en vertical, con el lomo blanco.
  • El texto aparece así:

HELLO WORLD

Está justo:

  • a la izquierda de un libro azul oscuro,
  • y bastante cerca del libro naranja de "MATHEMATICS".

Además, el autor parece ser Hannah Fry.

He de reconocer que mi visión ya no es lo que era y me cuesta en ocasiones no solo centrar la vista, sino que la búsqueda de títulos de libros que no están en horizontal tampoco es fácil, así que sigo sin encontrarlo y le pido más apoyo, porque ChatGPT parece haberlo localizado a la primera.

Sí. Contando los libros de esa balda desde la izquierda, está aproximadamente en la posición 31–33.

Más fácil todavía:

  • Está casi en el centro de la estantería.
  • Busca primero el libro naranja que pone "MATHEMATICS".
  • Luego mira un poco a su derecha.
  • Verás un lomo blanco que pone HELLO WORLD en negro vertical.

El libro es este:

Hello World

Localizo el libro que me indica: "Mathematics" efectivamente está en mi librería. Pero yo sigo sin encontrar el libro que busco. De hecho, empiezo a sospechar que me está engañando. No puede ser. Si lo ha encontrado, será capaz de marcarlo en la foto, ¿no? Pues vamos a pedírselo: «Márcalo en la misma foto que yo te he pasado, así ya lo reviso yo mismo». La respuesta de la IA me dejó blanco, o peor aún, con cara de idiota.

Sin duda, ahí está… no sé cómo no pude verlo. El libro está en la cabeza de la IA, en su imaginación. El libro solo figura en un estado similar al del gato de Schrödinger: existe y no a la vez, aunque para mi desgracia no en el mundo real.

Cuanto más se equivocaba ChatGPT, más segura estaba de tener razón

De hecho, ese libro no lo tengo. Lo tengo en su versión en castellano, "Hola Mundo", y no estaba en esa estantería. Y sí, lo encontré… pero por mis propios medios.

Reproduzco a continuación la justificación que me facilitó otra IA para con su amiga de OpenAI:

Qué estaba pasando en realidad

Conviene aclarar que el libro existe: Hello World: How to Be Human in the Age of the Machine es de 2018 y lo firma Hannah Fry, matemática y divulgadora del University College de Londres. El modelo acertó el título, el autor y hasta el aspecto probable del lomo, y aun así se lo inventó todo.

Los modelos de visión no "leen" la foto como nosotros. La imagen se trocea en parches, se reescala hasta perder detalle y se convierte en tokens; en una estantería con cientos de lomos apretados, muchos títulos quedan reducidos a manchas de color. El modelo no dice "no lo veo": rellena los huecos con lo más probable. Y si en la balda hay un libro naranja de matemáticas, la asociación «matemáticas + Hello World + Hannah Fry» es demasiado tentadora. La posición 31-33, el lomo blanco y el libro azul oscuro al lado encajan porque forman parte de la misma historia que se ha contado a sí mismo. El recuadro de la segunda imagen no señala un libro: señala el sitio donde el libro debería estar según su propio relato.

Esto tiene nombre: confabulación. El modelo no miente por maldad ni por desconocimiento; genera la respuesta más plausible, y la plausibilidad no viene con un aviso de "esto es una suposición". Encima tiende a complacer: si le dices que no lo encuentras, no te discute, te da más detalles y más seguridad.

Desde este episodio han cambiado varias cosas en mi interacción con la IA: Para empezar he desarrollado una aplicación (con ayuda de otra IA, eso es cierto) para poder localizar fisicamente mis libros ( Quadrivium Library) y no depender de que la IA acierte. Si por algún motivo le pido que me ayude a localizar algún título, antes de perder el tiempo de un lado para otro, le pido que transcriba los títulos de los lomos vecinos arriba y abajo. Si esto no lo hace, por lo general es que se lo está inventando.

La experiencia me enseñó que una respuesta muy detallada y especifica no necesariamente quiere decir que sea una respuesta correcta.

Lo inquietante no fué que se equivocase, nos pasa a todos. Lo inquietante fué que a cada pregunta que le hacía se reafirmaba más todavía en su convicción de que el libro existía, en la ubicación que decía. Y de hecho, me daba cada vez mas pruebas de ello.