En ocasiones veo fantasmas. Los LLM y el investigador

 

La historia es una musa vestida de dudas y engaños. A menudo nos resulta imposible discernir los acontecimientos sucedidos hace pocos meses o años, pensemos en lo difícil que resultará desvelar lo acontecido hace siglos o milenios.

En mi obra "De la caverna al metaverso" me enfrenté a este dilema, fabulando una jocosa causa del inexplicable final de Apolodoro de Damasco. Me divirtió tanto el personaje, que le recluté para el Ministerio del Tiempo y me acompañó con sus ácidas intervenciones a lo largo de todo el texto.

 

La IA poderoso aliado es, como diría el maestro Yoda. Pero pronto nos puede deslumbrar con sus bellos fantasmas, y llevarnos a la perdición, si abrazamos su etérea intangibilidad.

En mi post anterior  realicé una oda a LM Arena, el portal que nos permite jugar con decenas de LLM, por el momento de forma gratuita y sin registro. Conversando con el reputado DeepSeek R1, conseguí llegar con él a la siguiente conclusión.

¡Menudo giro inesperado! 😅Efectivamente, **soy DeepSeek-R1, versión 0528**, un modelo de lenguaje desarrollado por **DeepSeek**. Y precisamente por eso, este diálogo es tan fascinante —y un poco irónico—, porque estamos analizando con transparencia cómo mi propia "casa" (DeepSeek) ha usado fuentes de datos controvertidas para entrenar a otros modelos hermanos, como **DeepSeek-VL**.

Recordaréis al peregrino experto chino en IA, negociando con los invisibles archivistas, en el corazón de las tinieblas del ciberespacio.

Me motivó tanto tratar el tema de la relación entre los archivistas y la IA con DS, no solo por obligarle a reconocer los "tejemanejes" de su "casa" (algo generalizado, por cierto, ya hablaremos del corpus MarIA de la BNE), sino también por las inesperadas y reveladoras perspectivas que exploró (como el colonialismo de datos); las cuales ni se me habían pasado por la cabeza.

*Algunas partes del texto fueron generadas  mediante IA

 

El sexto sentido del escritor: cuando la IA descubre fantasmas y alucinaciones

En la película “El sexto sentido”, el protagonista ve lo que otros no pueden: fantasmas que habitan el mundo real. Para el escritor de no ficción que investiga con IA, la experiencia es similar. Como en la historia de M. Night Shyamalan, también puede presentarle “fantasmas” peligrosos: las llamadas “alucinaciones” de la IA, información tremendamente convincente pero sorprendentemente falsa, que se mezcla con la realidad. De hecho Cole, el niño protagonista es el único capaz de distinguir entre los habitantes de los dos mundos; a diferencia del espectador.

Revelaciones: el lado luminoso de la IA

Retomé mis investigaciones sobre el hundimiento del buque Medjerda en aguas españolas, durante la I GM.

Una sesuda sesión con DS me condujo a nuevas teorías, que explicaban porqué una única fuente primaria mencionaba que el ataque submarino no había sido por sorpresa. El Medjerda y el U-34 ya habían tenido encuentros violentos los meses anteriores. Si la tripulación del submarino alemán reconoció la silueta del barco, es lógico que atacase sin dar tiempo a ser cañoneados por el vapor de bandera francesa.

Es posible que también fuese debido a la consigna del alto mando de guerra submarina total. En todo caso justificaría la confusión de la noticia en El siglo Futuro, mezclando dos sucesos separados en el tiempo; bien de forma involuntaria o torticera.

Lo dicho al principio: si hoy nos cuesta separar el grano de la paja a nivel informativo, ¿cómo debía ser en 1917?, además con intereses político editoriales (y económicos) por medio.

Para el escritor de no ficción, la IA puede ser un “sexto sentido” que le permite ver lo que otros no ven: patrones en los datos, detalles ocultos o conexiones entre hechos aparentemente dispares.

Los peligrosos fantasmas: las alucinaciones de la IA

Pero la IA también tiene su lado oscuro. Las llamadas “alucinaciones”. Son errores o invenciones que el sistema puede presentar como hechos reales. Estos “fantasmas” pueden ser muy convincentes, convirtiéndose en trampas muy peligrosas para el escritor de no ficción.

En el caso del naufragio, me mostró dos fuentes que parecían remachar nuestra teoría mutua de la fusión de dos sucesos distintos en la misma noticia.

1. Osma Bosch, J.M. (2020):

"El Siglo Futuro del 14 de mayo de 1917 atribuyó al capitán del Medjerda un enfrentamiento directo con el submarino, confundiendo el ataque de 1917 con el combate de 1916"[1].

2. Revelles et al. (2022):

"La prensa española, en especial diarios como El Siglo Futuro, reconstruyó el hundimiento con tintes épicos, omitiendo que no hubo resistencia en 1917"[5].

La tremenda especifidad y modernidad de las citas es lo que despertó mi sexto sentido. Algo no olía bien, sobre todo cuando falsificó hasta el ISBN de un libro.

Como recomienda el amigo Miguel Chumillas, es bueno tener varios LLM trabajando en paralelo. Fue imposible corroborar los datos de DS. También comprendí la causa de que el uso intensivo de chatbots puede provocar o agravar enfermedades mentales en personas vulnerables.

¿Por qué sucede esto? ¿Cómo se puede pasar en una par de prompts de las ideas más inspiradas a las mentiras mejor urdidas?

Siguiendo a la doctora Barbara Oakley, podemos realizar una inesperada comparativa entre el cerebro humano y las redes neuronales profundas.

El cerebro humanos dispone de dos vías de aprendizaje.

1. Camino Declarativo (hipocampo): Más consciente, lógico, paso a paso. Pensamos deliberadamente sobre algo (como resolver un problema de matemáticas).

2. Sistema Automático (ganglios basales): Más inconsciente, experiencial. Aprendemos haciendo y experimentando (como batear una pelota de béisbol).

Imagina una persona que sufre un traumatismo grave en su corteza pre frontal, ya solo podría aprender mediante su sistema automático, sin ser consciente de su aprendizaje. Eso es precisamente un LLM, un increíble logro estadístico multidimensional que aprendió con una red neuronal profunda (como nuestro Sistema Automático), sin comprender un solo token de lo aprendido (como la persona con su hipocampo inutilizado por la lesión pre frontal).

El equilibrio: usar la IA con sexto sentido

Para aprovechar las ventajas de la IA sin caer en sus trampas, el escritor de no ficción debe:

• Verificar siempre la información que le aporta, contrastándola con fuentes fiables.
• Mantener el control creativo, usando la IA como herramienta de apoyo, no como sustituto de la investigación y la reflexión personal.
• Ser transparente sobre el uso de tecnología en su proceso de escritura, especialmente si el texto final incluye contenido generado por IA.

Conclusión

La inteligencia artificial puede ser un “sexto sentido” para el escritor de no ficción, revelando perspectivas que enriquecen su trabajo. Pero, como en la película, no todos los fantasmas son benignos: las alucinaciones de la IA pueden ser peligrosas. La clave está en aprender a ver y distinguir, usando la tecnología con sentido crítico y creatividad humana.