Comprender las alucinaciones de IA: por qué los «hechos inventados» son un riesgo para los museos

¿Quién no lo ha vivido? Se le hace una pregunta a una IA y se recibe una respuesta asombrosamente segura de sí misma, pero lamentablemente completamente falsa. Estos momentos en los que la tecnología parece volverse «creativa» e inventa hechos se denominan alucinaciones de IA.

Mientras que en la vida cotidiana suelen ser solo una molestia o una curiosidad, en el entorno profesional se convierten en un problema serio. Especialmente para instituciones cuya tarea central se basa en hechos verificados y en la confianza pública, como los museos, tales alucinaciones no son aceptables.

¿Qué son las alucinaciones de IA?

El término «alucinación de IA» describe un fenómeno en el que un modelo de IA genera información aparentemente convincente, pero falsa o libremente inventada. Como explica IBM, estos errores surgen cuando un Large Language Model (LLM) «percibe» patrones que ni siquiera existen en los datos de entrenamiento y deriva de ellos contenidos que no se corresponden con la realidad (IBM, 2024).

A diferencia de un error de programación clásico, la IA no se inventa nada de forma consciente, sino que calcula la respuesta más probable a partir de sus datos de entrenamiento. Si esos datos están incompletos o sesgados, surge una afirmación aparentemente plausible, pero factualmente falsa: una alucinación.

¿Por qué alucinan los LLM?

Los grandes modelos de lenguaje se entrenan para predecir la secuencia de palabras más probable. No comprenden los contenidos en el sentido humano, sino que calculan probabilidades. Como se basan en conjuntos de datos predefinidos con un «knowledge cutoff» limitado, les faltan hechos actuales o específicos. Cuando un modelo no «conoce» una información fiable, rellena el vacío y genera una respuesta que suena fluida, pero que no se basa en fuentes verificables.

Tales alucinaciones también pueden surgir por sesgos (bias) en los datos de entrenamiento, malinterpretaciones en la generación de texto o limitaciones insuficientes en el diseño del prompt.

¿Por qué es problemático para los museos?

Los museos son lugares en los que los visitantes esperan información de alta calidad y verificada. Un estudio del Institut für Museumsforschung (2023) muestra: «Los museos gozan en Alemania de la mayor confianza de todas las instituciones del conocimiento» (SMB, 2023).

Si los museos emplean en el futuro sistemas basados en IA —por ejemplo chatbots, audioguías o asistentes de visita—, esa confianza está en juego. Una IA que interpreta mal datos históricos, inventa el contexto de un objeto o distorsiona temas sensibles puede dañar a largo plazo la credibilidad y la confianza.

Precisamente en el ámbito cultural es por tanto decisivo:

Quien emplee IA debe asegurar la base factual.

¿Cómo se pueden prevenir las alucinaciones?

Un método consolidado para evitar las alucinaciones de IA es la Retrieval-Augmented Generation (RAG) (Wikipedia_RAG). RAG combina dos pasos:

• Retrieval: la IA busca en una base de conocimiento externa o en una colección de documentos la información relevante.

• Generation: solo esos contenidos verificados se incorporan a la respuesta.

Así la IA no queda limitada a su modelo de lenguaje interno, sino que puede recurrir a fuentes actuales y verificadas factualmente.

Los modelos RAG se emplean cada vez más como best practice en ámbitos intensivos en conocimiento como la medicina, el derecho —y también los museos.

Requisitos distintos según el dominio

Un sistema RAG no funciona de forma universalmente idéntica. Según el ámbito de aplicación, hay que adaptar los mecanismos de búsqueda y respuesta:

• Las bases de datos museísticas suelen estar formadas por textos descriptivos, metadatos, información de procedencia e imágenes de objetos.

• El tipo de preguntas difiere mucho de las búsquedas web típicas: los visitantes preguntan, por ejemplo, «¿Quién era esta artista?» o «¿Qué significado tiene este símbolo?».

• También el tipo de respuesta exige conocimiento de dominio: un asistente de IA debe formular no solo de forma correcta, sino sensible al contexto y amable con el público.

nuseum como experto en RAG en el ámbito museístico

nuseum desarrolla guías museísticas basadas en IA, concebidas específicamente para estos requisitos. El nuseum Copilot utiliza un sistema RAG adaptado al dominio museístico: accede a fuentes de datos curadas e información de objetos verificada antes de generar una respuesta. Así el chatbot puede complementar los conocimientos previos que faltan a los visitantes, sin inventar contenidos.

Mediante la combinación de expertise técnica en RAG y comprensión de la práctica de mediación museística, nuseum ayuda a los museos a emplear la IA de forma segura, como herramienta de mediación del conocimiento, no como un riesgo para su credibilidad.

Conclusión

Las alucinaciones de IA no son un fenómeno marginal, sino un riesgo estructural de los modelos generativos. Precisamente los museos, que se consideran lugares de conocimiento confiables, deben asegurar que las ofertas digitales de mediación sigan basadas en hechos.

Tecnologías como la Retrieval-Augmented Generation ofrecen aquí una solución de futuro: unen la competencia lingüística de las máquinas con la responsabilidad curatorial. nuseum muestra cómo se pueden reunir ambas en la práctica, para asistentes digitales que responden a las preguntas de los visitantes de forma fiable, precisa en el contexto y creíble.

Fuentes adicionales

• IBM Think: ¿Qué son las alucinaciones de IA?

• Wikipedia: Retrieval-Augmented Generation

• Institut für Museumsforschung (2023): Confianza en los museos – estudio a escala alemana