“Alucinaciones” de la IA: miles de publicaciones científicas podrían incluir citas inventadas

Más de 100 mil publicaciones científicas de 2025 podrían contener referencias bibliográficas inválidas, muchas de ellas generadas por inteligencia artificial (IA), reveló un análisis de la revista Nature en colaboración con Grounded AI, una empresa que desarrolla herramientas para detectar este tipo de incidencias.

El estudio estima que, de los cerca de 7 millones de artículos publicados este año, una proporción significativa presenta errores graves en sus referencias.

La investigación advierte sobre la aparición de citas completamente fabricadas por modelos de lenguaje. El problema radica en la inclusión de fuentes inexistentes, generadas a partir de las denominadas “alucinaciones” de la IA.

Según explicaron, este fenómeno ocurre cuando los modelos de lenguaje producen información que parece verosímil, pero que en realidad no existe. En el contexto académico, esto significa que se citan estudios o artículos que nunca fueron publicados, algo que pone en duda la veracidad de la investigación científica.

El estudio analizó más de 4.000 publicaciones recientes de cinco grandes editoriales internacionales: Elsevier, Sage, Springer Nature, Taylor & Francis y Wiley. A cada trabajo se le asignó una puntuación de riesgo basada en la cantidad de referencias problemáticas y la probabilidad de que estas hubieran sido generadas por inteligencia artificial.

Finalmente, se revisaron manualmente los 100 trabajos más sospechosos y se confirmó que 65 contenían al menos una referencia inválida. En 22 casos, las citas sí correspondían a trabajos reales, y en 13 no fue posible determinarlo con certeza.

En ese sentido, si esta proporción se extrapola al conjunto de la literatura académica, más de 110.000 publicaciones de 2025 podrían contener referencias inválidas, e incluso los expertos advierten que la cifra real podría ser mayor, ya que el análisis solamente evaluó grandes editoriales que poseen mayores recursos de control.