Investigadores han detectado que artículos académicos publicados en revistas científicas están citando estudios y revistas que no existen, pero que fueron inventados por sistemas de inteligencia artificial, según un reportaje de Rolling Stone basado en testimonios de investigadores universitarios. Este fenómeno amenaza la integridad de la investigación, ya que estas referencias falsas se reproducen y se legitiman dentro del propio sistema académico.
El problema fue identificado por Andrew Heiss, profesor del Departamento de Gestión y Política Pública de la Universidad Estatal de Georgia, mientras revisaba trabajos estudiantiles. Al rastrear referencias sospechosas en Google Académico, Heiss descubrió que citas falsas generadas por IA ya circulaban en investigaciones profesionales, replicadas en artículos reales con ligeras variaciones. A diferencia de otros casos de artículos completamente fabricados por IA los que suelen ser retirados con rapidez, estas publicaciones no son detectadas, lo que permite que otros investigadores las citen y refuercen su aparente legitimidad.
Cuando un artículo que contiene referencias inexistentes es publicado sin correcciones, esas fuentes comienzan a ser citadas por otros trabajos. Este proceso genera un efecto de validación artificial: cuantas más veces aparece una cita falsa, más auténtica parece. Con el tiempo, incluso estudiantes y académicos asumen que se trata de investigaciones reales. Bibliotecarios especializados señalan que hasta el 15% de su tiempo se pierde buscando publicaciones inexistentes que herramientas como ChatGPT o Gemini presentan como reales.
Especialistas advierten que los modelos de lenguaje no distinguen entre verdad y falsedad, sino que generan texto de manera probabilística. Según el ingeniero de software Anthony Moser, las citas ficticias no son fallos excepcionales, sino una consecuencia previsible del funcionamiento de estos sistemas.Además, los textos generados por IA suelen incluir nombres de académicos reales y títulos similares a investigaciones existentes, lo que dificulta detectar el engaño y facilita su circulación en entornos académicos formales.
Este fenómeno contamina la base sobre la que se construyen nuevas investigaciones. Una vez que la información falsa entra en bases de datos públicas, rastrear su origen y corregirla resulta extremadamente complejo, señalan investigadores. La situación se agrava por la presión estructural para publicar y obtener citas, un contexto que ya favorecía la circulación de investigaciones de baja calidad antes de la irrupción de la IA.
Académicos como el filósofo Craig Callender, advierten que la incorporación acrítica de la IA acelerará la expansión de prácticas poco rigurosas dentro del sistema de publicación científica. El uso indiscriminado de inteligencia artificial en la investigación no solo introduce errores, sino que normaliza la desinformación dentro del propio ecosistema académico. Si las citas dejan de ser confiables, toda la cadena de producción del conocimiento queda en duda.
Fuente: https://es.rollingstone.com/revistas-academicas-estan-citando-articulos-inventados-por-la-ia/
