La frontera se fractura: por qué la IA necesita una base sobre la que apoyarse
Cinco modelos de IA de frontera, ante la misma tarea de verificación de hechos, discreparon sobre el 67% de las afirmaciones del mundo real. Una reflexión sobre los hallazgos de Lenz Research y sobre por qué fundamentar el razonamiento de los modelos en fuentes verificables cambia la naturaleza del problema.
¿Qué significa que un sistema «sepa» algo si cinco versiones de ese sistema, razonando a partir de la misma pregunta, llegan a cinco respuestas diferentes?
Un nuevo estudio de Lenz Research (2026) pidió a cinco modelos de frontera que verificaran mil afirmaciones de usuarios del mundo real y descubrió que no coincidían en el 67% de ellas. En un tercio de todas las afirmaciones, dos modelos emitieron veredictos separados por al menos dos categorías, pese a tratarse de sistemas que, en general, consideramos de vanguardia. Aunque los veredictos inequívocos de Verdadero y Falso fueron mucho más consistentes, las afirmaciones con más matices dieron lugar a desacuerdos casi exclusivamente en las categorías intermedias; y, seamos sinceros, es ahí donde se sitúa realmente la mayoría de los temas trascendentes.
¿Por qué ocurre esto?
Los grandes modelos de lenguaje no recuperan hechos tanto como reconstruyen relatos plausibles sobre ellos, ponderados por patrones presentes en la información que han asimilado o recuperado. Y ese entorno informativo no es una muestra neutral del conocimiento humano. Es un corpus a escala de la web en el que el contenido que genera mucha interacción está sobrerrepresentado de forma estructural, y donde la información que se difunde de manera viral en las redes sociales configura el panorama probabilístico a partir del cual razonan posteriormente los sistemas de IA. Un rumor compartido diez mil veces aporta más señales de entrenamiento que una rectificación compartida doscientas veces. Así que, cuando se plantea a cinco modelos de frontera una pregunta sobre una afirmación ambigua y controvertida, de esas que se han debatido ruidosamente por todo internet, se obtienen cinco reconstrucciones ligeramente distintas del ruido que la rodea, cada una internamente coherente, ninguna manifiestamente errónea y sin una forma clara de decidir entre ellas. Una mayor capacidad del modelo no resuelve esto, porque una reconstrucción más segura de sí misma sigue siendo una reconstrucción.
Una auditoría de NewsGuard de 2024 mostró un ejemplo de lo problemática que es esta cuestión al poner a prueba diez de los principales chatbots de IA frente a narrativas de desinformación rusa que se habían blanqueado a través de una red de sitios falsos de noticias locales. Los chatbots repitieron las narrativas falsas aproximadamente un tercio de las veces y, a menudo, trataron los medios locales inventados, o las afirmaciones relacionadas en YouTube, como fuentes creíbles. En ese sentido, el problema no es solo que la IA pueda generar falsedades, sino que puede heredar y reorganizar falsedades a las que ya se ha dado apariencia de conocimiento fiable.
En este contexto es donde me resulta genuinamente interesante construir infraestructura para una comunicación verificable; la idea es que las organizaciones puedan demostrar criptográficamente lo que han publicado y que los sistemas de IA puedan verificar las afirmaciones directamente con esa fuente original, en lugar de hacerlo con la reconstrucción de un modelo de lo que han dicho otros.
En el ejemplo anterior, la desinformación no necesitaba persuadir directamente a todo el público, solo necesitaba estar disponible como algo que la máquina pudiera recuperar, resumir y citar. Y, aunque los modelos están mejorando en el uso de fuentes preferentes, un modelo fundamentado en un registro autenticado y con sello de tiempo de lo que una institución publicó realmente opera en un registro epistémico distinto al de uno que razona a partir de datos de entrenamiento saturados de las repercusiones en redes sociales de la afirmación original.
¿Qué conclusiones se deben extraer de esto?
La narrativa de que los modelos más grandes convergen en mejores respuestas está ejerciendo una influencia considerable en los consejos de administración y en los círculos de formulación de políticas en estos momentos, y los hallazgos de Lenz sugieren que esa convergencia es considerablemente más superficial de lo que implica dicha narrativa. A medida que la IA asume un papel más importante en la mediación de la información, la brecha entre lo que un modelo cree que es cierto y lo que es verificablemente cierto se vuelve más difícil de ignorar. Fundamentar el razonamiento de los modelos en fuentes verificables no resuelve esa brecha haciendo que la IA sea más inteligente, sino cambiando la naturaleza del problema: de la inferencia sobre ruido ponderado por la interacción a la verificación con una fuente conocida.
Y esa distinción importa más de lo que podría parecer en un principio.
Para las organizaciones, no es solo una cuestión epistemológica abstracta, sino que cambia de forma fundamental las condiciones en las que debe operar la comunicación. Una declaración pública, un comunicado de prensa, una afirmación sobre un producto o una actualización sobre una crisis ya no se encuentra únicamente en el sitio web de la organización, a la espera de que se lea en su contexto. Puede ser extraída de forma automatizada, resumida, traducida, citada, cuestionada y recompuesta en respuestas por sistemas que los usuarios tratan cada vez más como interfaces con su realidad. Y, en ese entorno, la cuestión no es solo si la organización ha comunicado con precisión, sino si su comunicación todavía puede ser reconocida, verificada y distinguida del ruido que se acumula a su alrededor.
Sources
- Lenz Research (2026). 67% of real fact-checks, top AI models don’t agree on the answer. Accessed 29/05/2026.
- Sadeghi, M. & Blanchez, I. (2024). Top 10 generative AI models mimic Russian false claims a third of the time, citing Moscow-created fake local news sites as authoritative sources. NewsGuard. Accessed 29/05/2026.