Los modelos de lenguaje ya funcionan como intermediarios de conocimiento. Les pedimos que comparen fuentes, resuman papers, expliquen noticias y nos digan qué parece confiable. Un paper en arXiv, titulado "Trust, but Don't Verify", pone el dedo en una pregunta incómoda: ¿los LLMs evalúan realmente la calidad de las fuentes o solo agregan información con apariencia convincente?
La diferencia importa. Sintetizar no es verificar.
El problema de los proxies epistémicos
Cuando usamos un LLM para investigar, el modelo se vuelve una especie de proxy epistémico: no leemos todo directamente, sino que confiamos en su lectura. Eso puede ser útil, pero también peligroso si el modelo no discrimina bien evidencia fuerte de evidencia débil.
Según el abstract del paper, los modelos pueden detectar estadísticas fabricadas cuando aparecen aisladas. El problema surge cuando deben usar esa capacidad dentro de una síntesis más amplia. Dicho simple: pueden reconocer una señal de alarma, pero no siempre la activan cuando están redactando una respuesta final.
Por qué esto afecta a lectores normales
El riesgo no es solo académico. Si un modelo resume cinco artículos y uno de ellos tiene datos dudosos, puede mezclar todo en una explicación fluida. El resultado suena razonable, pero la calidad de la evidencia queda escondida.
Esto afecta investigación, periodismo, decisiones de negocio, salud, educación y desarrollo de software. Cuanto más confiamos en la síntesis, más necesitamos saber cómo fue construida.
Cómo usar IA sin apagar el juicio
Una práctica sana es pedirle al modelo que separe:
- Hechos confirmados.
- Interpretaciones.
- Supuestos.
- Evidencia débil o no verificada.
- Fuentes primarias y secundarias.
También conviene abrir las fuentes clave. La IA puede ahorrar tiempo, pero no reemplaza la responsabilidad de leer lo más importante cuando la decisión importa.
Límites de esta señal
Este paper no significa que todos los modelos fallen siempre al evaluar fuentes. Tampoco invalida el uso de IA para investigación. Lo que muestra es más sutil: la capacidad de detectar un problema no garantiza que el modelo la use de forma consistente en tareas complejas.
Conclusión rápida
La mejor regla práctica es simple: confiar, pero verificar. Los LLMs son excelentes para organizar lectura, proponer preguntas y acelerar comprensión. Pero cuando la evidencia importa, hay que pedir fuentes, revisar claims y mantener una distinción clara entre resumen y verificación.
Este criterio también aplica a cómo leemos noticias de IA: por eso en Criterio AI insistimos en diferenciar señal, análisis, rumor y prueba real.
Conclusion rapida
Los LLMs pueden detectar problemas evidentes en una fuente aislada, pero eso no significa que evalúen bien la calidad de evidencia cuando sintetizan muchas fuentes.
Que significa esto para vos
Usar IA para investigar exige verificación humana, lectura de fuentes primarias y criterios explícitos de evidencia.
