La investigación detrás de la arquitectura.

La base son más de 300 iniciativas de IA documentadas públicamente, entrevistas con 52 organizaciones y una encuesta a 153 directivos (de enero a junio de 2025). Los autores informan de que el 95 % de las organizaciones examinadas no ha obtenido hasta ahora ningún rendimiento financiero medible de sus iniciativas de IA generativa, observado unos seis meses después del piloto. No es un fracaso técnico: muchas herramientas funcionan, pero no cambian nada que se refleje en la cuenta de resultados. Como causa principal señalan una brecha de aprendizaje: sistemas que no se integran en los procesos existentes, no retienen el contexto y no mejoran. Las empresas con éxito exigen una adaptación específica a cada proceso y miden por resultados de negocio en lugar de benchmarks; los autores ven los rendimientos más claros en el back office. Contexto: el informe es preliminar, según su propia indicación no es representativo y abarca un periodo corto. La afirmación extendida de que «el 95 % de todos los proyectos de IA fracasan» no se desprende de él en esa forma; algunas tasas del informe se refieren a otras poblaciones.

El 56 % de los CEO encuestados afirma que la IA no ha aportado hasta ahora a su empresa ni menores costes ni mayores ingresos. El 30 % informa de mayores ingresos, el 26 % de menores costes; solo el 12 %, de ambas cosas. Según PwC, destacan las empresas que han extendido la IA a gran escala sobre bases sólidas. El estudio aporta así una base de datos más reciente y mucho mayor sobre por qué las inversiones en IA a menudo aún no aportan una ventaja medible. Contexto: se trata de datos autodeclarados por los CEO, no de cifras financieras medidas.

Según BCG, el 74 % de las empresas aún no ha desarrollado capacidades suficientes para usar la IA a gran escala y lograr beneficios tangibles; solo el 26 % va más allá de las pruebas de concepto y el 4 % se considera pionero. Para BCG, aproximadamente el 70 % de los obstáculos están en las personas y los procesos, el 20 % en la tecnología y solo en torno al 10 % en los algoritmos. Los pioneros usan la IA en procesos centrales y no solo en funciones de apoyo, y se concentran en menos casos de uso, que luego escalan de forma sistemática. Contexto: encuesta a directivos, no una medición de proyectos concretos.

El trabajo introduce un «descomponedor» que divide una tarea en subtareas, cada una resuelta por manejadores especializados: prompts propios, otros modelos o funciones de programa corrientes. Como cada manejador es independiente, puede mejorarse, sustituirse o reutilizarse recursivamente por separado. En tareas de varios pasos (entre otras, manipulación simbólica y preguntas multisalto), el enfoque superó claramente en el estudio al prompting clásico de cadena de pensamiento.

Los problemas difíciles se descomponen primero en subproblemas más sencillos y se resuelven después por orden, de modo que cada respuesta pasa al siguiente paso. En el estudio, los modelos generalizaron así de ejemplos fáciles a tareas considerablemente más difíciles en las que fracasó el prompting de cadena de pensamiento.

En lugar de ponerse manos a la obra de inmediato, el modelo debe elaborar primero un plan de subtareas y luego ejecutarlo. Los autores muestran que esta separación entre planificación y ejecución reduce errores típicos del prompting zero-shot de cadena de pensamiento, sobre todo pasos omitidos y errores de cálculo o de comprensión.

El trabajo muestra que los modelos de lenguaje pueden aprender a llamar a herramientas externas en los puntos adecuados (calculadora, búsqueda, calendario, traducción) e integrar su resultado en la respuesta. Un modelo entrenado así, comparativamente pequeño, alcanzó en el estudio el rendimiento de modelos considerablemente mayores en tareas que exigen hechos o cálculo. Mensaje central: las herramientas compensan lo que un modelo no puede hacer con seguridad de memoria.

Los autores varían sistemáticamente la posición de la información relevante dentro del contexto. Resultado: los modelos usan la información del principio y del final de forma fiable, pero en el medio la precisión cae claramente: una curva en U que aparece incluso en modelos con ventanas de contexto expresamente largas. Por tanto, más contexto no es automáticamente mejor; lo decisivo es que lo relevante llegue y, si es posible, en un lugar destacado.

El trabajo combina un modelo de lenguaje con un recuperador sobre una colección externa de documentos: para la consulta se recuperan pasajes adecuados y se entregan al modelo. En el estudio las respuestas fueron más específicas y más fieles a los hechos que con conocimiento puramente paramétrico, y el conocimiento puede actualizarse cambiando el índice en lugar de reentrenar el modelo.

REPLUG trata el modelo de lenguaje como una caja negra: el recuperador simplemente antepone a la entrada los documentos encontrados, y el modelo en sí queda intacto. Los autores muestran que así incluso los modelos grandes que no se pueden modificar se benefician del conocimiento externo, y que el recuperador puede mejorarse con la retroalimentación del modelo sin tocar sus pesos.

Un enrutador estima de antemano lo difícil que es una consulta y envía las sencillas a un modelo pequeño y las difíciles a uno grande. En los experimentos de los autores se pudo así ahorrar una parte considerable de las llamadas al modelo grande sin que la calidad de las respuestas se resintiera de forma medible; el umbral se puede ajustar mediante un parámetro de calidad.

El trabajo sistematiza tres palancas contra los costes de los LLM: acortar y agrupar prompts, almacenar respuestas en caché o usar modelos más pequeños, y cascadas en las que primero responde un modelo barato y solo se escala cuando la fiabilidad es baja. En sus benchmarks, los autores alcanzaron con tales combinaciones la calidad del modelo más caro a una fracción del coste.

El modelo escribe primero un borrador, después planifica preguntas de verificación sobre las afirmaciones que contiene, las responde con independencia del borrador y elabora a partir de ello la respuesta final. Lo decisivo es la separación: si las preguntas de verificación se responden sin mirar el borrador, el modelo hereda sus errores con menos frecuencia. En el estudio, el número de datos inventados descendió claramente en varios tipos de tarea.

El mismo modelo genera una respuesta, formula críticas sobre ella en una segunda llamada y la revisa en una tercera, sin entrenamiento, solo mediante roles separados en llamadas separadas. En siete tareas, tanto las personas como las métricas automáticas prefirieron claramente los resultados revisados frente al primer borrador.

Los autores extrajeron de GPT-2 cientos de secuencias de entrenamiento memorizadas literalmente (entre ellas nombres, direcciones y datos de contacto de personas reales), aunque cada una aparecía solo una vez en el entrenamiento. Los modelos mayores fueron más vulnerables. El trabajo posterior de Nasr et al. (ICLR 2025) muestra que incluso los modelos de chat en producción y alineados pueden ser inducidos a emitir datos de entrenamiento.

El trabajo describe la inyección indirecta de prompts: un atacante oculta instrucciones en datos que el sistema lee después (páginas web, correos, documentos). En cuanto un LLM procesa ese contenido, se le puede inducir a filtrar datos, manipular respuestas o realizar acciones no deseadas. InjecAgent (Zhan et al., Findings of ACL 2024) lo mide para agentes con herramientas: en el benchmark, incluso modelos potentes podían ser inducidos en una proporción relevante de los casos a realizar acciones dañinas mediante salidas de herramientas manipuladas.