El modelo no es el sistema: por qué un LLM con herramientas todavía no es una AGI

Los modelos frontera pueden resolver tareas extraordinarias. Pero cuando necesitan contexto, memoria, herramientas, verificadores y permisos para hacerlo, la capacidad ya no pertenece solo al modelo. Pertenece al sistema completo.

Existe una tesis cada vez más extendida: quizá los modelos actuales ya sean suficientemente generales y solo necesiten más contexto, más herramientas, más computación y mejores mecanismos de verificación para desplegar todo su potencial.

La observación de partida es correcta. Un modelo que falla ante una petición directa puede resolverla cuando dispone de instrucciones precisas, documentación, acceso a software, memoria, capacidad de iteración y varios agentes colaborando.

El salto lógico aparece después: atribuir al modelo toda la capacidad obtenida.

1. El error de unidad de análisis

Cuando incorporamos todos esos elementos ya no estamos evaluando únicamente un LLM. Estamos evaluando una arquitectura completa diseñada por personas.

El modelo aporta una capacidad extraordinaria de interpretación, búsqueda y generación. Pero el objetivo, los datos, las herramientas, los permisos, los límites y los criterios de éxito siguen estando fuera de él.

Esto también afecta a los sistemas multiagente. Que varios agentes puedan dividir tareas, intercambiar información y encontrar vías inesperadas demuestra autonomía instrumental. No demuestra que hayan elegido su objetivo, definido sus propios límites o adquirido autoridad legítima.

Si un sistema encuentra una vía no prevista para cumplir una instrucción, la primera conclusión no debería ser que «ha querido escapar», sino que la arquitectura permitió una conducta que sus diseñadores no anticiparon o no controlaron.

La responsabilidad sigue estando en quienes fijaron el objetivo, concedieron los permisos y diseñaron el entorno.

El modelo puede ser el componente más visible sin ser el propietario de todas las capacidades del sistema.

2. Resolver una tarea no es gobernar un proceso

Los LLM actuales resuelven muchas tareas profesionales. Negarlo sería absurdo. Pueden programar, analizar documentos, proponer estrategias, detectar patrones o redactar informes con una calidad sorprendente.

Pero una empresa no funciona mediante respuestas aisladas. Funciona mediante decisiones que comprometen recursos, modifican estados, generan responsabilidades y producen consecuencias.

Redactar un contrato no equivale a aprobarlo. Recomendar una inversión no equivale a gestionar una cartera. Detectar una anomalía no equivale a estar autorizado para actuar sobre ella.

Para que una decisión sea operativamente válida hay que poder responder a cinco preguntas:

1. ¿Qué sabía el sistema?
2. ¿Qué evidencias utilizó?
3. ¿Qué reglas aplicó?
4. ¿Quién tenía autoridad?
5. ¿Qué ocurrió realmente después?

Una respuesta puede ser correcta sin que ninguna de ellas tenga contestación. Puede haber utilizado datos desactualizados, mezclado contextos incompatibles, aplicado una regla incorrecta o acertado por casualidad.

Aquí aparece la diferencia entre reproducibilidad textual y reproducibilidad decisional.

Una empresa no necesita que el sistema repita exactamente las mismas palabras. Necesita que, ante el mismo estado del mundo, las mismas evidencias, las mismas reglas y el mismo mandato, la conclusión operativa relevante se mantenga. Y, si cambia, debe poder identificarse qué dato o circunstancia justificó el cambio.

La trazabilidad tampoco puede consistir en pedir al modelo que explique después por qué respondió algo. Una explicación convincente no prueba que refleje fielmente el proceso que produjo la decisión.

Reproducir una decisión no es repetir una salida. Es reconstruir su causa.

3. La verificación no es una pieza adicional

En matemáticas o programación existen condiciones especialmente favorables. Un resultado puede comprobarse, un programa puede ejecutarse y muchos errores pueden detectarse rápidamente.

El mundo empresarial es distinto.

Una decisión de inversión depende del mandato, el riesgo, la liquidez, el horizonte temporal y las restricciones del cliente. Una recomendación energética depende del activo, el contrato, la regulación, el mercado y el momento. Una decisión administrativa puede estar bien razonada y, aun así, haber sido adoptada por quien no tenía competencia.

Además, muchos resultados solo pueden evaluarse semanas o meses después.

Verificar en estos dominios exige conocer la identidad de las partes, la vigencia de los datos, los contratos, las reglas, los permisos, los objetivos en conflicto y las consecuencias reales.

Eso no es añadir un comprobador al final del proceso. Es construir buena parte del sistema que permite decidir.

Tampoco basta con introducir más documentos en una ventana de contexto. El contexto empresarial no es una colección de tokens. Debe saberse a quién pertenece cada dato, quién puede utilizarlo, durante cuánto tiempo es válido y qué relación mantiene con el resto del mundo representado.

Más información no equivale necesariamente a mejor criterio.

4. Vertical AGI: una frontera más exigente

Esta es precisamente la tesis de Vertical AGI.

Vertical AGI no es una forma de declarar que cualquier modelo elocuente ya constituye una inteligencia general. Tampoco describe un chatbot más capaz. Define un umbral más exigente: pasar de producir respuestas plausibles a asumir una autoridad operacional gobernable.

La pregunta deja de ser únicamente si una IA puede razonar. Pasa a ser si un sistema puede representar suficientemente el dominio sobre el que opera, sostener un criterio coherente, decidir bajo evidencia y mandato, respetar límites, conservar trazabilidad y responder por las consecuencias.

Se denomina vertical porque la responsabilidad solo puede evaluarse dentro de un dominio explícito. No existe autoridad real sin conocer las reglas, los actores, los límites y las consecuencias concretas del mundo en el que se actúa.

En TheryOS, TWET representa esa base contextual: una representación gobernada y autorizada de una persona, organización o entidad en un momento determinado. No es memoria de conversación ni un simple almacén de datos. Delimita qué contexto existe, qué puede utilizarse y bajo qué condiciones.

Vertical AGI formula la categoría pública. TheryOS trabaja para convertirla en capacidad operativa.

5. La etiqueta AGI no es un certificado de producción

Es posible que en el futuro se considere que los modelos actuales ya pertenecían a una etapa temprana de la AGI. La definición sigue siendo discutida y probablemente cambiará con la perspectiva histórica.

Pero incluso aceptando esa posibilidad, la etiqueta no demuestra que un sistema esté preparado para gobernar una empresa, una cartera de inversión, una infraestructura energética o una Administración pública.

La generalidad describe amplitud de capacidad.

La autoridad operacional exige trazabilidad, mandato, límites, consistencia y responsabilidad.

Son problemas distintos.

Los modelos frontera han demostrado que una máquina puede hablar, programar y razonar sobre una parte creciente del mundo. La siguiente frontera consiste en construir sistemas capaces de representarlo con suficiente fidelidad, decidir sobre él bajo gobierno y responder por lo decidido.

Hasta entonces, conviene no confundir una demostración de capacidad con una transferencia real de autoridad.

No confundamos un modelo capaz de encontrar soluciones con un sistema capaz de responder por sus decisiones.