‹ Cultura 3.14 · Qué nos preguntamos
Pregunta · Operaciones
¿Qué responsabilidades deben permanecer deterministas en un sistema de agentes?
El agente puede elegir el recorrido; los permisos, los cálculos y las escrituras deberían comportarse igual en cada ejecución.
Un agente aporta algo real cuando el recorrido no puede fijarse de antemano: hay que interpretar contexto, escoger entre herramientas y adaptarse a lo que devuelve cada una. Ese es su sitio.
Fuera de ese sitio, la variabilidad solo añade coste. Hemos ido moviendo a código determinista todo lo que no gana nada por decidirse en tiempo de ejecución. Los permisos, que no deben depender de cómo esté redactada una petición. Los cálculos, que un modelo puede aproximar y una función no. Las escrituras sobre sistemas externos, que pasan siempre por herramientas con contrato tipado. Las transiciones de estado del workflow, que se declaran en el grafo y no las improvisa nadie.
El reparto resultante es sencillo de explicar: el agente decide qué hacer a continuación dentro de un conjunto de recorridos permitidos; el sistema decide qué es posible y qué ocurre después.
Esto tiene un efecto que no esperábamos con esta claridad. Las trazas se vuelven legibles. Cuando algo sale mal, la pregunta pasa de «qué pensó el modelo» a «qué recorrido tomó y qué política lo permitió», y esa segunda pregunta sí tiene respuesta.
También simplifica la evaluación: la parte determinista se prueba como cualquier software, y el esfuerzo de evaluación se concentra donde de verdad hay incertidumbre.