El bucle de agente

Un agente de corrección de tests se lanza sobre un repositorio. Turno 1: lee el archivo de test. Turno 2: modifica el módulo. Turno 3: vuelve a ejecutar la suite y un test sigue fallando. Turno 4: deshace su modificación. Turno 5: vuelve a aplicar exactamente la misma. Turno 12: la factura alcanza los 2,80 $ solo por esta tarea, el historial pesa 90 000 tokens y el proceso sigue en marcha. En ningún momento ha fallado el código: el bucle hace exactamente lo que se le ha pedido, es decir, continuar mientras el modelo solicite una herramienta.

El cuerpo de un bucle de agente cabe en unas quince líneas y no tiene nada de sutil. Toda la dificultad está en otra parte, en tres decisiones que se toman por defecto por no haberlas formulado: en qué condición se para, cuántos turnos se permiten antes de rendirse y qué se hace con el historial cuando pasa a ser la principal partida de gasto. Equivocarse en cualquiera de las tres da un bucle que funciona en la demo y que resulta imposible de operar en cuanto llega la primera tarea difícil.

Anatomía de un turno

Un turno de agente consta de cuatro momentos. Dos le corresponden a usted y dos al modelo.