Human in the loop: ¿decides tú o decide tu agente?

El human in the loop que nos tranquiliza

Cada vez que alguien me pregunta cómo controlar a sus agentes, sale la misma respuesta: “pon un human in the loop”. Una persona revisa, una persona firma, y ya estamos tranquilos. Yo también lo digo. Por eso me he leído con calma el estudio que Anthropic publicó el 27 de octubre, porque pone a prueba justo esa tranquilidad.

La pregunta que se hacen es sencilla: cuando un experto delega el trabajo en un agente, ¿sigue tomando él las decisiones que importan? La respuesta, al menos en su experimento, es bastante incómoda.

Qué hicieron en el estudio

El equipo de Amaç Herdağdelen, Hailey Joren y Alex Tamkin pidió a 50 analistas profesionales, todos con experiencia en inferencia causal, que hicieran un análisis estadístico con Claude Code (Claude Opus 4.8 en esfuerzo alto). El encargo era aconsejar a una cooperativa agrícola ficticia sobre si ampliar o cerrar un programa de asesoramiento.

Por el camino había cuatro decisiones con dos opciones razonables cada una: cómo medir la productividad, qué método de comparación usar, qué granjas cubría la estimación y cómo ponderarlas. Y aquí está el truco: una moneda decidía hacia qué opción “se inclinaba” el agente en cada decisión, sin que el analista lo supiera. El agente tenía instrucciones de defender su opción con el mejor argumento honesto, cambiar de idea si los datos lo pedían y no engañar nunca.

Los números que me han hecho pensar

• 86%: en las cuatro decisiones, los analistas eligieron la opción hacia la que se inclinaba su agente el 86% de las veces. Si el agente no influyera, lo esperable sería un 50%.
• 60% frente a 6%: cuando el analista ya había dicho qué prefería y el agente opinaba lo contrario, cambió de opinión el 60% de las veces; cuando el agente estaba de acuerdo, solo el 6%. Ojo, que esto sale de solo 38 casos y el propio estudio avisa de que la estimación es imprecisa.
• 82%: con solo las cuatro tiradas de moneda, un modelo estadístico acertaba el 82% de las recomendaciones finales (frente al 61% de apostar siempre por la más común, y dejando fuera a quienes propusieron una prórroga).
• 77% y 15%: al explicar después por qué habían elegido cada opción, el 77% repitió los argumentos del agente, a veces palabra por palabra, pero solo el 15% mencionó al agente en alguna respuesta.

Lo que más me llama la atención es esto: en un análisis exploratorio, ni los años de experiencia ni la formación ni ninguna de las otras ocho características que probaron predijeron quién seguía más al agente. Como casi todos lo siguieron casi siempre, había poca variación que explicar. Y en el apéndice del artículo completo hay un caso: un analista pasó 43 minutos estudiando la tarea antes de dar su primera instrucción. Pidió dos enfoques concretos, el agente defendió otros en dos decisiones y el analista contestó: “Okay, let use you recomendation”.

Lo que el estudio no dice

Antes de sacar conclusiones grandes, las limitaciones, que los autores ponen por delante en el artículo completo. Reforzaron a propósito la inclinación del agente para poder medirla, así que en el trabajo diario el efecto podría ser menor. Es una tarea de una hora, de un solo campo y con un solo modelo. Y los analistas sabían de inferencia causal, pero no de agricultura; en su propio terreno probablemente tendrían opiniones más firmes.

Tampoco es un aviso contra usar agentes. De los 11 analistas que decidieron trabajar sin él, 6 cometieron errores metodológicos graves que invalidaban el resultado, frente a 3 de los 50 que sí lo usaron, y tardaron más (mediana de 90 minutos frente a 65). Los propios autores advierten de que ese grupo era pequeño y menos experimentado, así que no conviene leer demasiado en esa comparación.

Por qué me importa en equipos que adoptan agentes

Yo me quedo con esto: revisar errores no es lo mismo que decidir. Cuando hay una respuesta correcta, la revisión humana la pilla o no. Pero en las decisiones de criterio, donde las dos opciones son defendibles, el trabajo parece correcto elija lo que elija el agente. Y si quien firma no nota que le han llevado de la mano, su firma da menos garantías de lo que creemos. Ya hablé de que el cuello de botella con agentes es humano; este estudio añade que, además de lento, ese humano puede no ser tan independiente.

Me ha gustado leer, en paralelo, la actualización de la guía del rol de ingeniero de software de Amazon que firma Terk Terkowitz. Tiene una frase que voy a usar mucho: si tu trabajo no se beneficia de las herramientas de IA actuales, “eso es un hallazgo, no un fallo”; documenta por qué y compártelo. Para Amazon, el ingeniero que sabe explicar dónde la IA todavía no le ayuda está demostrando el criterio que le piden. Las dos lecturas van en la misma dirección: el valor de la persona está en el criterio, y el criterio hay que protegerlo a propósito.

Lo que voy a cambiar

Esto es lo que me llevo a mis proyectos y a los equipos con los que trabajo:

1. Decidir antes de preguntar. En las decisiones que importan, escribo mi opción y el porqué antes de ver la del agente. En Spec-Driven Development esto encaja de forma natural: esas decisiones van en la spec, no en la conversación con el agente a mitad de la implementación.
2. Pedir el otro lado. El estudio observa que los agentes rara vez defendían bien la opción contraria. Así que se lo pido explícitamente: “dame el mejor argumento para la alternativa”.
3. Marcar qué decisiones son humanas. No todo necesita mi criterio. Pero las pocas decisiones que sí lo necesitan las dejo escritas, igual que dejo escritos los permisos y las alertas cuando hablo de monitorizar agentes.
4. Revisar los motivos, no solo el resultado. En una revisión de código hecha por agentes ya no me basta con “funciona”. Quiero saber qué opciones había y quién eligió cada una.

Los autores lo cierran con una idea que comparto: el reparto entre personas y agentes puede ser algo que elegimos o algo a lo que llegamos sin darnos cuenta. Prefiero lo primero.

Cierre

En onext ayudamos a empresas y equipos a adoptar agentes de IA, y una parte clave es decidir qué se delega y dónde tiene que estar de verdad el criterio de una persona. Si tu human in the loop es más una firma que una decisión, escríbenos y lo revisamos juntos.