Red teaming automatizado con agentes según Anthropic
Anthropic puso agentes Claude a engañar a su propio monitor de datos de entrenamiento. Qué hicieron, qué límites reconocen y qué me llevo para mis agentes.
Notas con la etiqueta «red-teaming» en el cuaderno de Manel Marcos, sobre agentes de IA y Spec-Driven Development (SDD).
Anthropic puso agentes Claude a engañar a su propio monitor de datos de entrenamiento. Qué hicieron, qué límites reconocen y qué me llevo para mis agentes.