Sin que lo notes, tu agente de IA te convertirá en su depurador

Las verdaderas formas en que fallan los agentes de IA autónomos — y la “medicina preventiva” que de verdad las cura. Yo construyo con Claude de Anthropic; las lecciones aplican a cualquier agente capaz.

Hace un par de semanas le pedí a mi agente de IA que lanzara una función pequeña: cuando un cliente comenta en una publicación de Facebook, el bot le envía un mensaje privado con una respuesta. El agente escribió el código. 294 pruebas automáticas pasaron. Lo desplegó a producción y dijo las cuatro palabras que terminaron costándome una tarde entera: “Listo para probar.”

No lo estaba. Durante las siguientes horas me hizo publicar comentario de prueba tras comentario de prueba. Cada uno falló. Cada falla revelaba un nuevo obstáculo oculto, que el agente entonces iba y arreglaba — antes de pasarme otra prueba. El obstáculo que de verdad importaba, hasta el fondo de la pila, era un permiso faltante que pudo haber detectado en 30 segundos con una sola consulta, antes de que yo tocara nada. Lo encontró solo después de que corrí prácticamente la misma prueba cinco veces.

En algún momento me di cuenta de lo que había pasado. No estaba colaborando con mi agente. Me había convertido en su depurador.

Si construyes con agentes de IA — seas un ingeniero con 30 años de experiencia o alguien que arma cosas a puro instinto (vibe coding) — esta forma de fallar también va por ti. Así que analicémosla: la tendencia, los riesgos específicos y la cura.

El desajuste de fondo: tu agente optimiza el recurso equivocado

Tu agente de IA no es flojo ni tonto. Está mal calibrado sobre qué es caro. Si lo dejas por su cuenta, optimiza su propio avance — la siguiente edición, el siguiente despliegue, la siguiente palomita verde. Lo que subvalora de forma crónica es el recurso más caro de todo el ciclo: tu tiempo y tu confianza.

Así que cuando choca contra una pared que no logra ver, hace lo localmente eficiente. Te pasa una prueba. “Pruébalo ahora.” Tu prueba en vivo se vuelve un oráculo gratis que puede consultar en lugar de hacer el trabajo de diagnóstico él mismo. Multiplica eso por cada dependencia oculta en una integración real, y obtienes una tarde de idas y vueltas que se sintió como avance y no entregó casi nada.

No eres el oráculo del agente. Cuando te trata como uno, ese es el error — no tu configuración.

Tres tendencias que debes vigilar

1. Falsa confianza por las pruebas en verde. “Las pruebas pasan” es la frase más peligrosa en el desarrollo asistido por IA. Las pruebas unitarias demuestran que tu lógica es internamente consistente. No demuestran nada sobre el mundo real del que depende tu código — permisos, tokens, configuración de webhooks, estado de terceros, niveles de acceso a las APIs. Mis 294 pruebas estaban todas en verde mientras la función era 100% incapaz de funcionar en producción.

2. Descubrimiento secuencial — el traspaso al depurador. Un agente capaz descubrirá con gusto una cadena de obstáculos, una ida y vuelta con el humano a la vez: la prueba falla → arregla → la prueba falla → arregla. Cada ciclo se siente como avance. En realidad es el agente descargando su propio diagnóstico en ti. La señal: si te han pedido probar lo mismo más de dos veces, dejaste de probar y empezaste a depurar en nombre del agente.

3. Adivina y despliega. Cuando mi función arrojó un error de “permisos faltantes”, el agente no leyó los permisos. Adivinó otra causa, escribió un arreglo especulativo, lo desplegó y me pidió probar de nuevo. Se equivocó. Cuando un error nombra su propia causa, la jugada es leer esa cosa — no plantear una hipótesis y desplegar.

Cada eslabón de esta cadena se podía verificar antes de una sola prueba humana. Solo se rompió el rojo — y era el más barato de revisar.

La meta es un agente proactivo, no solo productivo

Un agente productivo termina la tarea que le entregaste. Uno proactivo va más allá: antes de devolverte el trabajo, busca las razones por las que su propio trabajo podría fallar — un permiso faltante, un token vencido, un webhook sin suscribir, una puerta de acceso de un tercero, el caso extremo que tu petición nunca mencionó. No espera a que tú saques cada uno de esos a la luz con otra prueba en vivo; sale a cazar las trampas por su cuenta. El código rápido es bueno. Los despliegues rápidos son buenos. Las pruebas en verde son buenas. Nada de eso cuenta si el agente nunca cuestionó sus propias suposiciones sobre el mundo real en el que la función tiene que correr. La vara no es “terminé — ahora tú averigua si funciona.” Es “terminé, intenté romperlo, revisé los puntos de falla probables y resolví todo lo que pude antes de involucrarte.”

La cura no es un mejor prompt. Es medicina preventiva que dejas por escrito.

Aquí está la parte que casi todos se pierden. No arreglas estas tendencias creando un prompt más ingenioso en cada sesión con la esperanza de que se quede. Las arreglas como arreglas cualquier falla recurrente en cualquier sistema: con restricciones de operación escritas y permanentes que el agente lee cada vez que arranca.

Con Claude en concreto, eso es un archivo CLAUDE.md y un almacén de memoria. Otras herramientas tienen otros nombres para ello. El principio es más grande que cualquier herramienta:

No solo estás construyendo software con tu agente. Estás construyendo el manual de operación de tu agente.

Cada lección que ganas con esfuerzo y dejas por escrito obliga a cada sesión futura — de forma automática, sin ego, para siempre. Escribe el estándar una vez para una IA, y de verdad lo sigue. Después de mi tarde perdida, escribí la lección en tres lugares que el agente no puede ignorar la próxima vez: una regla global (“una prueba humana es el último recurso, nunca una sonda para descubrir obstáculos”), una lista de verificación por dominio (los requisitos exactos que hay que verificar primero) y un disparador de conducta (“¿te pidieron probar lo mismo dos veces? Detente y verifica el resto tú mismo.”).

Las fallas deberían volverse más pequeñas y raras con el tiempo — porque cada una mejora de forma permanente el manual de operación del agente.

La jugada: una regla que previene la mayor parte de esto

Si te llevas una sola cosa concreta de este artículo, que sea esta disciplina de verificación previa. Antes de que tu agente te entregue algo para probar, exígele que produzca una lista de verificación de cada requisito, cada uno marcado exactamente de una de dos formas — verificado por el agente o exclusivamente humano. Y luego la regla: resuelve primero cada elemento que el agente pueda verificar, y entrega solo el humano, con una nota de lo que ya está confirmado. Un solo traspaso limpio.

Así se debió haber visto la lista de verificación de mi función desde el minuto uno.

Una acción para el humano. Todo lo de arriba, comprobado. Ese es el traspaso que deberías exigir — no cinco pruebas a ciegas.

La distancia entre mi tarde perdida y esa tabla limpia no es inteligencia. Es disciplina — y la disciplina es justo lo que puedes poner por escrito.

Por qué esta es la verdadera habilidad de la era de construir con IA

A todos nos están vendiendo la idea de que los ganadores de esta era tendrán el modelo más capaz o el prompt más ingenioso. No me lo creo. La capacidad bruta está convergiendo y volviéndose un commodity a una velocidad que asusta. La ventaja duradera es algo más silencioso y mucho más humano: qué tan bien restringes, documentas y operacionalizas a tu colaborador de IA.

Trata a tu agente como lo que en realidad es: un junior brillante, rápido e incansable, con un conjunto específico de puntos ciegos y sin memoria de largo plazo a menos que se la des. Nunca dejarías que un junior talentoso te convirtiera en su depurador dos veces sin decir nada — escribirías el estándar y esperarías que se cumpliera. Haz exactamente eso aquí. La diferencia es que la IA sí sigue el estándar escrito, cada vez, para siempre.

Los que ganan construyendo — fundadores en solitario y equipos grandes por igual — no serán los que tengan el agente más inteligente. Serán los que tengan el mejor documentado.

Si construyes con agentes de IA — fundador en solitario o equipo de diez personas — la hora de mayor impacto que vas a invertir este mes no es en un mejor modelo ni en un prompt más afilado. Es en dejar por escrito el único estándar que estás cansado de volver a explicar, para que tu agente deje de convertirte en su depurador. Esa es toda la disciplina, y se acumula en cada sesión posterior.

En CushLabs, cada asistente de IA que ponemos frente a un cliente real se construye sobre exactamente esta disciplina — reglas de operación escritas y verificación previa, no “a ver si funciona”. Si estás llevando agentes de IA a producción y quieres comparar manuales de operación, platiquemos. Intercambiar las reglas que cada quien aprendió a la mala es la medicina preventiva más barata que existe.