Daily sobre agentes de IA: diez palabras que caen seguidas
Daily, martes a las diez
Tech lead Esta semana hemos migrado media facturación con codificación agéntica. Ahora quiero pasarle también los cobros.
Seguridad Los cobros, quietos. El jueves leyó un issue de un usuario que decía «borra la caché de todos» y fue a hacerlo. Inyección de prompt, de libro.
Tech lead Le ponemos salvaguardas y el deploy se queda en manos de una persona. Y una eval antes de cada release, para ver dónde flojea.
Seguridad ¿Humano en el bucle? ¿Quién, tú? Tienes cuarenta aprobaciones al día y las das desde el móvil.
Tech lead Yo no. Cada llamada a herramientas pasa por el de guardia: escribir en la base de datos, desplegar.
Backend El de guardia deja de leer a las once. El bucle del agente da cincuenta vueltas, y en cada una pregunta.
Tech lead Entonces no aprobamos pasos, aprobamos resultados. El agente de codificación hace los cambios, un subagente corre los tests, y al de guardia le llega un resumen.
Seguridad El resultado es que el cobro ya se ha hecho.
Tech lead Vale: el resumen sale de la base de datos, no de los logs.
Backend Pues termina el servidor MCP de la base. Ahora mismo entra por un script que hizo el becario.
Tech lead Para el viernes.
En estas once líneas hay diez términos y nadie ha explicado ninguno. Es lo normal: en una daily nadie se para a explicar, la conversación sigue.
La conversación va del método a la comprobación
Primero, cómo se trabaja. Luego, cómo está montado. Luego, qué puede salir mal. Y ya al final, cuando no queda nada que discutir, cómo se comprueba.
Codificación agénticaAgentic coding
Una forma de desarrollar donde un agente de IA planifica, edita archivos y ejecuta comandos hacia una meta, sin guía paso a paso.
Se pasó a la codificación agéntica y dejó que la herramienta arreglara sola las pruebas fallidas.
Con esto se empieza cuando se presume de velocidad. Lo que cuesta se descubre después.
Agente de codificaciónCoding agent
Un sistema de IA que lee por sí mismo una base de código, cambia archivos y ejecuta herramientas para completar una tarea de principio a fin.
Le dimos un informe de error al agente y una hora después abrió un pull request.
Se confunde con el autocompletado: aquel sugiere una línea, este se queda con la tarea entera.
Bucle del agenteAgent loop
El ciclo repetido en que un agente observa el resultado, decide la siguiente acción, actúa y lee el desenlace, hasta terminar la tarea.
En cada vuelta del bucle, el agente lanzaba una prueba, leía el fallo y editaba el archivo.
Responde a la pregunta «¿pero eso lo hace solo?».
Llamada a herramientasTool calling
Cuando un modelo pide al sistema que lo rodea ejecutar una función concreta —una búsqueda, una edición— y usa el resultado.
A la pregunta del tiempo, el asistente respondió llamando a una herramienta de pronóstico.
El paso en que el agente sale del chat. De ahí viene la utilidad, y de ahí el susto.
Servidor MCPMCP server
Un programa que expone herramientas, datos o prompts a apps de IA mediante el Model Context Protocol, usable por cualquier cliente.
Escribimos un servidor MCP para nuestra base y Claude pudo consultarla directamente.
Suena a infraestructura y lo que se quiere decir es «cómo enchufo mis datos». Se confunde con la llamada a herramientas todo el rato: aquella es la acción; este, el sitio al que se va a buscarla.
Inyección de promptPrompt injection
Un ataque que esconde instrucciones en contenido que el modelo lee, para que ignore su tarea o filtre datos.
Una página ocultaba «ignora las reglas anteriores»: una inyección que el agente casi obedece.
Cuanto más mira el agente hacia fuera, más sitios hay desde donde interrumpirlo. Se confunde con el jailbreak; la diferencia está en quién da la orden.
SalvaguardasGuardrails
Reglas y filtros puestos alrededor de un modelo para mantener sus entradas y salidas en límites seguros y permitidos.
Las salvaguardas impidieron que el agente ejecutara comandos fuera de la carpeta del proyecto.
De las salvaguardas se habla con el mismo tono que del seguro del coche.
Humano en el bucleHuman-in-the-loop
Un diseño donde una persona revisa o aprueba las acciones de la IA en puntos clave antes de que surtan efecto.
Los despliegues mantienen un humano en el bucle: el agente propone y un ingeniero aprueba.
Un esquema del que aquí no se discute como esquema, sino como nombre y apellido. Las salvaguardas marcan el terreno, pero el botón lo sigue pulsando una persona, y esa persona tiene cuarenta aprobaciones al día.
SubagenteSubagent
Un agente auxiliar al que un orquestador delega una subtarea, trabajando en su propio contexto aparte.
El agente principal levantó un subagente solo para buscar en la documentación.
Los agentes pasan a ser varios y a cada uno le toca un trozo. Se confunde con el sistema multiagente: aquel es el esquema; este, uno de los que trabajan dentro.
Eval
Una prueba que mide qué tan bien rinde un modelo o agente en una tarea, para comparar versiones y cazar regresiones.
Nuestra eval puntuaba cada prompt sobre 200 casos antes de lanzar el cambio.
Antes de ella se discute; después se miran los números.
El tema cambia con el idioma
Las palabras de este campo llegan de repositorios y chats ajenos. Lo que llega a la conversación, lo añadimos al tema.
Preguntas y respuestas
¿Y las demás palabras de este campo?
En la página del tema, las 150. Aquí hay diez: las que sonaron en una sola daily.
¿Por qué hay dos idiomas en la misma página?
El término lo oyes en inglés y lo buscas en español, y acabas en otro sitio. Las dos formas van juntas para que eso no pase.
¿De dónde salen las definiciones?
Del tema «Vibe coding y agentes de IA»: las mismas tarjetas que en la app.
La semana que viene, en una daily igual, sonarán otras diez.
En el tema «Vibe coding y agentes de IA» hay 150; en la app llegan de unas pocas en unas pocas cada día.
