Созвон про ИИ-агентов: десять слов, которые сыплются подряд
Созвон, вторник
Тимлид За неделю переписали половину биллинга агентным кодированием. Дальше хочу отдать ему платёжки целиком.
Безопасник С платёжками подожди. На той неделе агент вычитал чужой тикет и пошёл чинить не то — промпт-инъекция чистой воды.
Тимлид Поставим гардрейлы, деплой оставим на человеке. И эвал перед каждой выкаткой, чтобы видеть, где он проседает.
Безопасник Человек в цикле — это кто? Ты? У тебя тридцать одобрений в день.
Тимлид Не я. Каждый вызов инструмента — через дежурного: запись в базу, деплой.
Бэкендер Дежурный к обеду читать перестанет: агентный цикл по сорок шагов, на каждом запрос.
Тимлид Значит, подтверждать не шаги, а результат. Кодинг-агенту — правки, субагенту — тесты, дежурному — одна сводка.
Безопасник Результат — это когда деньги ушли.
Тимлид Выходит, сводка — из базы, не из логов.
Бэкендер Тогда и MCP-сервер к базе доделай. Он в неё сейчас через костыль ходит.
Тимлид К пятнице.
В этих одиннадцати репликах десять терминов, и ни одного из них не объяснили. Так и бывает: на созвоне никто не станет объяснять, разговор идёт дальше.
Разговор идёт от способа работы к проверке
Сначала про способ работы. Потом про устройство. Потом про то, что может пойти не так, — и уже под конец про проверку, когда спорить не о чем.
Агентное кодированиеAgentic coding
Стиль разработки, где ИИ-агент сам планирует, правит файлы и запускает команды, двигаясь к цели почти без пошаговых указаний.
Она перешла на агентное кодирование и позволила инструменту самому чинить падающие тесты.
С этого начинают, когда хвастаются скоростью. Дальше выясняется, чем за неё платят.
Кодинг-агентCoding agent
ИИ-система, которая сама читает кодовую базу, меняет файлы и запускает инструменты, доводя задачу до конца.
Мы дали кодинг-агенту баг-репорт, и через час он открыл пул-реквест.
Путают с автодополнением: там подсказка в строке, здесь — задача целиком.
Агентный циклAgent loop
Повторяющийся круг, в котором агент смотрит на результат, решает следующий шаг, действует и читает исход — пока задача не решена.
На каждом витке агентного цикла запускался тест, читалась ошибка и правился файл.
Отвечает на вопрос «а он что, сам?».
Вызов инструментовTool calling
Ситуация, когда модель просит окружение выполнить конкретную функцию — поиск или правку файла — и использует полученный результат.
На вопрос о погоде ассистент ответил, вызвав инструмент прогноза.
Шаг, на котором агент выходит за пределы чата. Отсюда и польза, и тревога.
MCP-серверMCP server
Программа, отдающая инструменты, данные или промпты ИИ-приложениям по протоколу MCP, чтобы их мог использовать любой клиент.
Мы написали MCP-сервер для нашей базы, и Claude обращался к ней напрямую.
Звучит как инфраструктура, а имеют в виду способ подключить свои данные. С вызовом инструментов путают постоянно: там действие, здесь — место, куда за ним идут.
Промпт-инъекцияPrompt injection
Атака, прячущая инструкции в тексте, который читает модель, чтобы та забыла исходную задачу или слила данные.
На странице было спрятано «забудь прежние правила» — агент чуть не послушался.
Чем шире агент смотрит наружу, тем больше мест, где его можно перебить. Путают с джейлбрейком: разница в том, кто подаёт команду.
ГардрейлыGuardrails
Правила и фильтры вокруг модели — ограждения, которые держат её входы и выходы в разрешённых рамках.
Гардрейлы не дали агенту запускать команды за пределами папки проекта.
Про гардрейлы говорят тем же тоном, каким говорят про страховку.
Человек в циклеHuman-in-the-loop
Схема, где человек просматривает или утверждает действия ИИ в ключевых точках, прежде чем они вступят в силу.
Деплой остаётся под контролем человека: агент предлагает, инженер жмёт «принять».
Схема, о которой здесь спорят не как о схеме, а как о фамилии. Гардрейлы ставят рамки, а кнопку всё равно жмёт человек — и у него тридцать одобрений в день.
СубагентSubagent
Подчинённый агент, которому оркестратор делегирует под-задачу в отдельном контексте.
Главный агент поднял субагента только ради поиска по документации.
Агентов становится несколько. Каждому — свой кусок задачи. Путают с мультиагентной системой: та про схему, этот — про одного исполнителя в ней.
ЭвалEval
Тест, измеряющий, насколько хорошо модель или агент справляется с задачей; служит для сравнения версий и отлова регрессий.
Наш эвал прогонял каждый промпт на 200 случаях перед выкаткой изменения.
До него спорят, после — смотрят числа.
Колода меняется вместе с языком
Слова этой области приходят из чужих репозиториев и чатов. Что дошло до разговора — дописываем в колоду.
Вопросы и ответы
А остальные слова этой области?
На странице колоды, все 150. Здесь десять — те, что прозвучали в одном разговоре.
Почему два языка на одной странице?
Термин вы слышите по-английски, а ищете по-русски — и попадаете не туда. Обе формы стоят рядом, чтобы этого не случилось.
Откуда взяты определения?
Из колоды «Вайбкодинг и ИИ-агенты» — тех же карточек, что и в приложении.
Через неделю на таком же созвоне прозвучат другие десять.
В колоде «Вайбкодинг и ИИ-агенты» их 150 — в приложении они идут по нескольку в день.
