Подборка объединяет вопросы, отмеченные на этапах интервью в 2ГИС. Здесь можно понять структуру технической проверки и заранее повторить связанные темы. В подборке чаще встречаются темы: api, backend, microservices.
Для вызова LLM формируйте отдельную проекцию state: только нужные messages и поля. Схемы входа/выхода графа и промежуточные каналы решают другую задачу — границы обмена между узлами.
Храните полные данные в отдельном поле state или внешнем хранилище, а в messages передавайте только разрешённое краткое представление. Tool получает служебные данные через runtime, не через аргументы LLM.
Задайте правило ответа только по достаточному контексту и явный вариант отказа или уточнения. Дополните prompt проверкой retrieval и тестами на неответимые вопросы.
Обычно продукт уточняет цель и критерии, а исполнители с техническим лидом разбивают работу на реализуемые части. Конкретное распределение зависит от команды.
Сопоставьте оценки судьи с независимо размеченным экспертами набором. Проверьте согласие, стабильность, чувствительность к порядку ответов и склонность предпочитать более длинные формулировки.
Разные инструменты одного агента — это один управляющий цикл, выбирающий функции. Разные агенты имеют собственные роли или контекст и отдельные циклы принятия решений.
Обучайте различать ответимые и неответимые вопросы: при недостатке контекста нужен явный отказ или уточнение. В наборе должны быть оба типа, включая правдоподобные, но неподтверждённые ответы.
Измеряйте обнаружение реальных инцидентов, ложные тревоги, время до обнаружения и восстановления. Для расследования дополнительно важны точность гипотез и полезность рекомендаций оператору.
State обновляет код оркестратора по результатам исполнения, независимо от того, попали ли изменения в контекст LLM. Перед следующим вызовом приложение выбирает нужные поля и формирует актуальный prompt.
Оценивайте агента по проверяемому результату задачи, корректности действий, соблюдению ограничений и затратам. LLM-судья — лишь один сигнал, а не единственный источник истины.
Мок должен сопоставлять запросы по явному контракту и отказывать при неизвестном сценарии, а не подставлять «похожую» историю. Иначе тест подтвердит поведение, которого нет в реальной системе.