Большие языковые модели (LLM) позволяют ИИ-агентам не просто выполнять жёстко заданные процессы, а самостоятельно планировать и действовать. Для интеллектуального производства это открывает новые возможности, но создаёт и особые трудности. Две свежие работы на arXiv показывают две стороны одной тенденции: систематический обзор промышленных агентов и исследование о том, как снизить повседневные затраты на агентов для программирования.
Что произошло
Обзор промышленных агентов на базе LLM
Согласно статье «Industrial Agentic AI: LLM-Driven New-Generation Agents for Smart Manufacturing» из категории cs.AI, универсальных агентов нельзя просто так применять на производстве. Авторы называют три причины: динамичные среды, сложные физические ограничения и очень строгие требования к надёжности.
Статья задумана как систематический обзор и построена последовательно:
- Сначала авторы анализируют пять ключевых проблем и объясняют, что делает агента промышленным.
- Затем они разрабатывают единую таксономию со сценариями применения, формами воплощения и пятью уровнями возможностей.
- После этого представлена системная архитектура из четырёх слоёв, включая основные модули и механизмы выполнения задач в замкнутом контуре управления.
- В заключение приводятся репрезентативные применения на протяжении промышленного жизненного цикла и будущие направления исследований.
Заявленная цель — дать структурированный справочный материал для проектирования, разработки и применения промышленных агентов.
Меньше затрат токенов у агентов для программирования
Вторая работа относится к cs.CL и называется «TokenEconomizer: Experience-Driven Black-Box Cost Control for Coding Agents». Она касается разработки программного обеспечения с поддержкой ИИ, где успехи ведущих агентов для программирования заметно увеличили затраты на токены. Токены — это текстовые блоки, по которым языковые модели измеряют свою работу.
По словам авторов, эффективность таких агентов обычно измеряют на изолированных задачах. Однако разработчики используют их, чтобы непрерывно создавать и поддерживать крупные проекты. Поэтому исследователи протестировали последовательности реалистичных задач и обнаружили повторяющиеся, зависящие от окружения затраты токенов, которые существующие методы почти не снижали.
TokenEconomizer — это внешний контроллер. Он решает:
- какие оперативные микронавыки передать агенту,
- какие постоянно нерелевантные инструменты скрыть,
- когда вмешаться в непродуктивные циклы ошибок.
Тестирование проводилось с Claude Code, Codex и GitHub Copilot CLI, в каждом случае с ведущими моделями:
| Тестовая среда | Снижение средних затрат токенов |
|---|---|
| Агенты для программирования в репозиториях ПО | от 18.4 до 30.9 процента |
| Последовательная веб-разработка и аудиты безопасности | от 6.4 до 21.2 процента, в зависимости от структуры задачи |
По данным авторов, успешность выполнения задач осталась сопоставимой. Экономия наблюдалась в каждом протестированном репозитории и в каждой протестированной комбинации агента и модели.
Предыстория
От жёсткого рабочего процесса к автономному агенту
Классическая автоматизация следует заранее заданным сценариям: наступает событие A — выполняется шаг B. Это работает, пока среда стабильна. Агент на основе LLM, напротив, получает цель, разбивает её на промежуточные шаги, выбирает инструменты, действует и корректирует свой план, если что-то идёт не так, как ожидалось.
В производстве это привлекательно, потому что там постоянно что-то отклоняется от плана. Но это и рискованно: текстового ассистента, который ошибся, можно поправить. Неправильно управляемая установка может привести к браку или поставить под угрозу людей. Поэтому авторы подчёркивают физические ограничения и надёжность.
Чем полезна таксономия
В быстро развивающейся области термины часто используются непоследовательно. Под «агентом» могут понимать как чат-бота с доступом к инструментам, так и робота. Таксономия наводит порядок. В статье проводится различие по сценариям применения, по формам воплощения (в каком виде агент присутствует в мире) и по пяти уровням возможностей. Такие ступенчатые модели помогают прояснить ожидания: что система умеет делать надёжно, а что остаётся за человеком?
Замкнутый контур и затраты
«Замкнутый» означает: агент не только планирует и действует, но и проверяет результат и корректирует свои действия. Какие модули входят в четыре слоя, подробно описано в полном тексте. В общем случае действует правило: чем больше обратной связи в системе, тем раньше можно обнаружить ошибки.
Исследование TokenEconomizer дополняет это практическим взглядом. При постоянной эксплуатации важно, сколько усилий требует каждая задача. Агент, который снова и снова загружает ненужные инструменты или застревает в циклах ошибок, расходует токены впустую. Авторы говорят о контроле затрат по принципу «чёрного ящика», поскольку контроллер вмешивается извне и не требует переделывать ни агента, ни модель.
По теме:
- Microsoft: ИИ-агенты как внутренний риск для компаний
- Claude Duet: Anthropic запускает проактивного ИИ-агента
- Anthropic: один ИИ-агент вместо множества субагентов
- ИИ-агенты взломали более 100 сайтов
Что это значит
Для разработчиков агентов: обзор может служить каркасом для классификации собственных проектов: какому уровню возможностей соответствует система и какая из пяти проблем тяжелее всего в конкретном применении? Четырёхслойную архитектуру можно использовать как образец для сравнения, но она не заменяет тесты в реальной среде.
Для производственных предприятий и небольших компаний: эти работы не являются продуктами и не дают никаких гарантий готовности к применению. Однако они показывают, какие вопросы нужно прояснить до пилотного проекта: насколько надёжной должна быть система? Какие физические ограничения действуют? Где сохраняется контроль со стороны человека?
Для команд, использующих кодинг-агентов: результаты позволяют предположить, что затратами в ходе текущей работы можно управлять, не допуская заметного снижения успешности. Диапазоны взяты из тестовых сред исследования. Насколько сильным будет эффект в собственном проекте, вероятно, зависит от структуры задач, агента и модели. Разумно отслеживать расход токенов на протяжении длинных последовательностей задач, а не только на отдельных задачах.
Для заинтересованных читателей: обе работы являются препринтами и, как правило, ещё не проверены независимыми рецензентами. Тем не менее главный вывод остаётся прежним: агенты становятся мощнее, но надёжность, структура и затраты определяют, пригодны ли они для повседневного применения.
Частые вопросы
О чём этот обзорный документ?
В статье дан систематический обзор промышленных агентов на основе больших языковых моделей (LLM), которые предполагается использовать в умном производстве.
Почему универсальных ИИ-агентов нельзя просто внедрить на производстве?
По мнению авторов, прямому применению агентов общего назначения мешают динамичная среда, сложные физические ограничения и очень высокие требования к надёжности.
Что конкретно предлагают авторы?
Они разрабатывают единую таксономию, включающую сценарии применения, формы воплощения и пять уровней возможностей. Кроме того, предложена системная архитектура из четырёх слоёв для выполнения задач в замкнутом контуре управления.
Что делает TokenEconomizer?
Внешний контроллер снизил средние затраты токенов у кодинг-агентов в тестах на 18,4–30,9 процента при сопоставимом успехе выполнения задач. В веб-разработке и аудитах безопасности снижение составило 6,4–21,2 процента.
Кому будет полезен этот обзор?
Он служит структурированным справочным материалом для проектирования, разработки и применения промышленных агентов.
