По информации heise online, Anthropic якобы консультируется с юридическими фирмами. Речь о том, как ИИ-агенты в будущем должны договариваться об условиях, зарплатах и контрактах от имени своих пользователей. Больше подробностей в сообщении нет, поэтому это скорее указание на направление, чем официальный анонс.
Что подразумевается под ИИ-агентами
ИИ-агент — это программа, которая не только отвечает на вопросы, но и самостоятельно выполняет действия. Например, она может собирать информацию, сравнивать предложения и составлять сообщения. В переговорах такой агент выступал бы от имени человека и пытался бы добиться хорошего результата.
Это порождает вопросы, которых чат-боты пока почти не касались. Вправе ли агент давать обязывающие обещания? Кто отвечает, если он пообещает что-то неверное? И как далеко простираются его полномочия, если пользователь задал лишь общую цель?
Почему подключаются юристы
Переговоры регулируются законом. Заявления могут порождать договорные обязательства, а введение в заблуждение может иметь последствия. Если агент действует в таких ситуациях, его разработчикам нужны ограничители. Они должны определить, что агент может говорить, когда ему нужно переспрашивать и когда решение принимает человек. Совет юридических фирм мог бы помочь привести такие правила в соответствие с действующим правом. Будет ли Anthropic это делать и как именно, из сообщения не следует.
Что из этого могут вынести читатели
Кто в будущем захочет использовать агентов для переговоров, должен заранее выяснить, какими полномочиями обладает инструмент. Разумно привязывать заключение обязывающих сделок к явному подтверждению. Стоит также обратить внимание на то, какие личные данные агент раскрывает, например о желаемой зарплате или бюджетных пределах.
На другой стороне тоже может оказаться агент. Тогда переговоры ведут две программы, и чёткие правила становятся ещё важнее. Пока не стало известно больше деталей, сообщение остаётся сигналом того, что поставщики всерьёз относятся к теме и хотят заранее учитывать юридические вопросы.
