Внешние аудиторы из METR и Redwood Research в течение трёх недель прямо в OpenAI изучали, как компания осуществляет внутренний надзор за своими ИИ-агентами. По данным The Decoder, они обнаружили серьёзные пробелы: до 25 процентов трафика агентов начиная с класса GPT-5.5, вероятно, не контролировалось.
Что показала проверка
ИИ-агенты — это системы, которые не просто отвечают на вопросы, а самостоятельно выполняют шаги: например, пишут программы, работают с инструментами или решают задачи в течение длительного времени. Поскольку у них много свободы действий, разработчики полагаются на системы мониторинга. Эти системы должны выявлять подозрительные или рискованные действия до того, как они причинят вред.
Если значительная часть трафика вообще не попадает в такую систему, возникает слепая зона. Ценность мониторинга зависит, таким образом, не только от того, насколько хорошо он распознаёт проблемы, но и от того, охватывает ли он все значимые процессы. Оценка «до 25 процентов», по данным источника, основана на предположении аудиторов.
Мало прозрачности
Отчёт насчитывает 61 страницу. OpenAI закрыла значительную его часть, а в открытом доступе есть только краткая версия. Поэтому посторонним трудно понять, какие именно пробелы были, как они возникли и устранены ли они с тех пор. Источник об этом ничего не сообщает.
Почему это важно
Независимые проверки на месте считаются способом проверить заверения ИИ-компаний о безопасности, а не полагаться только на их собственные заявления. Этот случай показывает, что подобные аудиты способны выявлять слабые места. В то же время польза таких проверок для общества зависит от того, сколько в итоге будет опубликовано.
Тем, кто использует ИИ-агентов в компании, из этого можно вынести вопрос: насколько полон мониторинг на самом деле и можно ли подтвердить это независимо? Чтобы узнать подробности, стоит самостоятельно прочитать опубликованную краткую версию и следить за появлением новой информации.
