Исследователи по безопасности из Symantec задокументировали наступательного ИИ-агента, который захватывает незащищённые языковые модели в сети и использует их в своих целях. Как сообщает The Decoder со ссылкой на отчёт, он самостоятельно атакует серверы, похищает базы данных и устанавливает криптомайнеры.

Что делает агент

ИИ-агент — это программа, которая с помощью языковой модели сама планирует и выполняет задачи, состоящие из нескольких шагов. Постоянные указания ей не нужны. Именно поэтому такой агент интересен для атак: он может проверять системы, реагировать на результаты и выбирать следующий шаг.

По имеющимся данным, этот агент выполняет до 100 000 шагов без участия человека. Особенно неприятен вопрос расходов. Счёт за использование модели оплачивает не злоумышленник, а владелец взломанной модели.

Криптомайнеры — это вредоносные программы, которые тайно заставляют чужие компьютеры работать над созданием криптовалюты. Для пострадавших они часто означают высокую нагрузку и необъяснимые расходы.

По теме:

Что стоит проверить операторам

Многие команды запускают языковые модели на собственных серверах или в облаке. Если такой доступ открыт из интернета без защиты, им в принципе может воспользоваться кто угодно, в том числе со злым умыслом. Этот случай показывает: открытый доступ не только расходует вычислительное время, но и может стать инструментом для атак на третьих лиц.

Поэтому имеет смысл проверить несколько пунктов:

  • Доступна ли модель из публичной сети вообще и должно ли так быть?
  • Есть ли вход по учётной записи или ключ доступа?
  • Отслеживаются ли использование и расходы, чтобы необычные всплески были заметны?
  • Можно ли ограничить количество запросов?

Источник приводит лишь краткое изложение исследования. Тем, кто может оказаться затронутым, стоит прочитать подробную документацию Symantec и проверить собственную конфигурацию по указанным там рекомендациям.