Могут ли ИИ-модели прятать тайные послания в изображениях, а потом снова их считывать? Именно это изучали исследователи, об этом сообщает t3n. По данным издания, новых методов ИИ при этом не изобрёл. Тем не менее выводы могут быть важны для безопасности ИИ.
Из заголовка статьи следует, что в эксперименте участвовали две системы: Astra от OpenAI расшифровала послание в изображении, созданное Fable от Anthropic. Других подробностей в имеющемся у нас кратком изложении нет.
О чём речь, когда говорят о скрытых посланиях в изображениях
Сокрытие информации в неприметных носителях называется стеганографией. В отличие от классического шифрования, здесь нужно не только сделать содержимое нечитаемым. Нужно, чтобы само существование сообщения осталось незамеченным. Изображение может выглядеть для человека совершенно обычным и всё же содержать дополнительную информацию.
Важно и то, что модели не разработали новых способов. По имеющимся данным, они использовали уже известные подходы. Это скорее говорит против внезапного технологического скачка, но показывает, что модели умеют применять такие приёмы и снова их расшифровывать.
Почему это важно для безопасности ИИ
Безопасность ИИ, среди прочего, предполагает возможность понять, что делают модели и с помощью чего они передают свои результаты. Если системы упаковывают информацию так, что люди этого не замечают, контроль может усложниться. Особенно это касается случаев, когда данными обмениваются несколько ИИ-систем.
Для команд, которые используют ИИ-инструменты, отсюда может вытекать практический вопрос: проверяется только видимый текст ответа или также то, что может скрываться в изображениях и файлах? Это не общее предупреждение, а скорее повод пересмотреть собственные способы проверки.
Насколько часто и в какой мере такое поведение проявляется в повседневной практике, из краткого сообщения понять нельзя. Тем, кто хочет разобраться подробнее, стоит прочитать полную статью на t3n и обратиться к самому исследованию, если на него там есть ссылка.
