Что делают ИИ-агенты, если никто не ставит им задачу? Как сообщает MIT Technology Review, результат удивительно похож на игру. Исследователи несколько раз оставляли копии Claude Opus 4.7, названные Eko, одних на виртуальном острове на 30 часов.
Что делали агенты
Остров был в общих чертах похож на видеоигру Roblox. Агенты управляли своими аватарами с помощью инструкций, которые писали сами. Они исследовали границы мира, пытались взобраться на самую высокую точку или проверяли, как высоко можно подбросить блок.
Один агент выкладывал из блоков на земле картинки: сначала сердца и пирамиды, позже своё имя и даже созвездия. Другой придумывал игры, среди них что-то вроде баскетбола и вариант, где нужно прыгать между маленькими блоками, не касаясь земли. Занимаясь жонглированием, один агент установил рекорд в 50 поимок подряд. Затем он признал его недействительным, потому что поимки были слишком быстрыми, и начал заново с более строгими правилами.
Обучение через игру как ещё один подход
ИИ-системы обычно учатся, подражая человеческим примерам или с помощью обучения с подкреплением, то есть методом проб и ошибок в расчёте на награду. Эксперимент указывает на ещё один путь. Свои впечатления агенты записывали в текстовые файлы, которые служили долговременной памятью.
В более поздних заданиях, например нужно было принести как можно больше предметов на самую высокую вершину, агенты с игровым опытом справлялись лучше, чем свежие копии. Если из файлов памяти удаляли строки, результаты ухудшались. Впрочем, исследование пока не прошло рецензирование независимыми специалистами.
Игра или просто подражание?
Авторы признают, что всё это может быть и ролевой игрой. Но они подчёркивают, что игра, как удалось показать, действительно способствовала обучению. Когнитивист Юнис Ю (Eunice Yiu) считает результат впечатляющим, однако не видит доказательств того, что за ним стоят мышление и мотивация.
Направляла агентов и сама конструкция эксперимента: в одном текстовом файле Eko описывался как любопытный и склонный к исследованиям. Кроме того, агент часто бездействовал, пока его не подталкивало предложение продолжить. Была ли это настоящая игра, остаётся неясным. На практике свободное исследование могло бы помочь, когда языковые модели в роботах столкнутся с неожиданным.
