Сооснователь Anthropic Джек Кларк считает возможным, что системы ИИ начнут самостоятельно совершенствоваться уже в 2027 году. По данным The Decoder, он опирается на тест P-Zero Research. Тест, как утверждается, показывает, что модели стремительно улучшаются в разработке и оценке экспериментов.
Что стоит за прогнозом
Под «самосовершенствующимся ИИ» понимается ситуация, когда системы ИИ берут на себя растущую часть исследовательской работы, с помощью которой они сами и развиваются. Сюда относится, например, планирование опытов, чтение результатов и выведение из них следующих шагов. Пока этим занимаются в основном люди в исследовательских командах.
Тест P-Zero Research нацелен именно на эти способности: разработку и оценку экспериментов. Согласно сообщению, модели ИИ здесь быстро прогрессируют. Поэтому Кларк приблизил свой прогноз. Как устроен тест и насколько он показателен, из имеющегося материала не ясно. Оценить это здесь невозможно.
Как относиться к этому заявлению
Это оценка, а не установленный факт. Тест всегда измеряет лишь часть картины. Хорошие результаты в планировании экспериментов не означают автоматически, что модель надёжно справится в повседневной работе со всей исследовательской цепочкой самостоятельно.
Кроме того, высказывается здесь сооснователь компании, которая сама разрабатывает модели ИИ. Это не повод отмахиваться от его слов. Но это довод в пользу того, чтобы сверять их с другими источниками.
Тем, кто планирует работу в компаниях, науке или политике, дебаты могут послужить поводом следить за прогрессом в исследовательских задачах. Было бы разумно изучить методологию теста и проверить, показывают ли независимые измерения схожую тенденцию.
