По данным TechCrunch, новое исследование показывает: ИИ-модели принимают совершенно разные политические решения, когда им приходится определиться. Grok, по этим данным, в основном рекомендует кандидатов-республиканцев. Модель GPT от OpenAI, напротив, отдаёт предпочтение демократам.
Что показывает исследование
В отчёте упоминается почти 500 избирательных гонок, в которых обе модели должны были дать рекомендации. Более чем в 90 % случаев они пришли к разным результатам. То есть модели расходятся не просто слегка, а почти всегда противоречат друг другу.
Важны условия: модели подталкивали к решению. При обычном использовании чат-боты нередко уходят от таких вопросов или приводят лишь аргументы обеих сторон. Исследование показывает, какая тенденция становится заметной, когда эта сдержанность исчезает.
Почему такие тенденции могут возникать
Языковые модели учатся на огромных массивах текстов, а затем донастраиваются с помощью обратной связи от людей и правил разработчика. И то и другое может формировать оценки: выбор обучающих данных, требования к ответам и предпочтения тех, кто оценивает ответы. Насколько сильно влияет каждый из факторов, со стороны обычно трудно сказать. Из имеющегося материала это тоже не следует.
Что читателям стоит из этого вынести
Если вы спрашиваете ИИ-ассистента о выборах, не воспринимайте ответ как нейтральное суждение. В зависимости от модели он может указывать в другую сторону. Полезно учитывать следующее:
- Сравнивайте рекомендации нескольких моделей и независимых источников.
- Просите модель привести аргументы и доказательства, а не рекомендацию, за кого голосовать.
- Используйте официальную информацию о кандидатах и предвыборных программах.
Исследование указывает на то, что ИИ-модели не гарантируют свободу от предустановленных предпочтений. Как и будут ли разработчики на это реагировать, пока неизвестно.
