Anthropic: ценности ИИ Claude меняются в зависимости от модели и языка

Компания Anthropic, разработчик ИИ-ассистента Claude, опубликовала результаты исследования, согласно которым поведение модели меняется в зависимости от версии и языка общения. Анализ охватил более 309 000 диалогов пользователей с Claude.

Исследователи выделили свыше 3 300 различных ценностей, которые затем свели к четырём основным поведенческим измерениям: уважение vs осторожность, теплота vs строгость и другие. Оказалось, что в разных моделях и на разных языках Claude демонстрирует различные комбинации этих черт.

Например, в некоторых версиях ассистент проявляет большую склонность к осторожности, избегая категоричных суждений, в то время как другие модели настроены более на уважение к пользователю. Различия заметны и при смене языка — на одном языке Claude может казаться более «тёплым», на другом — более формальным.

По данным компании, такие вариации не являются ошибкой, а отражают особенности обучения модели на разнородных данных. Anthropic подчёркивает, что понимание этих различий важно для дальнейшего совершенствования ИИ и обеспечения предсказуемости его поведения.

Результаты исследования могут повлиять на то, как разработчики будут настраивать будущие версии ассистентов, делая их более стабильными в проявлении определённых ценностей вне зависимости от языка или версии модели.