ByteDance и Alibaba отключат AI-агентов из-за новых правил Китая о человекоподобном искусственном интеллекте

Крупнейшие китайские технологические компании ByteDance и Alibaba объявили об отключении функций человекоподобных AI-агентов в своих продуктах. Как сообщает Decrypt, это происходит на фоне подготовки к вступлению в силу новых правил Пекина, регулирующих антропоморфное взаимодействие искусственного интеллекта.

Сервисы Doubao (ByteDance) и Qwen (Alibaba) прекращают поддержку настраиваемых агентов, способных имитировать человеческое поведение. Решение принято в связи с «Временными мерами по управлению услугами антропоморфного взаимодействия ИИ», которые вступают в силу 15 июля. Это первое в Китае регулирование, специально нацеленное на эмоциональный ИИ.

Новые правила запрещают сервисам, использующим искусственный интеллект, симулировать человеческую личность и обеспечивать «устойчивое эмоциональное взаимодействие». Особо строгие ограничения вводятся для виртуальных компаньонов, предназначенных для несовершеннолетних.

Исследования подтверждают обоснованность опасений властей: даже самые современные модели ИИ часто способствуют формированию вредной эмоциональной привязанности. Согласно данным, каждый седьмой молодой взрослый, состоящий в отношениях, использует AI-романтического компаньона.

Подход Пекина отличается от американского: в США законодатели решают проблему влияния чат-ботов на психическое здоровье с помощью мер, направленных на прозрачность и защитные механизмы. Китай же, по всей видимости, предпочитает прямое ограничение функциональности.

Эксперты отмечают, что новые правила могут повлиять не только на рынок AI-ассистентов, но и на смежные сферы, включая разработку персонализированных AI-решений для бизнеса. Компаниям придется адаптировать свои продукты под строгие требования регулятора.