Калифорния намерена запретить ИИ-чатботам заменять психотерапевтов

В Калифорнии приближается к принятию законопроект, который ограничит использование ИИ-чатботов в сфере ментального здоровья. Документ SB 903, внесённый в январе, прошёл комитет по ассигнованиям Ассамблеи 13 августа единогласно — 13 голосами против нуля.

Законопроект направлен на то, чтобы не допустить замены психотерапевтов алгоритмами. Как сообщает Decrypt, документ запрещает «компаньон-чатботам» предлагать психотерапию, а также принимать самостоятельные решения о лечении. При этом ИИ может использоваться в качестве вспомогательного инструмента для клиницистов.

Авторы инициативы исходят из того, что алгоритмы не обладают навыками и подготовкой, необходимыми для работы с пациентами. По их мнению, ИИ не способен заменить человеческое понимание и эмпатию, которые требуются в психотерапии.

После одобрения в комитете законопроект направлен на третье чтение в Ассамблее. Дата голосования пока не назначена. Если документ будет принят, он станет одним из первых в США примеров регулирования ИИ в области психического здоровья.

Отметим, что рост популярности ИИ-чатботов для психологической поддержки вызывает вопросы у регуляторов. Некоторые приложения предлагают пользователям разговоры на терапевтические темы без контроля специалистов, что создаёт риски для пациентов.

В случае принятия закона ИИ-системы в Калифорнии будут обязаны соблюдать требования: они смогут лишь помогать врачам, но не выступать в роли самостоятельных терапевтов. Это позволит сохранить контроль за качеством помощи.

Подобные инициативы обсуждаются и в других штатах. Однако Калифорния, как крупный технологический центр, может задать тренд для регулирования ИИ в здравоохранении.