Банк России выпустил первые рекомендации по защите от атак на ИИ в финансах

Банк России опубликовал методические рекомендации по безопасному использованию искусственного интеллекта (ИИ) в финансовой сфере. Это первый документ регулятора, в котором систематизированы риски применения ИИ, описаны возможные тактики атак злоумышленников на системы ИИ и даны рекомендации по мерам защиты.

Как отмечается в документе, если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платежных операциях, то рекомендуется, чтобы операцию подтверждал сотрудник. Такая мера призвана снизить вероятность несанкционированных действий.

Банк России также рекомендует участникам рынка разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. За подготовку этих внутренних документов отвечает заместитель руководителя организации по вопросам защиты информации.

Отдельный раздел документа касается информационной безопасности при использовании ИИ-сервисов, предоставляемых поставщиками услуг. Например, наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, повышает доверие к ней.

Рекомендации направлены на повышение устойчивости финансового сектора к киберугрозам, связанным с внедрением технологий искусственного интеллекта. Регулятор ожидает, что участники рынка учтут их при построении систем защиты.