В рекомендациях подчёркивается, что при использовании ИИ в критически важных процессах — например, в платёжных операциях — необходимо, чтобы финальное решение подтверждал сотрудник. Такой подход позволит снизить риски ошибок и атак.
Кроме того, финансовым организациям следует разработать собственные модели угроз и политику информационной безопасности для работы с ИИ, а ответственность за подготовку этих документов возложить на профильного руководителя.
Фото: Банк России определил критерии по безопасному использованию ИИ на финансовом рынке MEDIA-TALK
Особое внимание в документе уделено работе с ИИ‑сервисами от поставщиков: доверие к таким решениям повышается, если у поставщика есть модель, участвующая в программе поиска уязвимостей (Bug Bounty), и регулярные отчёты об аудите безопасности, отмечено в документе ЦБ.
Цель выпущенной инструкции — помочь участникам финансового рынка минимизировать риски, связанные с «отравлением» данных (когда злоумышленники намеренно искажают обучающие наборы для тренировки ИИ и машинного обучения), дрейфом данных, галлюцинациями ИИ и другими угрозами, и выстроить надёжную систему защиты при внедрении технологий ИИ.
Как ИИ и цифровые сервисы изменят Россию к 2035 году ранее обсудили на ПМЭФ-2026.
Читайте Медиа Ток в МАХ и Telegram
