ЦБ дал рекомендации по использованию ИИ в финансовой сфере

Банк России опубликовал первый документ с рекомендациями по использованию искусственного интеллекта (ИИ) в финансовой сфере. Регулятор перечислил риски применения технологии, описал возможные сценарии атак мошенников на системы ИИ и дал советы по защите.

Документ адресован финансовым организациям, которые внедряют или планируют внедрять ИИ в свою деятельность. В рекомендациях подчеркивается, что использование ИИ сопряжено с новыми уязвимостями, включая атаки на алгоритмы, манипуляцию данными и утечку конфиденциальной информации.

ЦБ выделил несколько ключевых рисков: неконтролируемое принятие решений системами ИИ, дискриминация клиентов на основе алгоритмов, а также угрозы кибербезопасности. В документе описаны сценарии, при которых мошенники могут использовать уязвимости ИИ для проведения атак, в том числе через подмену данных или эксплуатацию ошибок в обучении моделей.

Для минимизации рисков регулятор рекомендует финансовым организациям внедрять механизмы контроля за работой ИИ, регулярно тестировать системы на устойчивость к атакам, а также обеспечивать прозрачность алгоритмов для клиентов и надзорных органов. Документ носит рекомендательный характер и не вводит обязательных требований.