Новости ИИ. Банк России выпустил рекомендации по безопасности ИИ для финансового сектора

Новости ИИ

Банк России выпустил рекомендации по безопасности ИИ для финансового сектора

16 июня Банк России опубликовал важные методические рекомендации. Документ касается информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке.

Кому адресованы рекомендации?

кредитным организациям;

иностранным банкам (работающим в РФ);

некредитным финансовым организациям;

профессиональным участникам финансового рынка;

субъектам национальной платёжной системы.

Какие риски выделяет ЦБ РФ?

использование некорректных или отравленных наборов данных для обучения;

нарушение конфиденциальности данных и интеллектуальной собственности;

галлюцинации ИИ, дрейф данных, деградация модели;

низкая объяснимость и предсказуемость решений ИИ;

уязвимости в компонентах ИИ с открытым исходным кодом;

прерывание операционных процессов изза атак.

Ключевые рекомендации ЦБ РФ:

При автоматических операциях (например, платёжных) перепроверять решения ИИ с помощью человека.

Разработать модель угроз безопасности информации для систем ИИ.

Создать политику обеспечения информационной безопасности.

Назначить ответственного за реализацию политики заместителя руководителя по информационной безопасности.

Что есть в приложениях к документу

тактики и техники реализации угроз для ИИ;

соотношение этапов разработки ИИ и возможных угроз;

меры защиты от актуальных угроз;

основные положения политики обеспечения безопасности ИИ.

Ознакомиться с полным текстом рекомендаций можно на официальном сайте Банка России.