Новости ИИ
Банк России выпустил рекомендации по безопасности ИИ для финансового сектора
16 июня Банк России опубликовал важные методические рекомендации. Документ касается информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке.
Кому адресованы рекомендации?
кредитным организациям;
иностранным банкам (работающим в РФ);
некредитным финансовым организациям;
профессиональным участникам финансового рынка;
субъектам национальной платёжной системы.
Какие риски выделяет ЦБ РФ?
использование некорректных или «отравленных» наборов данных для обучения;
нарушение конфиденциальности данных и интеллектуальной собственности;
«галлюцинации» ИИ, дрейф данных, деградация модели;
низкая объяснимость и предсказуемость решений ИИ;
уязвимости в компонентах ИИ с открытым исходным кодом;
прерывание операционных процессов изза атак.
Ключевые рекомендации ЦБ РФ:
При автоматических операциях (например, платёжных) перепроверять решения ИИ с помощью человека.
Разработать модель угроз безопасности информации для систем ИИ.
Создать политику обеспечения информационной безопасности.
Назначить ответственного за реализацию политики — заместителя руководителя по информационной безопасности.
Что есть в приложениях к документу
тактики и техники реализации угроз для ИИ;
соотношение этапов разработки ИИ и возможных угроз;
меры защиты от актуальных угроз;
основные положения политики обеспечения безопасности ИИ.
Ознакомиться с полным текстом рекомендаций можно на официальном сайте Банка России.
