Чем опасен искусственный интеллект (ИИ) в банках и как клиенту защититься

ИИ обманет. Надо быть готовым. Подделка голоса и лица не единственная угроза. Всё страшнее и сложнее. Поэтому Банк России не теряет времени даром, пока его председатель Эльвира Набиуллина болеет. Центробанк выпустил рекомендации, как кредитным организациям противостоять зловредным нейросетям. Ведь их может глючить. Они могут стать инструментом мошенников. Рассказываем, какие риски для клиентов несёт ИИ в банках и как этому противостоять бабушке, студенту, представителю среднего класса. Которым просто нужен кредит.

^{ИИ банков могут глючить, их могут «отравить». Под вопросом безопасность россиян. Фото: нейросеть}

ИИ в банках: риски для клиентов

Регулятор только что опубликовал интересный документ. Называется он «Методические рекомендации Банка России по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке». ЦБ РФ честно предупреждает: технологии в финансах не только ускоряют выдачу кредитов, но и способны натворить такого, что ни один живой злоумышленник не придумает.

Внешние мошенники и сотрудники самих банков с нечистыми мотивами могут скормить системе неверную информацию. Вот как выглядит в жизни отравление инофрмации в ИИ банка.

Всех факторов и не перечислить. Они влияют на образ жизни заёмщика. От этого зависит, какую сумму ему можно дать в долг без риска просрочек. У каждого банка есть «информационное топливо» — огромные массивы несогласованных фактов. Они нанимают айтишников, спецов по машинному обучению. Те тренируют алгоритмы, используя искусственный интеллект. В итоге чат-бот банка «умнеет» и решает, кому выдать кредит, а кто его не вернёт.

Кстати, получить кредит на выгодных условиях вы можете в нашем сервисе.

Ещё ЦБ в методичке использует понятие «галлюцинации ИИ». Это когда нейросеть вдруг начинает выдавать крупный кредит клиенту с зарплатой 50 000 рублей тогда, когда инфляция резко скакнула до 20% в год. Между прочим, в материале «Инфляция в России набирает ход: до целевых 4% остались считанные недели» мы уже писали, что рост цен в РФ ускоряется. Гражданин просто не вернёт деньги вовремя. Галлюцинации ИИ в банках становятся серьезным вызовом для стабильности финансовой системы.

Хакеры способны подменить метки в датасете. И модель банка начинает считать белое чёрным, а Петю Петрова — террористом. ИИ банка может давать советы, полагаясь на фишинговые сайты мошенников. И рекомендовать инвестировать в токен Трампа или государственные облигации Зимбабве.

Методические рекомендации Банка России

Регулятор не велит разбирать нейросети на винтики. Но настойчиво рекомендует приставить к каждому алгоритму бдительного человека. В документе это звучит деликатно: «валидация результатов человеком с возможностью изменения результатов». То есть, если автомат решил, что вам надо заморозить счёт за покупку корма для вашей киски, то живой сотрудник может использовать право вето и сказать: «Простите, перегрев, сейчас поправим».

Банкам советуют создать «модель угроз» — по сути, гадалку для параноиков. Где расписано, кто и как попытается испортить жизнь модели. И затем для каждой угрозы подобрать защиту:

• шифровать данные, обеспечивая информационную безопасность;
• проверять наборы на отравленные данные;
• помечать входную и выходную информацию «цифровыми метками» (чтобы знать, не подсунул ли бот фейк);
• отдельно предписывают нанять «красные пожарные команды» — специалистов по этичному взлому, которые попытаются довести ИИ до белой горячки, чтобы потом залатать дыры.

Для клиентов главная надежда — минимизация данных: если банку для анализа не нужна вся ваша биография, модель обязана обработать лишь необходимый минимум. А если банк покупает готовый ИИ-сервис, пусть требует у вендора отчёты о проверках уязвимостей и «отслеживание источников данных» — чтобы не оказалось, что робот учился на форумах про рептилоидов.

Советы для клиентов банков

Свежие рекомендации ЦБ по ИИ в банках — не обязательный закон, а «мягкое право». Soft law. Так юристы называют гибкие нормы, которые себе же дороже не применять. Банкиры уже шепчутся, что де-факто регулятор нарисует по ним чек-лист для проверок. Весь рынок в курсе: такие советы — это фактически приказ.

Как защититься от ошибок ИИ в банке:

1. Не доверяйте автоматическим решениям слепо. Если банк одобряет кредит или, наоборот, отказывает вам без видимых причин – помните, что за этим могут стоять ошибки искусственного интеллекта при выдаче ссуды. Всегда запрашивайте письменное обоснование решения (особенно если произошла блокировка счёта).
2. Требуйте вмешательства живого сотрудника. Многих волнует, можно ли потребовать проверку решения банка человеком, если алгоритм ошибся. По рекомендациям ЦБ, банки обязаны проводить валидацию результатов человеком. Настаивайте на пересмотре вашего дела оператором-человеком.
3. Контролируйте, какие факты о вас собирает банк. Важно знать, как проверить информацию банка о себе и ограничить её сбор. Если банк запрашивает избыточную информацию (хобби, привычки), уточните цели — и откажитесь, если это не предусмотрено законом. Это лучший способ, как защититься от ошибок ИИ в банке на раннем этапе. Не давайте банковскому приложению все разрешения. Либо отзовите их.
4. Регулярно проверяйте свою кредитную историю. Из-за некорректных данных модель может приписать вам чужие долги. Сверяйте записи в бюро кредитных историй не реже одного-двух раз в год. Это поможет понять, как оспорить решение банка, принятое ИИ на основе ложных сведений.
5. Не ведитесь на «супервыгодные» предложения. Мошенники могут использовать нейросети, чтобы направлять вас на фишинговые сайты. Всегда сверяйте условия только через официальное приложение или портал банка.
6. Будьте осторожны с ботами. Никогда не сообщайте коды из СМС или пароли через ботов. Все чувствительные действия подтверждайте через сотрудника, у которого есть право вето  на автоматические операции.
7. Фиксируйте все обращения в банк. Если права нарушены — сохраняйте скриншоты. Это пригодится для жалобы в ЦБ РФ или суд, если возникнут систематические ошибки. К примеру, у вас большая зарплата, нет долгов. Но в кредите постоянно отказывают.

ИИ в банках – не всемогущий оракул, а инструмент, который может сбоить. Ваша задача – не принимать его решения как истину в последней инстанции, активно пользоваться правом на человеческую проверку и защищать свои интересы перед лицом новых технологий.