К новостям Центробанк задумался о регулировании искусственного интеллекта
До конца года Банк России может начать регулировать использование ИИ финсектором. ЦБ планирует выпустить консультативный доклад по этому поводу и в течение 2024 года обсудить отчет с участниками рынка и выработать подходы. Об этом шла речь на конференции в честь 10-летия мегарегулятора. Первый зампред ЦБ Ольга Скоробогатова заявила, что в первую очередь Центробанк волнует вопрос безопасности данных и операций клиентов. Как будет выглядеть форма регулирования пока неизвестно, однако, участники рынка едины во мнении, что контроль может прежде всего затронуть генеративный ИИ - а именно, так называемых цифровых помощников.
Участники сессии на конференции единогласно заявили, что в ближайшие 10 лет основным технологическим трендом на финансовом рынке будет ИИ. Это представляет новый вызов для мегарегулятора на предстоящие годы, заявил председатель наблюдательного совета Московской биржи Сергей Швецов. По его словам, в предстоящий период будут создаваться и разрабатываться механизмы взаимодействия с искусственным интеллектом, включая механизмы регулирования.
"Вопрос о регулировании ИИ является одной из ключевых задач на ближайшие годы. Однако Центробанк не намерен торопиться в этом вопросе. В конце года планируется выпустить консультативный доклад для обсуждения с участниками рынка. Целью этого доклада является выяснение, в каких областях участники рынка планируют использовать ИИ, а также определение потенциальных рисков и бизнес-кейсов в будущем. Такой подход позволяет более точно определить необходимые регуляторные механизмы для обеспечения безопасности и эффективности использования ИИ в финансовом секторе", - заявила Скоробогатова на конференции.
Подходы регулирования
Одна из наиболее популярных концепций регулирования ИИ, которая сейчас обсуждается в мире, и, в частности, легла в основу проекта регулирования в ЕС - риск-ориентированный подход, объясняет Карен Казарян, директор по аналитике АНО "Цифровая экономика". Области внедрения нейросети разделяются по уровню риска и потенциального ущерба от некорректной работы ИИ, а также по уровню автономности решений, принимаемых алгоритмами. Таким образом, финансовый рынок потенциально попадает в отрасль с высокими рисками от внедрения ИИ, так как некорректная работа может серьезно повлиять не только на благосостояние россиян, но и на финансовые рынки. Одним из первых кейсов внедрения ИИ еще несколько лет назад стали роботы-трейдеры, подчеркивает Казарян.
Как ИИ может навредить финансовому сектору?
Из-за высокой конкуренции и снижения норм прибыли банки вынуждены искать новые способы повышения эффективности. Основные опасения россиян связаны с потерей рабочих мест, угрозой приватности и безопасности данных, а также возможностью потери контроля над искусственным интеллектом.
Негативным последствием в случае использования автоматизированных систем принятия решений в инвестиционной деятельности, может стать манипулирование рынком, говорит Карен Казарян. Действия, которые могут быть классифицированы как манипулирования рынком, перечислены в статье 5 Федерального закона от 27.07.2010 №224-ФЗ «О противодействии неправомерному использованию инсайдерской информации и манипулированию рынком и о внесении изменений в отдельные законодательные акты Российской Федерации», а также в статье 185.3 Уголовного кодекса РФ, которая устанавливает уголовную ответственность за манипулирование.
"Это серьезное преступление, которое негативно влияет на экономику и конкуренцию и может нанести существенный ущерб отдельным компаниям. Если в принятии решений, имеющих последствием манипулирование рынком, участвуют алгоритмы ИИ, то возникает вопрос о применении законодательства и ответственности за манипулирование", - отмечает Карен Казарян.
В случае внесения умышленных изменений в алгоритмы человеком, либо в случае его бездействия в соответствии с действующим законодательством ответственность должен нести человек. Но в случае полного делегирования, работа алгоритмов, основанная на постоянном анализе различных данных, может повлечь за собой манипулятивные решения, о которых не может знать не владелец системы, ни ее разработчик. В этом случае возникает целый ряд вопросов, связанных с ответственностью за принятие манипулятивных решений.
Кредитный скоринг - другой "якорный" продукт для ИИ в финансовом секторе. Благодаря широким возможностям для анализа больших объемов данных, полученных из различных источников, платформа предоставляет заемщикам возможность получить кредит даже при отсутствии кредитной истории. Это дает возможность банкам охватить ту сферу заемщиков, которая традиционно считается "высокорисковой".
Выдача кредита автоматизированными системами с использованием ИИ основывается на анализе различного рода данных, включая данные о гендерной и расовой принадлежности заемщика, месте жительства и др., а также статистической информации о задолженностях и выплатах по кредитам. По мнению Казаряна, поскольку данные, используемые для обучения систем, могут в недостаточной степени представлять интересы всех слоев общества, если система будет полностью работать в автоматизированном режиме, решения могут носить необъективный или дискриминационный характер. Кроме того, если заемщик потребует объяснения оснований почему принято то или иное решение, это может стать проблемой из-за непрозрачности работы алгоритмов. Здесь, по мнению Казараяна, необходимо регулировать использование ИИ в сфере финансов, для того чтобы оставаться объективными и справедливыми.
Преимущества внедрения ИИ в финсектор
Еще одно применение для ИИ - это борьба с мошенничеством. Но здесь существуют риски ложных срабатываний и пропуска мошенников.
Кроме оценки платежеспособности и благонадежности потенциальных клиентов, важной задачей для финансовых организаций является проверка контрагентов. Здесь ИИ может взять на себя выполнение проверок документов и принятие решений о правоспособности. Одна из таких систем - это проверка юридических лиц на правоспособность, разработанная и запатентованная Сбербанком. Система проверяет контрагентов путем распознавания и извлечения из документов юридически значимой информации. Происходит проверка сведений о банкротстве, ликвидации и реорганизации юридических лиц, корректности сведений, содержащихся в выписке из ЕГРЮЛ, полномочий подписанта на заключение сделки и многих других параметров. По результатам проверки система не просто выдает ответ «да» или «нет», а предоставляет развернутые выводы по ключевым риск-метрикам клиента. Правовой риск описывается максимально подробно с учетом различных аспектов, в том числе обоснования и уровня риска, оценки возможности устранить и минимизировать риск. Система позволяет значительно ускорять бизнес-процессы и избегать ошибок при ручной обработке больших массивов данных и проверке информации о контрагентах. Процесс анализа одного юридического лица занимает в среднем 7 минут.
Таким образом, одной из основных мер по регулированию ИИ в финансовой отрасли могут стать аудит алгоритмов и требования по обязательному включению человека в принятие важных решений (human-in-the-loop), и возможность апеллировать к физическому сотруднику при принятии решений относительно клиента.
