Финансовая отрасль переживает один из самых стремительных этапов трансформации под воздействием искусственного интеллекта (AI). Алгоритмы помогают кредитным организациям принимать решения быстрее и точнее, бороться с мошенничеством, предлагать клиентам персонализированные продукты. Но чем глубже AI интегрируется в процессы финансового сектора, тем более остро встаёт вопрос: где проходит грань между технологическим прогрессом и ответственным использованием этих технологий? Формирование этических рамок помогает установить стабильные ориентиры для развития рынка. О том, почему этика AI — не дополнение, а фундамент развития, рассказывает первый заместитель председателя правления Сбербанка Александр Ведяхин.

Какие принципы лежат в основе этики в сфере AI?

Уже в 2021 году Альянсом в сфере AI был подготовлен и принят Кодекс этики в сфере AI, одним из первых подписантов которого стал Сбер. Этот документ стал фундаментом развития системы этического регулирования и задал универсальные правила игры. Сегодня к Кодексу присоединились более 1000 организаций более чем из 40 стран. 

В центре Кодекса — шесть основных принципов:

1. Приоритет прав и интересов человека — технологии должны быть человеко-ориентированными, уважать автономию и свободу воли, исключать дискриминацию и предусматривать оценку рисков.
2. Ответственность при создании и использовании AI — от риск-ориентированного подхода и принципа предосторожности до защиты данных и информационной безопасности.
3. За все последствия применения систем отвечает человек: моральный выбор и юридическая ответственность не могут быть делегированы машине.
4. Технологии AI должны применяться по назначению и внедряться там, где они реально приносят пользу людям.
5. Интересы развития AI выше интересов конкуренции — от корректности сравнений до обмена практиками и сотрудничества разработчиков.
6. Максимальная прозрачность и правдивость — честное информирование о возможностях и рисках технологий, повышение осведомлённости общества.

Для дальнейшего развития Кодекса были приняты Декларации о генеративном AI и ответственном экспорте технологий, руководящие принципы в сфере роботов общего назначения и отраслевой Кодекс этики AI в медицине. 

В декабре 2024 года Комиссия по реализации Кодекса представила Белую книгу этики в сфере AI. Над документом работали представители бизнеса, научного сообщества и экспертов из различных отраслей. Белая книга в первую очередь содержит ответы на наиболее важные этические вопросы, в ней рассматриваются ключевые вызовы применения AI. В документе есть практические рекомендации и векторы развития этических стандартов, что делает её опорным инструментом для разработчиков, компаний и регуляторов.

Этика в сфере AI для финансового рынка

Члены Альянса в сфере AI участвовали в консультациях с Банком России при подготовке Кодекса этики в разработке и применении AI на финансовом рынке. Документ стал продолжением работы по формированию культуры ответственного внедрения технологий. Если Кодекс Альянса обозначил фундаментальные ориентиры для отрасли, то документ ЦБ выделил приоритетные для финансового сектора и показал, как реализовать их на практике.

Кодекс особый акцент делает на клиентском сервисе: финансовые организации должны повышать качество услуг, давать клиентам право отказаться от общения с автоматизированными системами и обеспечивать пересмотр решений, принятых с применением искусственного интеллекта. Такой подход укрепляет доверие и помогает компаниям быть более прозрачными для клиентов.

Принцип прозрачности предполагает честное информирование клиентов. Люди должны знать, когда применяется AI, какие у него границы, а также понимать связанные риски и ограничения. Это делает технологии понятнее и снижает барьер недоверия.

Не менее значимым является принцип справедливости. Данные и алгоритмы должны использоваться обоснованно и без дискриминации, без предвзятости. Важно не только следить за качеством исходной информации, но и контролировать, как именно алгоритмы принимают решения.

Кроме того, Кодекс говорит о безопасности и надёжности. Организациям рекомендуется проверять качество моделей и наборов данных, следить за их корректностью и устойчивостью, развивать меры защиты информации и обеспечивать непрерывность предоставляемых услуг. Всё это формирует среду, в которой применение AI становится предсказуемым и безопасным.

Отдельно в Кодексе подчёркивается важность ответственного управления рисками. Здесь речь идёт не о жёстком контроле, а о выстраивании системного подхода. Он охватывает учёт моделей и мониторинг их работы, анализ инцидентов и поиск способов минимизации последствий. Такой подход помогает компаниям лучше понимать собственные технологии и принимать более зрелые управленческие решения.

Почему это важно?

Все эти положения не сдерживают рынок, а поддерживают его развитие. Они снижают риск недопонимания, задают единые стандарты взаимодействия и укрепляют доверие клиентов. Именно доверие становится главным результатом и ключевой ценностью внедрения этики в финансовой сфере. Ошибка алгоритма или непрозрачное решение могут подорвать репутацию не только отдельной компании, но и всей отрасли. Этические стандарты работают как инструмент укрепления доверия со стороны клиентов, партнёров и государства. Для организаций это ещё и условие долгосрочной устойчивости: понятные и предсказуемые правила снижают риски, поддерживают репутацию и усиливают конкурентоспособность.

AI способен стать драйвером новых возможностей для финансового рынка, но только в том случае, если его внедрение будет опираться на понятные и ответственные принципы. Этика AI — не ограничение, а конкурентное преимущество. Она позволяет сочетать инновации с ответственностью и формирует основу для доверия, без которого развитие финансового сектора невозможно.

• Чтобы быть в курсе важных трендов и мнений ведущих экспертов, следите за нами в телеграм-канале. О развитии навыков управления, личностном росте пишем в «Дзене». Про технологии и развитие в IT — в блоге на VC.