Белая книга AI. Что нужно знать бизнесу об этике искусственного интеллекта

70% компаний на российском рынке применяют искусственный интеллект. С каждым шагом на пути развития технологии бизнес сталкивается с этическими вопросами. Кто несёт ответственность за решения автономных систем? Можно ли делегировать AI принятие решений? Как быть с проблемой «чёрного ящика»? Авторы «Белой книги этики в сфере искусственного интеллекта» проанализировали российский и международный опыт, чтобы ответить на эти и другие вопросы. Обзор ключевых мыслей книги — в статье. 

«Белая книга»: не догма, а формирование повестки

Книга вышла при поддержке Сбера в 2024 году. Авторы — ведущие эксперты по этике новых технологий, юристы, психологи и исследователи. Они опирались на исследования, международные документы, данные опросов, позиции разработчиков и пользователей, которые собирала Комиссия по этике в сфере AI. Наиболее актуальные этические вопросы попали в книгу.  

По словам ответственного редактора книги Софьи Фокиной, название отсылает к международному формату white paper (с англ. «белая книга»). Он подразумевает структурированное изложение проблемы, перспектив её решения и предложений к заинтересованным сторонам. «Мы выбрали этот формат, чтобы обозначить, что книга не носит императивного характера, но формирует повестку. Кроме того, эпитет «белая» подчёркивает открытость и прозрачность подхода. Мы стремились не к догматике, а к созданию ориентиров, чтобы участники рынка могли самостоятельно адаптировать этические принципы под специфику своей деятельности», — говорит Софья Фокина. 

Почему возникла потребность в этическом регулировании AI? 

Будущее, в котором AI участвует в судебных процессах и помогает назначать лечение пациентам, уже наступило, пишут авторы книги. Задача, которую они перед собой ставят, — сделать применение нейросетей справедливым и безопасным. «Технологии — это инструмент. То, какими они будут, зависит только от нас. Книга — это шаг к осознанному, ответственному подходу к созданию будущего, где AI будет служить человеку, а не наоборот», — объясняют они.

К 2024 году в сфере искусственного интеллекта сформировалась устойчивая международная этическая повестка, которая прошла несколько ключевых этапов становления.

Первые принципы этичного использования AI были сформулированы внутри технологических корпораций. Примерно с 2016 года международные интернет-компании начали публиковать собственные своды этических ориентиров. Затем к повестке подключились некоммерческие организации и академическое сообщество. Возникли междисциплинарные альянсы, независимые этические центры. Они привнесли в повестку системность и критическое мышление, показав, что технология — это не только инструмент, но и источник глубоких социальных трансформаций.

На следующем этапе инициативу подхватили международные организации. В 2019 году Всемирная комиссия по этике научных знаний и технологий (COMEST) при ЮНЕСКО опубликовала аналитический доклад, где акцентировала внимание на рисках утраты культурного разнообразия, непрозрачности AI-систем и ограничениях автономии человека. 

Этика AI в России: этапы становления 

Развитие этики искусственного интеллекта в России началось задолго до появления единого отраслевого документа. Одной из первых компаний, которые осознали важность этических аспектов в AI, стал Сбербанк, который разработал и внедрил собственные корпоративные принципы. Они основывались на приоритете блага человека, прозрачности алгоритмов и ответственности разработчиков.

Следующим этапом стало принятие «Кодекса этики в сфере AI». Он был подготовлен Альянсом в сфере AI при поддержке государства, став первым в стране документом, закрепляющим этические принципы для всех участников рынка. Кодекс носит добровольный характер, и к 2025 году его подписали более 1000 организаций: крупные технологические компании, исследовательские центры, федеральные и региональные органы власти, а также более 80 зарубежных компаний. 

Кодекс регулирует все этапы жизненного цикла AI: разработку, тестирование, внедрение и использование. Основные принципы кодекса: человекоцентричность, прозрачность и объяснимость алгоритмов, справедливость, безопасность и ответственность. Важное место занимает этика взаимодействия человека и AI и вопросы идентификации алгоритмов в цифровой среде.

Этические вопросы, собранные в книге, собраны и обсуждены в специальной рабочей группе, посвящённой лучшим этическим практикам. Многие из них на протяжении четырёх лет обсуждались на всероссийских форумах по этике AI. Авторы собрали их в книге. 

Обеспокоенность этическими вопросами в сфере AI среди пользователей

Источник: Белая книга искусственного интеллекта

Нужно ли сообщать клиентам, что они общаются с AI?

На этот вопрос авторы отвечают неоднозначно: раскрытие информации желательно, но требование об этом не должно быть универсальным. Например, AI используется в онлайн-картах и навигаторах. Если задача — построить маршрут и указывать геолокацию — выполняется качественно, то пользователю неважно, с кем именно он взаимодействует. В некоторых случаях отметка об использовании нейросетей может нанести вред бизнесу. Например, целенаправленный акцент на применении AI при записи на медицинскую процедуру может вызвать недоверие. Бизнес потеряет часть клиентов. 

Однако есть сферы, где информирование обязательно. По данным опроса, которые приводят авторы книги, только 35% пользователей доверили бы улучшение психического и физического здоровья AI. Поэтому информировать об использовании AI в медицине необходимо, заключают авторы. 

Разработчикам AI-технологий они рекомендуют следующее: 

• информировать пользователей о применении AI и давать им возможность прекратить взаимодействие, если речь идёт о критически важных сферах — например, медицине;
• не вводить людей в заблуждение. Не утверждать, что коммуникация строится с живым человеком, если это не так;
• раскрывать информацию в пользовательском соглашении, в политике конфиденциальности, в справочных материалах или уведомлениях при установке — там, где пользователь точно её не пропустит. 

Допустимы ли цифровые аватары реальных людей? 

Цифровые копии человека активно используются в медицине. «Цифровой близнец» позволяет прогнозировать реакцию человека на лекарство или медицинскую процедуру.  «Цифровые двойники» спортсменов используются при подготовке к Олимпийским играм. 

Авторы книги считают цифровые имитации человека этически допустимыми, но предлагают учитывать законодательные ограничения стран и следовать ряду рекомендаций.

• Не дискредитировать оригинальную личность. Цифровая имитация не должна искажать образ или поведение оригинала. 
• Использование цифровой имитации должно быть согласовано с самим человеком или с его наследниками. 
• При трансляции такого контента обязательно предупреждать зрителей о том, что перед ними не оригинал, а цифровая копия. 

Необходимо ли объяснять пользователю работу AI? 

Проблемой «чёрного ящика» называют ситуацию, в которой трудно понять, как именно нейросеть пришла к тому или иному выводу. Авторы книги убеждены: чем совершеннее алгоритм, тем сложнее объяснить его решение. Оно продиктовано взаимным влиянием миллиона неочевидных факторов. «Понять и объяснить можно только примитивные, а значит, плохо работающие системы искусственного интеллекта», — объясняют авторы. 

Они рекомендуют раскрывать пользователям цели, которые ставились при обучении алгоритма, метрики оценки эффективности и данные об алгоритмах машинного обучения. Можно давать рекомендации пользователям, где лучше применять такой алгоритм. Однако объяснить, как именно система на основе искусственного интеллекта пришла к тому или иному решению, нет необходимости. В большинстве случаев это невозможно. 

Этично ли собирать персональные данные для тренировки AI? 

Авторы поднимают вопрос о допустимости использования персональных данных при обучении AI. Они приходят к выводу, что это этично — с учётом соблюдения требований законодательства, прав субъектов персональных данных и только в тех случаях, когда это необходимо. Например, при проведении научных исследований в сфере медицины. 

Важно использовать передовые методы защиты персональных данных, которые обеспечат конфиденциальность и точность модели ML. Один из них — федеративное обучение. Оно позволяет настраивать модель без передачи данных между устройствами. Это повышает уровень конфиденциальности. 

В любом случае авторы рекомендуют бизнесу ответственно подходить к использованию персональных данных. «Если нет понимания, как персональные данные могут помочь в обучении модели и к каким результатам это может привести, то их лучше не использовать», — заключают они. 

Этична ли работа рекомендательных сервисов? 

Ещё одна тема, которую поднимают авторы книги, касается работы рекомендательных сервисов. «Этично ли предлагать пользователям товары и услуги, которые не соответствуют его обычным предпочтениям?» — задаются вопросом они. Данные российских и международных исследований показывают, что если алгоритм работает без предвзятости и предлагает разнообразные товары и услуги всем пользователям, его работу можно считать этичной. 

К примеру, есть исследования, которые показали полезность таких рекомендаций. Они помогают пользователю избежать попадания в информационный пузырь. Напротив, если пользователь видит, что сервис игнорирует его предпочтения, он может увидеть в этом неуважение. 

Авторы книги считают важным учитывать интересы пользователей при формировании рекомендаций — например, не предлагать сладости и фастфуд человеку, который интересовался здоровым питанием. Кроме того, важно дать человеку возможность настроить предпочтения под себя и отказаться от тех, которые не интересны. 

Как бизнесу внедрять этические принципы AI

По словам Софьи Фокиной, есть несколько шагов по внедрению этических принципов AI в бизнесе, которые можно использовать уже сейчас.

• Ориентироваться на Кодекс этики в сфере AI. Это базис ответственного внедрения AI, сформулированный с участием крупнейших компаний, разработчиков и научного сообщества.
• Назначить ответственных за этичность AI-практик. Важно, чтобы в бизнесе был человек или группа, способные оценивать внедряемые решения с точки зрения не только функциональности, но и этичности.
• Оценивать риски при запуске AI-сервисов. Прежде чем технология станет публичной, стоит задать себе прямые вопросы: может ли она навредить? может ли повлиять на уязвимые группы? где граница допустимого воздействия?
• Обеспечить информирование пользователей. Честное указание на использование AI — основа доверия. Это особенно важно в сценариях, где пользователь может принять AI за человека или при взаимодействии с персональными рекомендациями.
• Использовать передовые методы защиты данных. Технологии, такие как федеративное обучение, позволяют строить AI, которые «уважают» личные границы пользователя и тем самым усиливают доверие к продукту.

Авторы книги подчёркивают, что работа над этической стороной внедрения AI в бизнес — это инвестиция в будущее. Внимание к этическим вопросам повышает доверие со стороны клиентов и партнёров. Компания легче адаптируется к новым регуляторным требованиям, ей проще привлекать таланты и инвесторов, а также выстраивать диалог с обществом в случае репутационного кризиса. 

• Чтобы быть в курсе важных трендов и мнений ведущих экспертов, следите за нами в телеграм-канале. О развитии навыков управления, личностном росте пишем в «Дзене». Про технологии и развитие в IT — в блоге на VC.