Сбер утвердил принципы этики искусственного интеллекта

Фото: Зотов Алексей / «Коммерсантъ»

Правление Сбербанка утвердило принципы этики разработки и применения технологий искусственного интеллекта (ИИ) в Группе Сбер. Об этом говорится в сообщении компании.

Эти принципы обязательны для всех участников Группы Сбер. Они разработаны с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной президентом РФ. Следование этим принципам поможет обеспечить безопасность и повысить доверие общества и клиентов Сбера к ИИ, который уже используется в большинстве процессов, продуктов и услуг компании.

Вице-премьер РФ Дмитрий Чернышенко предложил масштабировать успехи группы Сбера в области разработки и применения технологий искусственного интеллекта (ИИ) на другие российские компании. «Сегодня развитие этических инструментов, которые предполагают «мягкое» регулирование, — глобальный тренд. Саморегулирование бизнеса, основанное на концепции, имеет исключительное значение в период активного внедрения технологий ИИ в бизнес-процессы и жизнь людей. Это демонстрирует ответственное отношение организаций к клиентам и обществу в целом, позволяет сформировать доверительное отношение к новым технологиям. И успехи Сбера в этом направлении необходимо масштабировать на другие компании», — приводит его слова ТАСС.

Согласно принципу номер 1 («Контролируемость и управляемость систем ИИ» Secure AI), разработка и применение технологий ИИ в Сбере являются безопасными, управляемыми и контролируемыми в максимальной возможной степени.
Сбер учитывает возможные риски, связанные с безопасностью технологий ИИ, и не допускает их выхода из-под контроля или причинения системой ИИ вреда человеку. Также отмечается, что внедрение ИИ в Сбере никогда не является самоцелью, а применяемые технологии должны пользоваться доверием клиентов, сотрудников и общества.

Согласно принципу № 2 «Прозрачность и предсказуемость функционирования технологий ИИ» (Explainable AI), Сбер несет ответственность за применение систем ИИ в своей деятельности, стремится обеспечивать максимальную прозрачность, внутренний контроль и предсказуемость процесса и результатов их работы. Технологии ИИ применяются Сбером с соблюдением законодательства, в том числе требований конфиденциальности, и с уважением к частной жизни человека, а также к коммерческой тайне. При работе с технологиями ИИ обеспечивается безопасность данных, а системы ИИ никогда не используются для незаконной обработки персональной информации граждан или информации корпоративных клиентов Сбера.

В соответствии с принципом № 3 «Стабильность и надежность систем ИИ» (Reliable AI), Сбер обеспечивает стабильность и надежность функционирования систем ИИ, обеспечивает необходимый уровень технического оснащения и создает условия наибольшего благоприятствования для разработки и внедрения надежных систем ИИ в Сбере. Сбер реализует высочайший уровень гарантий всех прав и свобод человека при применении ИИ, поддерживая применение технологий ИИ исключительно на законных основаниях.

Принцип № 4 «Ответственное применение ИИ» (Responsible AI) предполагает, что при внедрении ИИ в центре внимания Сбера всегда находится потребность клиентов и сотрудников, а технологии ИИ должны использоваться для улучшения клиентского опыта. Сбер принимает во внимание и ответственно относится ко всем опасениям, которые возникают в связи с применением технологий ИИ.

Согласно принципу № 5 «Непредвзятый ИИ» (Fair AI), технологии ИИ применяются Сбером справедливо и объективно на равных для всех условиях. Сбер стремится к тому, чтобы технологии ИИ приносили пользу для развития человечества.
Для реализации этих принципов создана рабочая группа по этике разработки и применения технологий ИИ (в качестве подгруппы комитета ESG). В обязанности рабочей группы входит рассмотрение спорных этических вопросов, связанных с разработкой, применением ИИ, формирование корпоративной этики в сфере ИИ среди сотрудников Сбера, ответственность за реализацию принципов в Сбере, проведение по требованию заказчика экспертизы рисков применения технологий ИИ в работе Сбера и оценку последствия их внедрения совместно с Комитетом по рискам Группы Сбер, осуществление мониторинга эффективности реализации принципов и их восприятия в обществе.

«Технологии искусственного интеллекта, как и любые другие, несут с собой не только возможности, но и риски. Утверждая этические принципы разработки и применения технологий ИИ и создавая механизмы для их реализации, мы действуем в русле лучших мировых практик и в соответствии с Национальной стратегией развития ИИ. Этот вопрос масштабный и непростой, поэтому наши правила и принципы будут совершенствоваться, конкретизироваться. Мы открыты к мнению экспертного сообщества, которое будем учитывать при обновлении наших принципов. Для целого ряда этических проблем, возникающих при использовании ИИ, мы пока не нашли ответов даже с учетом изучения лучшего мирового опыта в этой сфере, поэтому наши принципы, безусловно, будут совершенствоваться по мере того, как человечество будет находить соответствующие решения. Особенно я хочу отметить, что это принципы Сбера и мы их никому за пределами нашей группы не навязываем, более того, не считаем эти принципы идеальными, и другим компаниям необязательно использовать их в своей деятельности», — заявил Герман Греф, президент, председатель правления Сбербанка.

подписаться