Европарламент установил первый в мире стандарт для Исскуственного Интеллекта

Европейский парламент утвердил первые в истории нормы для регулирования искусственного интеллекта (AI Act). Цель этих норм - гарантировать безопасность, прозрачность и этичность ИИ в Европе. Нормы основываются на подходе, учитывающем риск, и определяют обязанности для разработчиков и пользователей ИИ в соответствии с уровнем риска, который может представлять ИИ.

Системы ИИ с недопустимым уровнем риска для безопасности людей будут строго запрещены, в том числе системы, которые применяют скрытые или целенаправленно манипулятивные методы, эксплуатируют слабости людей или используются для социального скоринга (оценки людей на основе их социального поведения, социально-экономического статуса, личных характеристик).

Депутаты также добавили в список запрещенных практик ИИ следующие системы ИИ, которые могут нарушать права человека или дискриминировать людей при их использовании:

• Удаленное биометрическое распознавание в общественных местах в режиме реального времени;
• Удаленное биометрическое распознавание, с единственным исключением правоохранительных органов для борьбы с тяжкими преступлениями и только после получения судебного разрешения;
• Системы биометрической категоризации по чувствительным характеристикам (например, пол, раса, этническая принадлежность, статус гражданства, религия, политическая ориентация);
• Прогнозирующие полицейские системы (основанные на профилировании, местоположении или прошлом криминальном поведении);
• Системы распознавания эмоций в правоохранительных органах, пограничных службах, на рабочих местах и ​​в учебных заведениях;
• Неконтролируемое извлечение биометрических данных из социальных сетей или видеозаписей с камер видеонаблюдения для создания баз данных распознавания лиц (нарушение прав человека и права на неприкосновенность частной жизни).

ИИ с высоким уровнем риска

Депутаты расширили список ИИ с высоким уровнем риска, включив в него системы ИИ для воздействия на избирательные предпочтения в политических кампаниях и системы рекомендаций, используемые социальными сетями.

Поставщики ИИ с высоким уровнем риска должны соответствовать ряду требований, таких как:

• проведение оценки риска и соответствия;
• регистрация своих систем ИИ в европейской базе данных ИИ;
• обеспечение высокого качества данных, на основе которых обучается ИИ;
• обеспечение прозрачности и информированности пользователей;
• обеспечение эффективного контроля и возможности вмешательства со стороны человека;
• обеспечение безопасности и надежности систем ИИ.

Пользователи ИИ с высоким уровнем риска должны соблюдать правила использования и иметь достаточный уровень компетенций и знаний. Они также должны иметь возможность жаловаться на системы ИИ.

ИИ с низким уровнем риска

Поставщики ИИ с низким уровнем риска, такие как чат-боты, должны сообщать пользователям о том, что они общаются с ИИ, а не с человеком.

Общие цели ИИ

Депутаты также предложили создать специальный режим для общих целей ИИ и основных моделей, таких как GPT-3, которые могут быть использованы для разных целей и имеют большой потенциал для инноваций. Этот режим будет основан на принципе «доверяй, но проверяй» и будет включать в себя сертификацию качества и безопасности.

Депутаты также подчеркивают необходимость поддерживать развитие и применение ИИ в соответствии с европейскими ценностями и правами человека. Они призывают к увеличению инвестиций в ИИ, повышению цифровой грамотности и навыков, а также к сотрудничеству с другими странами и международными организациями.

Следующие шаги

После того, как позиция Европарламента будет одобрена на пленарном заседании, начнутся переговоры с Советом и Комиссией для дальнейшего принятия законопроекта.