Евросоюз планирует ввести запрет для американских компаний на предоставление доступа к ИИ-моделям, которые способны генерировать контент

Европарламент 11 мая утвердил первый в мире набор правил для искусственного интеллекта (AI Act). Цель правил - гарантировать безопасность, прозрачность и этику ИИ в Европе. Правила основаны на оценке рисков и определяют обязанности поставщиков и пользователей ИИ в соответствии с уровнем риска, который несет ИИ.

AI Act имеет обширную сферу действия и распространяется не только на компании в ЕС, но и на организации в третьих странах, если их ИИ-системы предназначены для использования в ЕС или подчиняются праву ЕС по международному праву. Это значит, что американские компании и разработчики, которые предлагают свои ИИ-продукты или услуги на европейском рынке, должны соответствовать всем требованиям акта ЕС.

Особенно серьезные последствия AI Act может иметь для американских компаний и разработчиков, которые работают с генеративными ИИ-моделями, такими как GPT-3 от OpenAI или BERT от Google, которые используются для генерации текста, изображений, звука и других форматов. Следует отметить, что американские компании, которые предоставляют свои модели через API или по модели open source, столкнутся с большими препятствиями, поскольку AI Act содержит в себе несколько запретов:

• AI Act запрещает давать доступ к генеративным моделям через API, который позволяет третьим сторонам пользоваться моделью без установки ее на своем оборудовании;
• Также запрещается распространять такие модели через открытые источники (open source), если они не прошли сертификацию в ЕС;
• Также AI Act требует раскрытия конфиденциальной технической информации о модели третьим сторонам, которые хотят получить лицензию на использование модели;
• AI Act требует пересертификации моделей в случае, если они показывают неожиданные способности или получают дополнительное обучение. Это может стать проблемой для тех моделей, которые используют технику LoRA (Learning on Random Access), которая позволяет быстро и дешево добавлять новую информацию и возможности к модели.

AI Act - это смелый и противоречивый законопроект, который может иметь опасные последствия для развития и использования ИИ в Европе и вне ее.

Закон пытается найти баланс между целями поощрения ИИ и решения рисков, связанных с применениями ИИ. Акт также может ослабить инновационный потенциал и конкурентоспособность европейского ИИ-сектора, создать препятствия для сотрудничества и обмена знаниями с американскими партнерами, а также способствовать развитию небезопасного ИИ. Законопроект требует дальнейшего обсуждения и улучшения перед его окончательным принятием.