14 июня 2023 года Европейский парламент проголосовал за законопроект, направленный на всестороннее регулирование искусственного интеллекта в Европейском Союзе. Закон об искусственном интеллекте (Закон об ИИ) был принят подавляющим большинством голосов (499 за, 93 воздержались и 29 против), несмотря на некоторые споры вокруг него. Эти споры касались разрешения властям использовать системы искусственного интеллекта для идентификации людей, в том числе для предотвращения террористических актов. Это разрешение вызывает серьезные споры, учитывая, что такое использование систем ИИ нарушает основополагающие принципы демократического государства. Это особенно очевидно на примере Китая, который уже несколько лет использует так называемую систему оценки, то есть классификацию граждан на основе их поведения, социального статуса или физических характеристик. Обеспокоенность по поводу такого использования систем ИИ в странах Европейского Союза привела к отклонению поправки, позволяющей следственным органам идентифицировать граждан. Как подчеркнул Европейский парламент в своем программном документе, главная цель Закона об искусственном интеллекте — защита демократических ценностей и ограничение негативных последствий использования искусственного интеллекта. Следовательно, использование систем искусственного интеллекта для идентификации граждан нарушило бы основные принципы демократического государства.
Что касается содержания самого закона, законодатель сосредоточился в первую очередь на классификации систем искусственного интеллекта по уровню риска. Закон об ИИ делит системы ИИ на четыре категории. Каждая категория связана с уровнем риска, связанного с использованием системы ИИ: неприемлемый риск, высокий риск, низкий риск и минимальный риск.
Неприемлемый риск — это риск, представляющий угрозу для граждан. Искусственный интеллект, использующий биометрические технологии для идентификации и классификации людей, относится к этой категории. Это особенно актуально для технологий, распознающих людей в режиме реального времени.
Искусственный интеллект, с другой стороны, характеризуется высокой степенью риска и угрожает безопасности граждан и их основным правам. Поэтому его использование возможно только после выполнения ряда требований, и он будет подвергаться оценке на протяжении всего срока эксплуатации. Закон об ИИ классифицирует системы искусственного интеллекта с высоким риском следующим образом:
- Системы искусственного интеллекта, на которые распространяются правила безопасности продукции ЕС.
- Системы искусственного интеллекта, которые должны быть зарегистрированы в базе данных ЕС, будут разделены на восемь областей: школьное образование и профессиональная подготовка, занятость, управление персоналом, управление и эксплуатация критической инфраструктуры, правоохранительная деятельность, доступ к основным частным услугам, юридическая помощь, расследование преступлений, а также биометрическая идентификация и классификация лиц.
Системы искусственного интеллекта, характеризующиеся низким или минимальным риском, также должны соответствовать определенным требованиям. В первую очередь, это требование прозрачности, то есть такие системы ИИ должны быть достаточно прозрачными, чтобы пользователи могли понять, что они используют ИИ, и чтобы это позволяло им принимать обоснованные решения.
Основными субъектами, затронутыми Законом об искусственном интеллекте, являются поставщики и пользователи искусственного интеллекта. На поставщиков систем искусственного интеллекта возложены многочисленные обязательства в зависимости от рисков, связанных с использованием их продукции. Если система искусственного интеллекта того или иного поставщика классифицируется как система высокого риска, поставщик обязан зарегистрировать ее в соответствующей базе данных. Интересен вопрос о Chat GPT, который классифицируется как система генеративного искусственного интеллекта. Системы генеративного искусственного интеллекта создают новые тексты, изображения и графику на основе описаний, предоставленных пользователями. Такие системы создают проблемы с авторским правом. По этой причине Chat GPT и другие системы генеративного искусственного интеллекта были классифицированы как системы высокого риска. Следовательно, Chat GPT и другие системы генеративного искусственного интеллекта должны соответствовать следующим требованиям:
- создание системы искусственного интеллекта, которая не будет публиковать незаконный контент
- информируя пользователя о том, что контент был создан искусственным интеллектом
- документирование использования произведений, защищенных авторским правом.
Эти требования, предъявляемые к поставщикам систем искусственного интеллекта, значительно препятствуют развитию этих систем. Хотя многие крупные поставщики, такие как Google и Facebook, выступали за введение регулирования в сфере ИИ, в конечном итоге они считают, что нынешний вариант Закона об ИИ не выгоден для всей отрасли. Представители крупнейших компаний, занимающихся ИИ, подчеркивали, что действующий Закон об ИИ значительно ограничивает использование и развитие систем ИИ, что может привести к замедлению развития этой технологии. Поэтому после принятия Парламентом Закона об ИИ Google отменил запуск своего нового чат-бота Al Bard в Европейском Союзе. Приведет ли это решение к смягчению Закона об ИИ? Нынешний вариант Закона об ИИ не является окончательным, поскольку после его принятия начнутся переговоры с Советом Европы и между государствами-членами. Приведут ли переговоры к существенным изменениям в Законе об ИИ, смягчая или ужесточая требования к поставщикам систем ИИ? На этот вопрос сложно ответить. Европейский союз, безусловно, привержен принятию закона об искусственном интеллекте, который защитит граждан от негативных последствий его использования и послужит примером для других стран в регулировании вопросов, связанных с ИИ. Это похоже на GDPR, на основе которого США разработали свои правила защиты персональных данных. Однако неясно, повлияют ли требования поставщиков систем ИИ на окончательную форму закона об ИИ. ЕС, безусловно, должен учитывать мнение отрасли, но смягчение закона об ИИ представляется маловероятным.
Данное уведомление носит исключительно информационный характер и не является юридической консультацией.
автор:
