ЕС представляет новаторский закон об искусственном интеллекте

Запрет на использование ИИ с высокой степенью риска — приоритет безопасности и этики в ЕС

Европейский парламент сделал революционный шаг в направлении ответственного развития ИИ, приняв Закон об искусственном интеллекте. Этот закон, принятый после длительных переговоров с государствами-членами, устанавливает надежные рамки для обеспечения безопасности, соблюдения прав человека и стимулирования инноваций в области ИИ.

Закон ставит во главу угла защиту демократии, основных прав, экологического благополучия и верховенства закона от потенциальных рисков, связанных с ИИ. Это достигается путем установления различных уровней требований в зависимости от потенциальной опасности, которую представляют собой различные приложения ИИ. Такой подход позволяет сбалансировать необходимость технологического прогресса с этическими соображениями.

Некоторые приложения ИИ считаются слишком опасными и полностью запрещены. К ним относятся системы, которые классифицируют людей по чувствительным характеристикам с помощью биометрии, без разбора собирают изображения лиц из Интернета или считывают эмоции в школах и на рабочих местах. Кроме того, запрещены социальные скоринги, предвзятое предиктивное полицейское управление и искусственный интеллект, предназначенный для манипулирования людьми или их эксплуатации.

В соответствии с этим законом правоохранительные органы подчиняются более строгим правилам. Системы биометрической идентификации в реальном времени, как правило, запрещены, исключения допускаются только в ограниченных, четко определенных ситуациях. Такие исключения, как поиск пропавших людей или предотвращение терроризма, требуют строгих мер предосторожности, например, предварительного судебного одобрения. Сценарии с высоким уровнем риска, например использование биометрии для идентификации личности после какого-либо события, требуют судебного надзора, связанного с уголовным расследованием.

Системы ИИ, представляющие значительный риск для здоровья, безопасности, основных прав и других важнейших областей, подлежат строгим обязательствам. Это касается широкого спектра приложений, от критической инфраструктуры и образования до правоохранительной деятельности и демократических процессов. Разработчики таких систем должны оценивать и снижать риски, обеспечивать прозрачность, вести журналы использования и гарантировать человеческий надзор. Граждане получают право оспаривать решения, принимаемые ИИ, которые влияют на их права, и получать объяснения таких решений.

Прозрачность и надзор: Краеугольные камни нового закона об искусственном интеллекте

Прозрачность также имеет первостепенное значение для систем ИИ общего назначения (GPAI). Эти системы должны соблюдать законы ЕС об авторском праве и публиковать подробные резюме данных, использованных для их обучения. Более мощные модели GPAI, способные создавать системные риски, подвергаются дополнительной проверке, включая обязательную оценку моделей и отчетность об инцидентах. Закон также предписывает четко маркировать подделки, чтобы их нельзя было спутать с подлинным контентом.

Для стимулирования инноваций и поддержки малого и среднего бизнеса закон предусматривает создание регулятивных песочниц и реальных тестовых сред. Эти инициативы призваны способствовать разработке и обучению инновационных технологий ИИ до их выхода на рынок, создавая благоприятную экосистему для стартапов и малых и средних предприятий.

Это законодательство знаменует собой важный поворотный момент в развитии ИИ. Как заявил содокладчик Комитета по внутреннему рынку Брандо Бенифеи, «наконец-то у нас появился первый в мире обязательный закон об искусственном интеллекте… для снижения рисков, создания возможностей, борьбы с дискриминацией и обеспечения прозрачности».

После того как закон прошел окончательную юридическую экспертизу, с нетерпением ожидается его вступление в силу. Запреты на запрещенную практику будут реализованы в течение шести месяцев после вступления в силу, а другие положения будут вступать в силу постепенно. Такой поэтапный подход отражает стремление ЕС к созданию сбалансированной и дальновидной системы, способствующей ответственному развитию ИИ и одновременно защищающей основные права и ценности.

Этот новый закон делает финтех и финансовый сектор быстрее и безопаснее. International Fintech Business (IFB) может помочь вам присоединиться к европейской финтех-индустрии. Мы регистрируем компании и открываем банковские счета во всех странах Европы. Мы также предлагаем купить готовые компании с финансовыми лицензиями, такими как EMI/SEMI, API/PI, SPI, MSB и т. д. Свяжитесь с нами сегодня!