Европейский парламент утвердил проект «Закона об искусственном интеллекте». Несмотря на то, что до окончательной редакции закона еще далеко, закон уже привлек к себе внимание, т.к. стал первым в мире документом, который предлагает защиту человека от его интеллекта, хоть и искусственного.
Также он стал, наверное, самым актуальным европейским законопроектом, который предлагает регулировать процессы априори, в не постфактум. Но здесь не стоит говорить о том, что евробюрократия начала работать на новых скоростях. Скорее на руку сыграло предчувствие стремительности развития технологий у еврокомиссара Тьерри Бретона и его команды: подготовка документа шла почти два года.
Начали с мягкого права
Перед тем, как документ принял вид законопроекта, Еврокомиссия несколько лет в своих действиях опиралась на так называемое «мягкое право» — Руководство по этике для надежного ИИ и политики и инвестиций от 2019 г., не не имеющего обязательной силы.
Затем ЕС принял закон о цифровых услугах (Digital Services Act, DSA) и пакет законов о цифровых рынках (Digital Markets Act, DMA). Законы направлены на регулирование цифрового рынка, в частности, для улучшения модерации контента соцсетей,для прекращения недобросовестных практик технологических гигантов (например, Amazon, Меta и Google), которые действуют на рынке онлайн-платформ в качестве привратников (gatekeeper) и т.д.
В 2020 году совет Европы призвал Комиссию выдвинуть конкретные законодательные предложения по реагированию на потенциальное воздействие цифровых технологии, включая ИИ. В итоге проявился законопроект от ИИ.
Главное в законопроекте
〄 Системы ИИ должны контролироваться людьми, а не автоматическими системами.
〄 Системы ИИ должны быть безопасными, прозрачными, отслеживаемыми, недискриминационными и экологически безопасными. Они не должны угрожать основным правам человека, таким как право на недискриминацию, свободу слова, человеческое достоинство, защиту личных данных и неприкосновенность частной жизни.
〄 Создающие контент системы ИИ (например, ChatGPT) должны будут маркировать свою продукцию и не выдавать ее за творчество живых людей, а также публиковать данные по контенту, защищенному авторским правом.
〄 Парламент также хочет установить технологически нейтральное единообразное определение ИИ, которое можно было бы применять к будущим системам ИИ.
Ограничит ли новый закон развитие и применение ИИ в ЕС?
В постановлении Европарламента об ИИ говорится, что «ЕС хочет регулировать искусственный интеллект, чтобы обеспечить лучшие условия для разработки и использования этой инновационной технологии. ИИ может принести много преимуществ, таких как лучшее здравоохранение, более безопасный и чистый транспорт, более эффективное производство, а также более дешевая и устойчивая энергетика”.
Четыре уровня риска
Европарламент предлагает классифицировать системы ИИ по уровню их потенциальной опасности для граждан: неприемлемый риск, высокий риск и ограниченный риск и минимальный (или его отсутствие).
〄 Неприемлемый риск
К категории неприемлемо опасных причислены: дистанционные биометрические системы распознавания лиц в реальном времени, классификация людей, основанная на цифровых данных об их поведении (речь идет о цифровом социальном рейтинге). Возможно, исключением станет анализ данных дистанционного биометрического наблюдения постфактум и с разрешения суда в отношении лиц, совершивших тяжкие преступления.
Судя по документу, такие ИИ -системы будут запрещены в ЕС.
〄 Высокий риск
Системы ИИ, которые негативно влияют на безопасность или основные права, будут считаться высокорисковыми и будут разделены на две категории:
1) Системы ИИ, которые используются в продуктах, подпадающих под действие законодательства ЕС о безопасности продукции. Сюда входят игрушки, авиация, автомобили, медицинские приборы и подъемники.
2) Системы ИИ, относящиеся к восьми конкретным областям, которые должны быть зарегистрированы в базе данных ЕС: биометрическая идентификация и категоризация физических лиц, управление и эксплуатация критической инфраструктуры, образование и профессиональная подготовка, занятость, управление работниками и доступ к самозанятости, доступ и пользование основными частными услугами и государственными услугами и льготами, правоохранительные органы, управление миграцией, убежищем и пограничным контролем, помощь в юридическом толковании и применении закона.
Все системы искусственного интеллекта с высоким уровнем риска будут оцениваться перед выпуском на рынок, а также на протяжении всего их жизненного цикла.
〄 Ограниченный риск
Системы искусственного интеллекта с ограниченным риском должны соответствовать минимальным требованиям прозрачности, которые позволят пользователям принимать обоснованные решения. После взаимодействия с приложениями пользователь может решить, хотят ли они продолжать его использовать. Пользователи должны быть осведомлены, когда они взаимодействуют с ИИ. Сюда входят системы искусственного интеллекта, которые генерируют или манипулируют изображениями, аудио- или видеоконтентом, например дипфейки, фильтры и т. д.