ЕС ослабил запреты на наблюдение: ИИ разрешен полиции и пограничникам
В течение нескольких дней правительства стран ЕС получат возможность внедрять технологии на основе искусственного интеллекта, которые будут отслеживать граждан в общественных местах, осуществлять наблюдение в режиме реального времени за беженцами в приграничных зонах и использовать инструменты распознавания лиц против людей на основе их предполагаемой политической принадлежности или религиозных убеждений.
Это лишь некоторые из лазеек и исключений из национальной безопасности, проталкиваемых в Европейском законе об искусственном интеллекте, первом в мире наборе законов, нацеленных на сектор . Законодательство призвано смягчить бесчисленные предубеждения и страхи за конфиденциальность, связанные с использованием технологий и алгоритмов ИИ, при этом ЕС заявляет, что закон создаст «экосистему ИИ, которая принесет пользу всем».
Но несколько спорных частей постановления вступят в силу со 2 февраля 2025 года, отчасти благодаря тайному лоббированию со стороны Франции и множества европейских государств. Внутренние документы, полученные в ходе переговоров Investigate Europe, показывают, что государства-члены успешно провели кампанию по ослаблению мер, предоставив полиции и пограничным службам, среди прочего, большую свободу для тайного наблюдения за гражданами.
«В связи с рядом бюрократических лазеек и упущений Закон об ИИ не соответствует амбициозному законодательству по защите прав человека, на которое многие надеялись», — заявила Сара Чандер, соучредитель Equinox Initiative for Racial Justice. «На самом деле, это законодательство является проотраслевым инструментом, призванным ускорить развитие европейского рынка ИИ и способствовать цифровизации государственных услуг».
«Закон об искусственном интеллекте не соответствует амбициозному законодательству по защите прав человека, на которое многие надеялись», — Сара Чандер.
Investigate Europe проанализировал более 100 документов с закрытых встреч послов 27 государств-членов, так называемого Coreper для Совета ЕС, и поговорил с несколькими источниками, присутствовавшими на переговорах. Эти протоколы встреч и отчеты со всего политического спектра подробно описывают, как Франция стратегически разработала поправки к регламенту.
Использование ИИ в общественных местах в целом запрещено законом, но изменения, продвигаемые администрацией Макрона и другими, означают, что правоохранительные органы и пограничники получат возможность обходить запрет. Например, климатические демонстрации или политические протесты теперь могут свободно подвергаться наблюдению с использованием ИИ, если у полиции есть опасения по поводу национальной безопасности.
Когда послы встретились в Coreper 18 ноября 2022 года, представитель Франции был недвусмыслен в отношении пожеланий страны, согласно полученному протоколу встречи. «Исключение безопасности и обороны… должно быть сохранено любой ценой». Это была ссылка на часть закона, предлагающую, чтобы только военным было разрешено вести наблюдение в общественных местах. Франция хотела сделать исключение для всех органов власти, если это необходимо для «национальной безопасности». На более поздней встрече Италия, Венгрия, Румыния, Швеция, Чешская Республика, Литва, Финляндия и Болгария выразили поддержку французской позиции.
«Эта битва была одной из самых сложных, и мы ее проиграли», — отметил источник в Европейском парламенте, участвовавший в переговорах и пожелавший остаться анонимным. В окончательном тексте больше нет никаких ограничений на использование наблюдения в общественных местах — необходимости одобрения национального агентства или декларирования продукта в публичном реестре — если государство сочтет это необходимым по соображениям национальной безопасности.
На практике эти исключения также будут распространяться на частные компании — или, возможно, третьи страны — которые предоставляют технологию на базе ИИ полиции и правоохранительным органам. В тексте оговаривается, что наблюдение разрешено «независимо от субъекта, осуществляющего эту деятельность».
«Эта статья [2.3] противоречит всем конституциям, основным правам, европейскому законодательству», — заявил юрист из консервативной группы ЕНП в Европейском парламенте, выступая анонимно. «Франция могла бы, например, попросить китайское правительство использовать свои спутники для съемки, а затем продать данные французскому правительству».
Освобождение также противоречит постановлениям Европейского суда от 2020 и 2022 годов, говорит Пликсавра Вогиатзоглу, научный сотрудник Амстердамского университета. В решениях говорится, что французские телекоммуникационные компании нарушили законодательство ЕС, сохранив данные клиентов по соображениям национальной безопасности. «Суд ЕС заявил, что частные компании, занимающиеся деятельностью в сфере национальной безопасности, не освобождаются, они по-прежнему подчиняются законодательству ЕС, а исключение в целях национальной безопасности должно толковаться очень ограничительно, и государство-член должно действительно обосновать это», — сказала Вогиатзоглу.
Частное лоббирование Франции на заседаниях Совета ЕС отражает ее публичное стремление использовать технологии. В мае 2023 года конституционный суд страны санкционировал использование видеонаблюдения с использованием искусственного интеллекта во время Парижской Олимпиады. Этот шаг стал первым в своем роде в ЕС и был назван Amnesty International «серьезной угрозой гражданским свободам и демократическим принципам». Теперь такие методы могут быть развернуты по всему блоку.
Окончательно согласованный Закон об ИИ, впервые представленный Европейской комиссией в апреле 2021 года и вызвавший споры с самого начала, оказался переполнен исключениями.
Использование систем распознавания эмоций — технологий, которые интерпретируют настроение или чувства людей — запрещено со 2 февраля на рабочих местах, в школах и университетах. Например, компаниям будет запрещено отслеживать клиентов в магазине для анализа намерений покупки, а работодатели не смогут использовать системы для проверки того, довольны ли сотрудники или, скорее всего, уйдут. Но отчасти благодаря лоббированию со стороны Франции и государств-членов, системы разрешены для всех полицейских сил, иммиграционных и пограничных служб. Пока не ясно, будут ли системы также разрешены для персонала по подбору персонала, например, для компаний, чтобы оценивать кандидатов на работу.
На встрече Coreper 29 ноября 2023 года посол Дании заявил, что любой запрет «должен быть соразмерным и применяться только в случае риска дискриминации». Нидерланды, Португалия и Словакия заняли на этой встрече схожую позицию, все «в целом критически» отнеслись к расширению запретов с целью включения правоохранительных органов.
А затем есть биометрические системы идентификации, используемые для определения расы, политических взглядов, религии или сексуальной ориентации и даже членства в профсоюзе. Они запрещены законом, но есть исключение. Полиция будет иметь право использовать системы и собирать данные изображений любого человека или покупать данные у частных компаний.
Франция снова стала движущей силой. В документе, направленном 24 ноября 2023 года французским правительством в Совет Европейского союза, говорится, что «очень важно сохранить возможность поиска человека… выражающего религиозные убеждения или политические взгляды, например, ношение значка или аксессуара, когда этот человек вовлечен в насильственный экстремизм или представляет террористическую опасность».
Более того, программное обеспечение для распознавания лиц может использоваться в режиме реального времени, если это «строго необходимо» для обеспечения правопорядка. Его может использовать полиция, расследующая 16 определенных преступлений, включая общее упоминание «экологических преступлений». Несколько штатов хотели добавить в список еще десятки. Протоколы заседания Coreper в конце ноября 2023 года показывают, что Франция, а также послы Италии, Кипра, Эстонии, Латвии, Болгарии и Венгрии выступили за расширение сферы действия.
Греция, страна, которая в последние годы лидирует по числу прибывающих в Европу мигрантов, также выступила "за". На той же встрече ее посол «потребовал явного исключения» тюрем и приграничных зон из любого запрета, лоббируя предоставление властям полномочий проводить биометрический анализ в режиме реального времени в общественных местах граждан, беженцев и просителей убежища.
Биометрические системы теперь могут быть развернуты для наблюдения за миллионами лиц и перекрестной проверки по национальным базам данных для идентификации людей. Использование технологии в общественных местах «означает конец анонимности в этих местах», предупредила Европейская сеть цифровых прав еще в 2020 году.
Гражданское общество и НПО уже давно бьют тревогу по поводу вреда, который может быть нанесен этим актом, появившимся после скандала с программой-шпионом Pegasus и разоблачений того, что в различных странах Европы использовались дискриминационные алгоритмы социального обеспечения.
«Прогностическая деятельность полиции — это… важный инструмент эффективной работы правоохранительных органов», — Посол Испании в ЕС.
«В конечном итоге мы живем в климате, где наши правительства требуют все больше и больше ресурсов, законов и технологий для облегчения слежки, контроля и наказания обычных людей», — сказала Сара Чандер из Equinox. «И все дальше от будущего, в котором ресурсы можно было бы тратить на социальное обеспечение и защиту, а не на технологии слежки».
Еще одна вырытая лазейка касается предиктивной полиции — способности алгоритма предсказывать, кто совершит преступление. Испания, которая председательствовала в Совете ЕС, когда переговоры приближались к концу в конце 2023 года, уже использует предиктивные алгоритмы полиции. Это единственная страна ЕС, которая призналась в этом, наряду с Нидерландами.
«Прогностическая полиция — это… важный инструмент для эффективной работы правоохранительных органов», — заявил посол Испании на встрече Coreper в октябре 2023 года. На встрече месяц спустя Ирландия, Чехия и Финляндия поддержали схожие взгляды, выступив против полного запрета продуктов прогностической полиции. Окончательный текст разрешает использование систем при условии человеческого контроля за технологией.
Когда 6 декабря 2023 года начался финальный триалог между Советом, Парламентом и Комиссией, испанское председательство стремилось завершить текст до европейских выборов и ожидаемого подъема крайне правых партий, а также до того, как Венгрия Виктора Орбана займет пост президента шесть месяцев спустя. Переговорщики были заперты в комнате на полтора дня, вспоминает присутствовавший на обсуждениях чиновник, пожелавший остаться неназванным. «Мы были измотаны, и только после ночи переговоров в 6 утра мы начали говорить о запретах», — сказали они. «В конце концов мы добились того, что каждый продукт будет авторизован независимым национальным органом».
Поэтому использование так называемых высокорисковых технологий будет подчиняться таким требованиям, как разрешение суда, регистрация в европейской базе данных и оценка воздействия на соблюдение основных прав.
Но даже это сопровождается оговоркой. Была добавлена статья, позволяющая компаниям заполнять самосертификацию и решать, является ли их продукт «высокорисковым» или нет, что потенциально освобождает их от определенных обязательств. Внутренний рабочий документ юридической службы Европейского парламента, полученный Investigate Europe, поставил под сомнение это решение. «Компаниям предоставлен высокий уровень субъективности, что, по-видимому, противоречит общей цели Закона об ИИ — устранению риска вреда, создаваемого высокорисковыми системами ИИ».
Необходимость сохранения корпоративных интересов на стороне беспокоит государства-члены, в частности Францию, где находится ряд ведущих компаний, включая Mistral AI. На встрече Coreper 15 ноября 2023 года французская делегация предупредила, что если не будет разрешено более широкое использование технологий, «существует риск того, что компании перенесут свой бизнес в регионы, где основные права не играют роли».
На момент публикации правительство Франции, а также правительства Греции, Португалии и Италии не отреагировали на просьбы прокомментировать ситуацию.
Только время покажет, как будет реализован Закон об ИИ. Антон Эккер, голландский юрист по цифровым правам, считает, что исключения не окажут большого влияния на практике. «Я очень критически отношусь к использованию алгоритмов государством. Однако утверждение, что если есть исключения, то что-то разрешено, неверно», — сказал он. «Существует множество национальных, конституционных законов, защищающих основные права».
Однако профессор Розамунде ван Бракель, которая преподает правовые, этические и социальные вопросы ИИ в Свободном университете Брюсселя, говорит, что национальные механизмы подотчетности могут не принести особого утешения тем, кто пострадал от этих технологий. «В большинстве случаев регулирование и надзор… вступают в силу только после того, как произошло нарушение, они не защищают нас до этого», — сказала она. «Более того, приложения ИИ, используемые в государственном секторе, часто затрагивают уязвимые слои населения, которые не имеют полномочий подавать жалобу или верить, что жалоба будет воспринята всерьез».
Распечатать