В прошлом году Европейская комиссия выступила с инициативой по упрощению существующих законов ЕС в отношении искусственного интеллекта (ИИ) и защиты данных, приводя аргументы, что это «повысит конкурентоспособность» и «сократит бюрократические препоны». В ноябре 2025 года Еврокомиссия рассказала о предлагаемых радиальных поправках к основным законам, как то Закон об ИИ и Общий регламент о защите персональных данных («Общий Регламент»).
На карту поставлены правила, которые защищают нас как онлайн, так и офлайн. Корпорации усиленно пытаются представить регулирующие положения в дурном свете, но регулирование защищает наши права от их полного подавления государствами и властями. Регулирование защищает нашу окружающую среду, наши права на работе, наши права в сети и ещё множество различных вещей.
Поддерживаемый влиятельными корпорациями, так называемый «Цифровой омнибус» Еврокомиссии угрожает ослабить законодательство ЕС в области цифровых технологий, которое ранее рассматривалось как глобальный эталон по защите личных данных и регулированию ИИ. В игру вступает ложная дихотомия между законодательством и инновацией, активно продвигаемая высокотехнологичными компаниями (Big Tech), стремящимися к установлению среды без правил, где приоритетом была бы прибыль любой ценой. Подлинная инновация означает поиск путей обеспечения того, чтобы от преимуществ новых технологий выигрывало общество в целом, а не только интересы олигархов Big Tech.
Предложения, продвигаемые под видом «упрощения», представляют собой беспрецедентное свёртывание онлайн-прав на уровне ЕС, которые защищают нас от корпоративной и государственной слежки, дискриминации через системы ИИ и многого другого.
Предложения, продвигаемые под видом «упрощения», представляют собой беспрецедентное свёртывание онлайн-прав на уровне ЕС, которые защищают нас от корпоративной и государственной слежки, дискриминации через системы ИИ и многого другого
Кто выигрывает от дерегулирования/упрощения правил в отношении ИИ, и кто с наибольшей вероятностью столкнётся с наиболее серьёзными последствиями?
Процесс «упрощения» — это процесс дерегулирования, от которого, скорее всего, в выигрыше окажутся те, кто преследует свои бизнес-интересы. На протяжении многих лет компании Big Tech противились попыткам регулирования, изображая правила управления контентом как форму цензуры и, с наступлением бума ИИ, добиваясь получения всё большего доступа ко всем нашим данным, чтобы использовать их в своих основанных на сборе информации бизнес-моделях. Предлагаемые изменения законов ЕС приходятся на то время, когда компании Big Tech наращивают лоббирование в общеевропейских институтах в Брюсселе, где лишь одна Amazon тратит 7 миллионов евро на лоббирование в год.
Давление усиливается в различных областях регулирования, в результате чего сворачиваются меры по защите окружающей среды, ослабевает корпоративный контроль, наблюдается эрозия цифровых прав. Всё это можно рассматривать как скоординированные усилия по ослаблению корпоративной ответственности.
Отмена этих мер защиты подвергает риску всех нас.
Какие изменения предполагает «Цифровой омнибус»?
К настоящему времени Еврокомиссия обнародовала «Цифровой пакет», включающий «Цифровой омнибус» и «Цифровой омнибус по регулированию ИИ». Это затрагивает многие законы, особенно Общий Регламент и Закон об ИИ.
«Общий Регламент»
«Общий Регламент» — это закон ЕС, защищающий персональные данные через регулирование того, каким образом организации собирают, используют и защищают такие данные. Тем не менее, предложенные Еврокомиссией поправки к «Общему Регламенту» включают в себя изменение определения, что именно представляют собой персональные данные. Гражданское общество предупреждает, что это приведёт к ослаблению защиты и потенциально позволит компаниям Big Tech собирать больше персональных данных для обучения и работы систем ИИ. В дополнение к этому предполагается поправить требование, согласно которому компании должны удалять такие данные из систем ИИ, но распространить его лишь на те случаи, когда это не требует «непропорциональных усилий» — термин, который чётко не определён и создаёт возможности для злоупотреблений. Такие специальные оговорки для ИИ, как указывают другие организации, представляющие гражданское общество, могут вести к подрыву основных целей «Общего Регламента» — защите людей от вреда, причиняемого людям массовым сбором и анализом их персональных данных.
Поправки также ведут к ограничению возможностей человека получить доступ к своим собственным данным. Это — основное право, позволяющее людям знать, какие их данные хранятся и каким образом они используются. Предлагаемые изменения также позволяют контролёрам таких данных отказать в запросе, если, по их мнению, такой запрос служит «иным целям, нежели защита собственных данных».
В совокупности такие изменения создают пробелы в базовом законодательстве ЕС в области защиты данных, облегчая сбор и манипулирование нашими данными в целях отдельных компаний и целых государств и затрудняя наш доступ к информации о том, что делается с нашими данными, не говоря о том, чтобы не допускать каких-либо действий.
Закон об искусственном интеллекте
Закон об ИИ, которому ещё предстоит полностью вступить в силу, представляет собой одну из самых амбициозных в мире попыток защитить людей от вреда со стороны систем ИИ. Однако изменения, предлагаемые в рамках «Цифрового омнибуса» по регулированию ИИ, угрожают подорвать эти усилия через ослабление и задержку в реализации предложенных правил, особенно в том, что касается систем высокого риска, несущих наибольший риск здоровью, безопасности и базовым правам граждан ЕС.
Даже согласно текущему Закону об ИИ требования прозрачности слабы. К примеру, поставщик услуг (то есть определённая компания) вправе самостоятельно определять, подпадает ли используемая ею система под определение несущей «высокие риски», и может самостоятельно публиковать такую оценку в базе данных ЕС. Согласно предлагаемым изменениям, даже эта минимальная мера контроля исчезнет. В отношении компаний, работающих с ИИ, будет отсутствовать требование публикации оценки, что даст им полную свободу определять уровень риска, представляемого их системой. Подобное отсутствие прозрачности затруднит возможность оспаривания оценки, сделанной такими компаниями.
Предлагаемые изменения также приведут к задержке полного введения в действие Закона об ИИ. Это вызывает особую озабоченность с учётом «дедушкиной оговорки» в Законе об ИИ, которая означает, что на системы ИИ высокого риска, развёрнутые до указанного срока, не будут распространяться многие требования, призванные снизить риски в области соблюдения прав человека.
Будут ли затронуты другие законы?
Ожидается поступление новых предложений об «упрощении» законодательства, что ещё более размоет наши права в пользу корпоративных интересов, включая план по изменению существующих «рекомендаций по более эффективному регулированию», в котором оправдывается отказ от выработки общих правил для отрасли с участием заинтересованных сторон и на основе транспарентности.
Планируемая «проверка цифровой эффективности» или оценка того, как существующее цифровое законодательство влияет на конкурентоспособность, будет включать «оценку основных правовых инструментов», в том числе Закона о цифровых услугах (Digital Services Act, DSA) и Закона о цифровых рынках (Digital Markets Act, DMA) — процесс, который потенциально может использоваться для дальнейшего оправдания дерегулирования.
Почему эти регулирующие правила столь важны для защиты прав человека?
ИИ и права человека
По мере развёртывания в мире новых систем ИИ, потребность в ужесточении регулирования не может быть более очевидной. Крайне часто такие системы используют массированные объёмы персональных и общедоступных данных, представляющих отражение социальной несправедливости, что ведёт к предвзятым результатам, следствием чего становится дальнейшая дискредитация наиболее уязвимых общественных групп.
Amnesty International документировала, к примеру, как законодательные изменения в Венгрии позволили использовать технологию распознавания лиц, а объектами такой слежки стали участники мирных собраний, например, маршей гордости (прайдов) в Будапеште и Пече. Кроме этого использование систем ИИ для мониторинга перемещений беженцев и мигрантов создаёт серьёзную угрозу правам человека, включая право на попытку получения убежища. Другие формы использования ИИ, как то «антифрод алгоритмы», используемые как часть «цифрового социального государства», непропорционально задели этнические меньшинства, лиц с низким доходом, мигрантов и беженцев в нескольких европейских странах, в том числе в Дании, Франции, Швеции и Нидерландах.
Защита данных и права человека
«Общий Регламент» — один из важнейших законов, защищающий людей от злоупотреблений в отношении их личных данных со стороны компаний Big Tech и государства. Хотя в правоприменении этого закона есть определённые недостатки, потенциал такого закона послужить защитным бастионом от ненасытного аппетита используемой Кремниевой долиной незаконной бизнес-модели наблюдения представляется чрезвычайно важным. Законы о защите персональных данных — одни из самых важных инструментов, препятствующих массовому сбору информации о нас, дискриминационному профилированию, переупаковке и анализу персональных данных для их продажи брокерами данных, а также их использованию компаниями, занимающимися онлайн-рекламой. Пробелы в законодательстве о защите данных также могут вести к обмену и продаже данных властям государств, которые могут использовать такие данные для профилирования, слежки, покушения на наши права, например, на получение социальных льгот, и даже для принятия решений о нашем аресте или задержании.
Пробелы в законодательстве о защите данных также могут вести к обмену и продаже данных властям государств, которые могут использовать такие данные для профилирования, слежки, покушения на наши права, например, на получение социальных льгот, и даже для принятия решений о нашем аресте или задержании
Что последует дальше?
Предложения Еврокомиссии ещё не воплотились в жизнь. В ближайшие месяцы последует обсуждение, по итогом которого будет решено, какую окончательную форму примут такие предложения. Уже существуют обнадёживающие признаки того, что Европейский Союз и Европарламент выступают против некоторых наиболее ущербных положений «Омнибуса» по регулированию ИИ. В результате недавнего голосования Европарламент сохранил требование о регистрации систем высокого риска, хоть и в ослабленной форме.
Права человека и проверка цифровой эффективности
Наряду с «Цифровым пакетом» огромную озабоченность вызывает также предстоящая проверка цифровой эффективности. Полный спектр её неизвестен и остаётся открытым, при этом DSA и DMA уже упоминались в качестве потенциальных объектов «упрощения», и одно это уже даёт серьёзный повод для беспокойства.
DSA открывает возможности установить определённый контроль за опасными проявлениями бизнес-модели Big Tech, которая включает в себя так называемое «алгоритмическое усиление». Исследования Amnesty International выявило связь между платформенными алгоритмами и этническими чистками против мусульман-рохинджа в Мьянме и тяжкими нарушениями прав человека против народа тиграи в Эфиопии. В обоих случаях компания Meta не смогла осуществить модерацию, а на некоторых примерах — активно «усилила» опасный дискриминационный контент на Facebook.
Ослабление законов DSA и DMA сделало бы людей более уязвимыми перед вредом со стороны технологических монополий и последствиями их недобросовестной конкуренции. Исследование Amnesty International показало, что почти неограниченное доминирование крупных технологических компаний в разных цифровых сферах угрожает базовым правам — включая право на приватность, защиту от дискриминации, свободу слова и доступ к информации. Кроме того, такое влияние позволяет этим компаниям давить на власти, чтобы не допустить принятия законов, защищающих права человека.
Хотя и неполные, регулирующие положения в отношении цифровых прав в ЕС являются важной мерой защиты от такого рода ущерба. Вместо их отмены эти положения нужно укреплять и исполнять. Люди в Европе, а также люди где бы то ни было по всему миру, чьи права при этом затрагиваются, должны выступить против предложений Еврокомиссии и открыто заявить о том, что на самом деле стоит за «упрощением», а именно: попрание наших прав для обслуживания интересов Big Tech и ИИ.