ТЕХНОЛОГИИ И ПРАВА ЧЕЛОВЕКА

Обзор

В эпоху цифровых технологий права человека как никогда играют первостепенную роль. Они позволяют людям проявлять самовыражение в онлайн-мире, поделиться мнением, создавать, использовать и получать доступ к технологиям на безопасной и справедливой основе.

Технология может использоваться как средство для реализации права на свободу выражения мнений, привлечения властей к ответственности и разоблачения нарушений.

Тем не менее, технология может представлять собой системную угрозу соблюдению прав человека через отражение структурной дискриминации против маргинализированных групп в области надзора и охраны порядка, миграции, социального обеспечения и доступа к медицинскому обслуживанию.

Инструменты слежения также во многих отношениях негативно влияют на уже маргинализированные группы во всём мире.

Наша миссия состоит в том, чтобы реагировать на возникающие угрозы в области защиты прав человека в век цифровых технологий, а также содействовать приданию формы и защите прав из расчёта на будущее.

Мы призываем к ответу компании Big Tech, открыто говоря о цифровом и автоматизированном государстве и выступая против усиливающегося наблюдения со стороны властей и цензуры, осуществляемых с помощью таких технологий.

Цифровое и автоматизированное государство означает всё более широкое использование властями технологий для принятия важных решений в контексте социального обеспечения, миграции и систем предоставления убежища.

Мы несём видение будущего, где технология способствовала бы защите прав человека и построению справедливого общества.

В век цифровых технологий права человека позволяют обеспечить справедливое взаимодействие с цифровой средой, на основе безопасности, подотчётности и инклюзивности, при гарантиях соблюдения свободы выражения мнений, приватности, равенства, анти-дискриминации и защиты данных.

Мы проводим всё большую часть жизни в онлайн-мире, и наши права должны быть защищены.

Как технологии влияют на общество

По мере того как развитие технологий продолжается экспоненциальными темпами, а технологические компании расширяют свою мощь и глобальное присутствие, сейчас как никогда важно критически оценить, кто выигрывает и кто страдает на этом фоне.

• Государства используют алгоритмы для оказания государственных услуг при отсутствии мер адекватной подотчётности, которые позволяли бы убедиться в том, что это делается надлежащим образом.
• Несмотря на обещание технического нейтралитета, искусственный интеллект усиливает неравенство и дискриминацию в странах по всему миру.
• Технологии с заложенной предвзятостью применяются, как утверждается, для «решения» комплексных вопросов в контексте миграции, социального обеспечения, доступа к образованию и системе здравоохранения.
• Корпорации Big Tech содействуют распространению недостоверной информации и дезинформации – с катастрофическими последствиями для стран мира.
• В ходе пандемии COVID-19 мы наблюдали распространение, при поддержке Big Tech, конспирологических теорий в социальных сетях, что подвергало дальнейшему риску жизни миллионов людей.
• Алгоритмы социальных сетей служат распространению ненависти, призывов к насилию, онлайн-харассмента и цензурирования некоторых наиболее уязвимых групп.
• Шпионское ПО и иные формы целевого слежения не только затрагивают права людей на приватность, но также сеют страх, способный помешать людям присоединиться к общественным движениям или выступать в защиту своих прав.

Подотчётность Big Tech

Крупные технологические компании (Big Tech) имеют огромную власть над нашей жизнью. Наша растущая зависимость от Big Tech позволила горстке компаний нарушить нашу приватность и отслеживать каждое наше движение, изменяя формат нашего общения и создавая модели прогнозирования нашего поведения для экономической выгоды таких компаний.

Их бизнес-модель, основанная на принципах отслеживания, представляет системную угрозу соблюдению прав человека, включая права детей. Мы практически не можем контролировать, какую информацию корпорации и власти собирают о нас, как они её используют и с кем они обмениваются ею.

На фоне растущей эпидемии дезинформации, распространения ненависти и расизма онлайн, крупные технологические компании должны делать больше для защиты прав человека. Поэтому мы призываем к регламентирующим мерам, чтобы заставить большие технологические фирмы придерживаться ответственности в области защиты прав человека.

Алгоритмы — это процесс, набор правил или инструкций, позволяющий компьютерной программе собрать воедино различные источники информации и генерировать результаты. Алгоритмы также используются для организации работы платформ социальных сетей, определяя, какой контент получат пользователи.

Они присутствуют везде, в различных областях нашей жизни. К примеру, они используются для управления системами социального обеспечения, в полицейской работе и системе уголовного судопроизводства.

Слежка и приватность

По всему миру мы наблюдаем, как современные технологии используются для того, чтобы шпионить, подвергать харассменту и запугиванию правозащитников, в том числе молодых активистов, а также для подавления общественных движений.

Помимо непосредственного изучения проблематичных технологий, мы должны поднять вопрос о социальных, экономических и политических условиях, которые позволяют или способствуют злоупотреблению технологиями со стороны могущественных игроков, и последствиях для определенных групп населения, как то женщины, расовые, этнические и религиозные меньшинства, дети, представители ЛГБТИ, а также бедствующие и страдающие от неравенства.

Технологии должны содействовать доступу к информации, а не подвергать её цензуре, как мы наблюдали это в Соединённых Штатах, где в адрес технологических компаний появились обвинения в том, что они содействуют цензурированию в Интернете материалов в поддержку репродуктивных прав.

Доступ к критически важной информации в отношении репродуктивного здоровья и прав, включая медицинские аборты — это право каждого.

Виды слежки

• Распознавание лиц — это способ определения или подтверждения личности какого-либо человека через сопоставление черт лица на снимке или видео.
• Биометрическая слежка — это способ идентификации людей через использование характеристик человека. Общие формы биометрии — это сканирование отпечатков пальцев и идентификация по чертам лица.
• Наблюдение с использованием ИИ — это использование искусственного интеллекта и технологий слежения для мониторинга, отслеживания, анализа и распознавания людей, а также определения мест и предметов.

Слежка с использованием ИИ

Слежка с использованием ИИ может применяться властями или корпоративными структурами в различных целях, некоторые из которых могут иметь последствия в области защиты прав человека, как то мониторинг населения.

Соответственно, существует настоятельная необходимость по выработке детальных рекомендаций и руководства по использованию таких технологий. Наши расследования также предоставляют дальнейшие детализированные подтверждения необходимости запрета использования технологий, если их применение не согласуется с защитой прав человека.

Мы будем продолжать отслеживать, расследовать и выступать за усиление защиты в отношении дизайна и использования новых и передовых технологий, включая искусственный интеллект/машинное обучение, биометрические системы, в том числе технологии распознавания лица, и появляющиеся «умные города» или цифровую урбанистическую инфраструктуру.

Целевая слежка за активистами

Крупнейшими пользователями и клиентами компаний, производящих шпионское программное обеспечение и средства наблюдения, являются правоохранительные органы, военные и разведывательные структуры.

Возможно, им нужно получить конкретную информацию о чьём-либо местонахождении, об источниках журналиста, деталях организуемого протеста, чьи-либо сведения о коррупции или доказательства криминальных действий.

Власти утверждают, что они используют эти средства наблюдения для работы в отношении «преступников и террористов», однако реальность такова, что активисты-правозащитники, журналисты и критики властей становятся наиболее частными объектами применения шпионского ПО, как то Predator. Незаконное использование шпионского программного обеспечения нарушает многие из прав человека, как то право на защиту частной жизни, а также права на свободу слова, свободу выражения мнений, свободу собраний и ассоциаций.

Однако различным людям шпионское ПО наносит вред различными путями. Данные могут использоваться как оружие и вести к ещё большим злоупотреблениям, как в онлайн, так и в реальном мире – особенно если люди уже сталкиваются с дискриминацией в связи с их идентичностью. Такие злоупотребления могут принимать различные формы, как то вымогательство, доксинг, кибер-преследование, харассмент и запугивание.

Шпионское ПО представляет собой разновидность вредоносного программного обеспечения. Оно вмешивается в обычные операции устройства, для сбора информации без ведома пользователя, и затем отправляет такую информацию иному несанкционированному лицу.

Крайне инвазивное шпионское ПО позволяет по умолчанию получить неограниченный доступ к устройству. Работа такого ПО практически не оставляет следов, и для пользователя оказывается почти невозможно узнать, какие именно данные были собраны.

Автоматизированное государство и искусственный интеллект

Сегодня искусственный интеллект (ИИ) знаменует собой новую эру в области технологий, подобно тому, как Интернет ознаменовал собой свою новую эру в прошлом. ИИ внедряется практически в каждый аспект нашей повседневной жизни, придавая форму и оказывая влияние на всё: от производства и финансовых услуг до здравоохранения и экономики.

Как государства используют автоматизацию и алгоритмические системы?

В процессе принятия решений правительства всё больше используют алгоритмы. К примеру, в контексте оказания медицинских услуг, социального обеспечения, правоохранительной деятельности и миграции.

Это создаёт различные риски и, потенциально, негативные последствия для соблюдения прав человека, включая право на равенство и отсутствие дискриминации, а также целый ряд других прав в экономической и социальной сферах, как то право на получение образования и право на охрану здоровья. Для защиты прав человека и смягчения потенциального ущерба, который может быть причинён такой технологией, нужны меры по обеспечению прозрачности и подотчётности.

Что такое алгоритмическая предвзятость?

Алгоритмическая предвзятость имеет место там, где алгоритмы принимают решения, систематически нарушающие интересы определённых групп людей.

К примеру, она может привести к прогнозированию вероятности совершения преступления определённым лицом или же в определённом месте. Такие лица или же установленные места оказываются под пристальным взором полиции, что может вести к дискриминации тех, на кого нацелено наблюдение.

Тренды технологий будущего

Новейшие технологии будут и далее продолжать трансформировать наше общество.

Государства во всё большей степени переходят к использованию инструментов искусственного интеллекта в процессе принятия решений в госсекторе. Это коснётся жизни и прав людей.

В Amnesty International мы фокусируем внимание на то, что именно новейшие технологии, например генеративный ИИ, могут означать для соблюдения прав человека, и затем пытаемся привлечь как власти, так и компании, с целью обеспечить, что подобные технологии будут разрабатываться и применяться при уважении к правам человека.

Новые технологии должны разрабатываться и применяться в соответствии со строгими критериями подотчётности и политическими рамками, направленными на защиту прав человека во всём мире. Технология должна служить подлинным интересам человечества, а не только интересам горстки богатых и могущественных владельцев компаний, разрабатывающих такие технологии.

Долг властей — обеспечить ответственность бизнеса при осуществлении технологических инвестиций.

Что делает Amnesty International для обеспечения подотчётности правительств и технологических компаний?

Мы полагаем, что настало время, когда технология должна ставить на первый план людей и права человека.

Для этого мы проводим расследования. Мы проводим кампании. Мы лоббируем изменения политического подхода. Мы боремся за справедливость. Мы требуем подотчётности от имеющих власть. Мы определяем программу работы, ориентируясь на будущее прав человека и технологий, чтобы:

• Реформировать Интернет и поставить на первый план людей и права человека; обеспечить эффективное регулирование компаний Big Tech для защиты прав человека, а также большую прозрачность и подотчётность со стороны компаний.
• Предотвратить использование технологий в попытке заставить замолчать активистов; не допускать незаконную слежку, цензурирование и отключение Интернета.
• Переписать код с установкой на защиту прав человека, обеспечить, чтобы дискриминация и предвзятость более не закладывались в алгоритмы, способные принимать решения, фундаментально меняющие нашу жизнь.

Наше видение преобразований сводится к тому, что мы способны ограничить злоупотребление технологией, как на государственном, так и на корпоративном уровне, через использование наших уникальных, основанных на конкретных действиях возможностей проведения исследований и способов донесения информации, чтобы определить и выявить те новые пути, посредством которых технология угрожала бы нашим правам, и затем использовать возможности движения Amnesty International, чтобы заставить корпорации, правительства в Мире Глобального Большинства и Глобального Севера, а также ключевые институты с участием многих сторон разрабатывать ответственные, эффективные регулирующие положения, устраняющие угрозу таких нарушений.