技术

概述

在数字时代，人权比以往任何时候都更加重要。人权让人们以安全和公正的方式在网上表达自己，分享观点，创造、使用和接触技术。

技术可以被用作行使言论自由、追究政府责任和揭露不法行为的途径。

然而，技术也可能通过在警务、移徙、社会福利和医疗保健途径方面对边缘化群体重构结构性歧视，而对人权构成系统性威胁。

监视工具也以多种方式对世界各地已经边缘化的群体产生不利影响。  

我们的使命是应对数字时代人权面临的新威胁，并帮助塑造和保护未来的权利。

我们对大型科技公司问责，同时应对数字化和自动化的国家，并与这些技术促成的日益增长的政府监控和审查作斗争。

数字化和自动化国家是指政府如何越来越多地利用技术，在福利、移徙和庇护管理系统的情况中做出重要决策。

我们设想的未来是，技术促成人权保护以及一个公平的社会。

在数字时代，人权使人们能以安全、负责和包容的方式公平参与数字环境，并保障言论自由、隐私、平等、反歧视和数据保护。

我们越来越多地在网上生活，我们的权利必须得到保护。

技术如何影响社会

随着技术发展以指数级增长速度持续进行，而且科技公司的权力和全球影响力不断扩大，现在比以往任何时候都更重要的是，批判性地审视这些发展为谁提供最好的服务，而谁受到伤害。  

• 政府正在使用算法来提供公共服务，而缺乏足够的问责措施来确保其公平性。
• 尽管有技术中立的承诺，但人工智能正在加剧世界各地社会的不平等和歧视。
• 有偏见的技术正在被用来“解决”移徙、社会福利、教育渠道和医疗保健等情况中的复杂问题。
• 大型科技公司正在助长错误信息和故意散布的虚假信息的传播，给世界各地的社会带来灾难性后果。
• 在新冠疫情期间，我们目睹了大型科技公司使阴谋论能够通过社交媒体蔓延，进一步危及数百万人的生命。
• 社交媒体算法使仇恨、煽动暴力、网上骚扰和对一些弱势群体的审查得以传播。
• 间谍软件和其他形式的定向监控不仅影响个人的隐私权，而且还导致了寒蝉效应，使人们不敢加入社会运动或为自己的权利大声疾呼。

科技巨头问责 

大型科技公司对我们的生活有着巨大的影响力。我们越来越依赖大型科技公司，这使得少数公司破坏我们的隐私，追踪我们的一举一动，重塑我们的互动，并预测我们的行为，以获得经济利益。

他们以监控为基础的商业模式，对包括儿童权利的人权构成了系统性威胁。我们几乎无法控制公司和政府收集哪些关于我们的信息，他们如何使用这些信息，以及他们与谁分享这些信息。

随着错误信息的祸害日益严重，以及网上的仇恨和种族主义蔓延，大型科技公司必须采取更多措施来尊重人权。 这就是为什么我们组织活动要求采取监管措施，来迫使大型科技公司遵守其人权责任。

算法是一套程序、一组规则或指令，使计算机程序能够将不同的信息源组合在一起并生成结果。算法还用于驱动社交媒体平台，以确定用户可以看到哪些内容。

它们在我们生活的不同领域无处不在。例如，它们被用于管理福利制度、警务和刑事司法制度。

监控与隐私 

在世界各地，我们也看到先进技术被滥用于监视、骚扰和恐吓人权捍卫者，包括青年活动人士，并抑制社会运动。

除了研究有问题的技术本身，我们还必须挑战那些允许或鼓励强大行为体滥用技术的社会、经济和政治条件，及其对特定人群的影响，例如妇女，种族、民族和宗教少数群体，儿童、LGBTQIA+人群以及受贫困和不平等影响的人群。

技术必须为获取信息提供便利，而不是像在美国那样对信息进行审查。在美国，科技公司被指控助长对生殖权利相关内容的网络审查。

获取有关生殖健康和权利（包括药物流产）的关键信息，是每个人的权利。

监控的类型  

• 面部识别是通过图像或视频，使用个人面部特征识别或确认个人身份的一种方式。 
• 生物识别监测是使用人体特征来识别个体。生物识别的常见形式是指纹扫描仪和面部识别。 
• 人工智能监控是利用人工智能和监控技术，来监视、跟踪、分析和识别人物、地点和物体。  

人工智能驱动的监控

政府和企业实体可以出于各种原因部署人工智能驱动的监控，其中一些原因可能对人权产生影响，例如公众监控。

因此，迫切需要为这些技术的使用提供详细的建议和指导。我们的调查还提供了进一步的详细证据，证明有必要禁止使用与人权不符的技术。

我们将继续跟踪、调查新的前沿技术（包括人工智能/机器学习（ML））、生物识别系统（包括面部识别技术）和新兴的“智能城市”或数字城市基础设施的设计和使用，并倡导在这些方面加强保护。

有针对性地监视活动人士 

执法、军事和情报机构是间谍软件和监控公司的主要用户和客户。

他们可能想要找出特定的信息，如某人的行踪、记者的消息来源、组织抗议的细节、某人可能掌握的有关腐败的信息以及犯罪行为的证据。

一些政府辩称，他们使用这些监控工具来瞄准“罪犯和恐怖分子” ，但现实情况是，人权活动人士、记者和政府批评者最常成为“捕食者”（Predator）等间谍软件的目标。非法使用间谍软件侵犯了许多人权，如隐私权，以及言论、见解、集会和结社自由权。

但间谍软件以不同的方式伤害不同的人。数据可能被武器化，导致更多的线上和线下侵害，尤其是对那些已经面临基于身份的歧视的人。 这种侵害可能有多种形式，如敲诈、人肉搜索、网络跟踪、骚扰和恐吓。

间谍软件是一种恶意软件。它会干扰设备的正常操作，在不提醒用户的情况下收集信息，并将其发送另一个未经授权的实体。

高度入侵的间谍软件允许在默认状态下无限制地访问设备。它几乎没有留下任何痕迹，因此对于用户来说，几乎不可能知道哪些数据被获取。

国家自动化和人工智能

如今，人工智能(AI)正在定义一个新的技术时代，就像互联网是过去的决定性时代一样。人工智能正在融入我们日常生活的几乎每一个方面，塑造和干预从制造业和金融服务到医疗保健和经济的各个方面。

各国如何使用自动化和算法系统？

各国政府越来越多地在决策过程中使用算法。例如在医疗保健提供、社会福利、警务和移徙的情况中。

这给人权带来了各种风险和潜在的有害影响，包括平等和不受歧视的权利，以及教育权和健康权等一系列其他经济和社会权利。我们需要采取透明和问责措施，以保护人权，并减轻这项技术可能造成的潜在危害。

什么是算法偏见？

算法偏见发生在算法做出系统性不利于某些人群的决策时。

例如，它可以导致预测某个人实施犯罪或某个地方发生犯罪的可能性。这些人或被确认的地点被置于警方的注视之下，这可能导致对目标人群的歧视。

未来技术趋势

新兴技术将继续改变我们的社会。

政府在公共部门的决策过程中越来越多地采用人工智能工具。这将影响人民的生活和权利。

国际特赦组织专注于确认生成式人工智能等新兴技术的潜在人权影响，然后与政府和公司接触，确保他们以尊重人权的方式开发和部署这些技术。

新技术的开发和部署应有强有力的问责制护栏和政策框架，以保护世界各地的人权。技术必须服务于人类的最佳利益，而不仅仅是技术开发公司的少数富有和强大的所有者的利益。

政府有责任确保企业在投资技术时采取负责任的行动。

国际特赦组织在对政府和科技公司问责方面做什么？

我们认为，现在是技术将人和人权放在首位的时候了。  

为此，我们会进行调查。我们开展运动。我们游说争取改变政策。我们争取正义。我们对有权势的人问责。我们正在制定人权和技术未来的议程，以：  

• 为互联网重新布线，将人和人权放在首位，确保科技巨头受到有效监管以保护人权，而且公司更加透明、更加负责。  

• 抵制技术被用于压制活动人士，防止非法监控、审查和互联网关闭。  

• 重写守则以保护人权，确保不再将歧视和偏见编程到算法中，从而做出改变我们生活的决定。 

我们的变革理论是，我们可以通过以下方式限制政府和企业对技术的滥用：首先利用我们独特的基于行动的研究和沟通能力，来识别和突出显示技术威胁我们权利的新方式，然后利用国际特赦组织运动来推动企业、全球多数世界和全球北方的政府以及关键的多边机构，来制定负责任、有效的监管以遏制这些滥用。