نظرة عامة
أصبحت حقوق الإنسان أكثر أهمية من أي وقت مضى في العصر الرقمي. فهي تتيح للأشخاص التعبير عن أنفسهم عبر الإنترنت، ومشاركة آرائهم، وإنشاء تقنيات واستخدامها والوصول إليها بطريقة آمنة وعادلة.
ويمكن استخدام التكنولوجيا كوسيلة لممارسة حرية التعبير، ومساءلة الحكومات، وكشف الجرائم والإساءات.
لكنها قد تشكل أيضًا تهديدًا ممنهجًا لحقوق الإنسان من خلال إعادة إنتاج التمييز الهيكلي ضد الفئات المهمشة في مجالات حفظ الأمن، والهجرة، والرعاية الاجتماعية، والحصول على الرعاية الصحية.
وتؤثر أدوات المراقبة أيضًا سلبًا على الفئات المهمشة أصلًا بعدة طرق في جميع أنحاء العالم.
مهمتنا هي الاستجابة للتهديدات الناشئة التي تواجه حقوق الإنسان في العصر الرقمي، والمساعدة في بلورة الحقوق وحمايتها من أجل المستقبل.
نحن نعمل على مساءلة شركات التكنولوجيا الكبرى، بينما نواجه الدولة الرقمية والمؤتمتة، ونحارب المراقبة والرقابة اللتان تتيحهما هذه التكنولوجيات وتستخدمهما الحكومات على نحو متزايد.
تشير الدولة الرقمية والمؤتمتة إلى كيفية استخدام الحكومات للتكنولوجيا بشكل متزايد لاتخاذ قرارات جوهرية في إطار أنظمة إدارة الرعاية الاجتماعية والهجرة واللجوء.
إننا نتطلع إلى مستقبل تمكِّن فيه التكنولوجيا من حماية حقوق الإنسان وإقامة مجتمع يتمتع فيه الجميع بالعدل والإنصاف.
ففي العصر الرقمي، تتيح حقوق الإنسان المشاركة العادلة في البيئات الرقمية بطريقة آمنة وخاضعة للمساءلة وشاملة، على نحو يضمن حرية التعبير، والخصوصية، والمساواة، وعدم التمييز، وحماية البيانات. ونظرًا لأننا ندير حياتنا على نحو متزايد عبر الإنترنت، فيجب حماية حقوقنا.
كيف تؤثر التكنولوجيا على المجتمع؟
مع استمرار التطورات التكنولوجية بوتيرة هائلة، وتوسع شركات التكنولوجيا في النفوذ والانتشار العالمي، أصبح من المهم أكثر من أي وقت مضى إجراء فحص دقيق لمَن يحظى بأفضل خدمة ومَن يتعرض للأذى، من خلال هذه التطورات.
- تستخدم الحكومات الخوارزميات لتقديم الخدمات العامة في ظل غياب تدابير المساءلة الكافية للتأكد من تقديمها بشكل عادل.
- بالرغم مما يبشر به الحياد التقني، فإن الذكاء الاصطناعي يفاقم عدم المساواة والتمييز في المجتمعات في جميع أنحاء العالم.
- تُستخدم التكنولوجيات المتحيزة بدعوى “حل” قضايا معقدة في مجالات الهجرة، والرعاية الاجتماعية، والحصول على التعليم، والرعاية الصحية.
- تعمل شركات التكنولوجيا الكبرى على تسهيل انتشار المعلومات الخاطئة والمضللة – مما يترتب على ذلك عواقب وخيمة على المجتمعات في جميع أنحاء العالم.
- خلال جائحة كوفيد-19، شهدنا انتشار نظريات المؤامرة عبر وسائل التواصل الاجتماعي بفضل شركات التكنولوجيا الكبرى، مما زاد من تعريض حياة الملايين من الناس للخطر.
- تعمل خوارزميات وسائل التواصل الاجتماعي على تمكين انتشار الكراهية والتحريض على العنف، والمضايقات عبر الإنترنت، وممارسة الرقابة على بعض الفئات الضعيفة.
لا تؤثر برمجيات التجسس وغيرها من أشكال المراقبة الموجهة على حقوق الأفراد في الخصوصية فحسب، بل تخلق أيضًا تأثيرًا سلبيًا من شأنه أن يخيف الناس من الانضمام إلى الحركات الاجتماعية أو التحدث علنًا عن حقوقهم.
مساءلة شركات التكنولوجيا الكبرى
تتمتع شركات التكنولوجيا الكبرى بسلطة هائلة على حياتنا. فقد سمح اعتمادنا المتزايد عليها لحفنة من الشركات بتقويض خصوصيتنا وتتبع كل تحركاتنا، مما يعيد تشكيل تفاعلاتنا وإنشاء تنبؤات حول سلوكنا لتحقيق مكاسب اقتصادية.
يشكل نموذج أعمالهم القائم على المراقبة تهديدًا ممنهجًا لحقوق الإنسان، بما في ذلك حقوق الأطفال. فنحن لا نمتلك الكثير من التحكم بشأن المعلومات التي تجمعها الشركات والحكومات عنا، وكيفية استخدامها لتلك المعلومات، ومع من تشاركها.
ومع تزايد آفة المعلومات المضللة وانتشار الكراهية والعنصرية عبر الإنترنت، يجب على شركات التكنولوجيا الكبرى بذل المزيد من الجهد لاحترام حقوق الإنسان. ولهذا السبب فإننا ننظم حملات من أجل اتخاذ تدابير تنظيمية تجبر شركات التكنولوجيا الكبرى على الالتزام بمسؤولياتها إزاء حقوق الإنسان.
الخوارزميات هي عملية، أو مجموعة من القواعد، أو التعليمات التي تمكِّن برنامج حاسوب من تجميع مصادر مختلفة للمعلومات والحصول على نتائج. تُستخدم الخوارزميات أيضًا لتشغيل منصات وسائل التواصل الاجتماعي من أجل تحديد المحتوى الذي يشاهده المستخدمون.
إنها موجودة في كل مكان وفي مختلف مجالات حياتنا. على سبيل المثال، تُستخدم الخوارزميات في إدارة أنظمة الرعاية الاجتماعية، وحفظ الأمن، وأنظمة العدالة الجنائية.
دراسة حالة: دور شركة ميتا في التطهير العرقي للروهينغيا
في سبتمبر/أيلول 2022، نشرت منظمة العفو الدولية تحقيقًا كبيرًا حول تضخيم منصة ميتا للكراهية والتمييز ضد الروهينغيا في ميانمار، وأطلقت حملة دولية لمطالبة شركة ميتا بتقديم تعويضات لمجتمع الروهينغيا. إن تقرير منظمة العفو الدولية، الفظائع الاجتماعية، هو تحليل متعمق فريد من نوعه لحقوق الإنسان، ويثبت مساهمة شركة ميتا في الفظائع الخطيرة التي ارتُكبت ضد الروهينغيا في عام 2017.
كشف التقرير كيف صُممت خوارزميات فيسبوك لتحقيق أقصى قدر من “تفاعل المستخدم” بأي ثمن، مما أدى إلى نشر وتضخيم الكراهية ضد الروهينغيا والمعلومات المضللة بشأنهم على نحو غير متناسب عبر منصة فيسبوك، الأمر الذي ساعد على خلق بيئة مواتية للعنف الجماعي المروّع الذي أعقب ذلك. وتُجسد قصة اللاجئ الروهينغي، ماونغ سويدالله، آثار مساهمة شركة ميتا في نشر الكراهية والتمييز. كما نراقب أيضًا الطرق التي تستخدم بها الحكومات منصات التكنولوجيا الكبرى مثل فيسبوك لممارسة الرقابة على المدافعين عن حقوق الإنسان وإسكاتهم، كما أظهرنا في تقريرنا لعام 2020 عن فيتنام.
دراسة حالة: تيك توك والصحة النفسية للأطفال
لقد وثّقت منظمة العفو الدولية الأضرار الممنهجة لنموذج أعمال تيك توك القائم على المراقبة، حيث سلطت الضوء على إساءة استخدام المنصة للحق في الخصوصية، وتصميمها الذي يسبب الإدمان، والدور الذي تلعبه في مفاقمة مشكلات الصحة النفسية لدى الأطفال والشباب.
إنَّ التقريريْن – المعنونيْن بـ “يُدفعون إلى هاوية الظلام: كيف يشجع تيك توك على إيذاء النفس والتفكير الانتحاري“، و“أشعر أنني مراقَب: عالق في شبكة الرقابة العنكبوتية على تيك توك” – إنما يلقيان الضوء على الانتهاكات التي يتعرض لها الأطفال والشباب الذين يستخدمون تيك توك، ويشيران إلى كيفية تسبُّب نظام التوصيات الخاص بهذا التطبيق ونموذج الأعمال الذي يستند إليه بهذه الانتهاكات.
المراقبة والخصوصية
وفي جميع أنحاء العالم، نشهد أيضًا إساءة استخدام التكنولوجيات المتقدمة للتجسس على المدافعين عن حقوق الإنسان ومضايقتهم وترهيبهم، بما في ذلك النشطاء الشباب، وإخماد الحركات الاجتماعية.
وبعيدًا عن دراسة التكنولوجيات الإشكالية نفسها، يجب علينا أن نتحدى الظروف الاجتماعية والاقتصادية والسياسية التي تسمح أو تشجع على إساءة استخدام التكنولوجيا من قبل جهات فاعلة قوية، وتأثيرها على فئات سكانية محددة، مثل النساء، والأقليات العرقية والإثنية والدينية، والأطفال، ومجتمع الميم، والمتضررين من الفقر وعدم المساواة.
يجب أن تسهل التكنولوجيا الوصول إلى المعلومات وليس ممارسة رقابة عليها كما شهدنا في الولايات المتحدة، حيث اتُهمت شركات التكنولوجيا بتسهيل ممارسة الرقابة عبر الإنترنت على محتوى الحقوق الإنجابية.
إن الوصول إلى المعلومات الهامة حول الصحة والحقوق الإنجابية، بما في ذلك الإجهاض الدوائي، هو حق للجميع.
أنواع المراقبة
- التعرف على الوجه: هو وسيلة لتحديد هوية الفرد أو تأكيدها باستخدام ملامح الوجه عبر الصورة أو الفيديو.
- المراقبة البيومترية: هي استخدام الخصائص البشرية لتحديد هوية الأفراد، ومن أشكالها الشائعة ماسحات بصمات الأصابع والتعرف على الوجه.
- المراقبة المدعومة بالذكاء الاصطناعي: هي استخدام الذكاء الاصطناعي وتكنولوجيا المراقبة لرصد وتتبع وتحليل وتحديد هوية الأشخاص والأماكن والأشياء.
المراقبة المدعومة بالذكاء الاصطناعي
يمكن للحكومات والكيانات التجارية استخدام المراقبة المدعومة بالذكاء الاصطناعي لأسباب مختلفة قد يكون لبعضها آثار على حقوق الإنسان مثل الرقابة العامة.
ولذلك هناك حاجة ملحة لتقديم توصيات وإرشادات مفصلة لاستخدام هذه التكنولوجيات. تقدم تحقيقاتنا أيضًا المزيد من الأدلة التفصيلية لدعم الحاجة إلى حظر استخدام التكنولوجيات عندما تتعارض مع حقوق الإنسان.
وسنواصل التتبع والتحقيق والدعوة إلى توفير حماية أقوى في تصميم واستخدام التكنولوجيات الجديدة والرائدة بما في ذلك الذكاء الاصطناعي/التعلم الآلي، وأنظمة القياسات البيومترية بما في ذلك تكنولوجيا التعرف على الوجه و”المدن الذكية” الناشئة أو البنى التحتية الحضرية الرقمية.
دراسة حالة: احظروا تكنولوجيا التعرف على الوجه
في يناير/كانون الثاني 2021، أطلق برنامج التكنولوجيا في منظمة العفو الدولية حملة “احظروا تكنولوجيا التعرف على الوجه” التي تسعى إلى حظر تكنولوجيات التعرف على الوجه لأغراض تحديد الهوية.
وكجزء من الحملة، نشرنا دراسات حالة حول تأثير استخدام تقنيات التعرف على الوجه في مدينة نيويورك، وتأثيرها غير المتناسب على الأشخاص من ذوي البشرة الملونة، وتهديدها للحق في الاحتجاج السلمي. كما أطلقنا أيضًا مشروع فك شفرة مراقبة مدينة نيويورك، الذي استخدم آلاف المتطوعين الرقميين من جميع أنحاء العالم لتحديد أماكن أنظمة المراقبة بالفيديو والكاميرات العامة الأخرى التي يمكن استخدامها مع برامج التعرف على الوجه في جميع أنحاء مدينة نيويورك.
توسعت حملة “احظروا تكنولوجيا التعرف على الوجه” لاحقًا لتشمل إساءة استخدام الشرطة لتقنيات التعرف على الوجه في حيدر آباد بالهند، وكذلك في القدس الشرقية والخليل في الأراضي الفلسطينية المحتلة مع نشر تقرير الأبارتهايد الرقمي لمنظمة العفو الدولية.
المراقبة الموجّهة ضد النشطاء
تأتي أجهزة إنفاذ القانون والأجهزة العسكرية والمخابراتية على رأس قائمة مستخدمي شركات برمجيات التجسس والمراقبة وعملائها.
ولعلها تسعى للعثور على معلومات محددة مثل: مكان وجود شخص ما، ومصادر صحفي ما، وتفاصيل احتجاجات يتم تنظيمها، ومعلومات قد يمتلكها شخص ما عن الفساد، وأدلة على سلوك إجرامي.
تقول الحكومات إنها تستخدم أدوات المراقبة هذه لاستهداف “المجرمين والإرهابيين”، ولكن الحقيقة هي أن نشطاء حقوق الإنسان والصحفيين ومنتقدي الحكومة هم الأكثر استهدافًا ببرمجيات التجسس مثل برنامج بريداتور. إن الاستخدام غير القانوني لبرمجيات التجسس ينتهك العديد من حقوق الإنسان، مثل الحقوق في الخصوصية، وحرية التعبير، وحرية الرأي، وحرية التجمع، وتكوين الجمعيات أو الانضمام إليها.
لكن برمجيات التجسس تؤذي أشخاصًا مختلفين بطرق مختلفة. فيمكن أن تُستخدم البيانات كسلاح وأن تؤدي إلى مزيد من الأذى عبر الإنترنت وخارجه – وخاصةً بالنسبة للأشخاص الذين يواجهون أصلًا التمييز على أساس هويتهم. ويمكن لهذا الأذى أن يتخذ أشكالًا عديدة، مثل الابتزاز، وجمع المعلومات الشخصية على الإنترنت ونشرها، والمطاردة السيبرانية، والمضايقة والتحرش، والترهيب.
برمجيات التجسس هي نوع من برامج الحاسوب الخبيثة، تتدخل في التشغيل العادي للجهاز لجمع معلومات من دون تحذير المستخدم، وتُرسلها إلى طرف آخر غير مخوّل بالحصول عليها.
وتتيح برمجيات التجسس المنتهكة للخصوصية انتهاكًا صارخًا الدخول غير المقيد إلى الجهاز بشكل تلقائي. ولا تترك أثرًا يُذكر، بحيث يكون من شبه المستحيل على المستخدم معرفة طبيعة البيانات التي سُرقت.
دراسة حالة: برمجية بيغاسوس لمجموعة إن إس أو”
يكشف التحقيق أنها برمجية تُثبّت خلسة في هواتف الضحايا، مما يسمح للمهاجم بالاطلاع الكامل على كل ما يحمله الجهاز من رسائل نصية، ورسائل بريد إلكتروني، ورسائل وسائط متعددة، والميكروفون، والكاميرا، والاتصالات، وبيانات جهات الاتصال.
وأثبت التحقيق أن عملاءً سعوديين استخدموا برمجية بيغاسوس، رغم إنكارهم ذلك، لاستهداف أفراد عائلة القتيل الصحفي السعودي جمال خاشقجي، وهو أحد ضحايا برمجية بيغاسوس الكثيرين، قبل مقتله وبعده في إسطنبول في 2 أكتوبر/تشرين الأول 2018.
أتمتة الدولة والذكاء الاصطناعي
يحدد الذكاء الاصطناعي (AI) اليوم معالم حقبة جديدة من التكنولوجيا مثلما كان الإنترنت هو المحدد لمعالم الحقبة الماضية. فقد أصبح مدمجًا في كل جانب من جوانب حياتنا اليومية تقريبًا، حيث يشّكل ويدخل في كل شيء بدءًا من التصنيع والخدمات المالية وحتى الرعاية الصحية والاقتصاد.
كيف تستخدم الدول أنظمة الأتمتة والخوارزميات؟
تستخدم الحكومات الخوارزميات على نحو متزايد في عمليات صنع القرار. على سبيل المثال، في سياقات تقديم الرعاية الصحية والرعاية الاجتماعية وحفظ الأمن والهجرة.
ويشكل ذلك مجموعة متنوعة من المخاطر والآثار الضارة المحتملة على حقوق الإنسان، بما في ذلك الحق في المساواة وعدم التمييز، فضلاً عن مجموعة من الحقوق الاقتصادية والاجتماعية الأخرى مثل الحقيْن في التعليم والصحة. إن تدابير الشفافية والمساءلة ضرورية لحماية حقوق الإنسان والتخفيف من الأضرار المحتملة التي قد تسببها هذه التكنولوجيا.
ما هو التحيز الخوارزمي؟
يحدث التحيز الخوارزمي عندما تتخذ الخوارزميات قرارات تُلحق الضرر على نحو ممنهج بفئات معينة من الأشخاص.
فيمكن أن يؤدي على سبيل المثال إلى التنبؤ باحتمالية ارتكاب جريمة ما من قبل شخص معين أو في مكان معين، ويُوضع هؤلاء الأشخاص أو الأماكن المحددة تحت أنظار الشرطة مما قد يؤدي إلى التمييز ضد الأشخاص المستهدفين.
دراسة حالة: الفقر والتمييز في نظام الرعاية الاجتماعية في صربيا
يوثق التقرير المعنون “في براثن الأتمتة: الفقر والتمييز في نظام الرعاية الاجتماعية في صربيا” كيف تُدفع المجتمعات المحلية المهمشة والفقير في صربيا إلى مزيد من الفقر، لأن نظام تقديم الرعاية الاجتماعية المؤتمت، الذي يموله البنك الدولي، يحرمها من الحصول على المساعدة الاجتماعية.
ويجدر الإشارة إلى أن مجتمعات الروما والأشخاص ذوي الإعاقة هم الأكثر تأثرًا بهذا النظام.
اتجاهات التكنولوجيا المستقبلية
ستستمر التكنولوجيات الناشئة في تغيير مجتمعاتنا.
فالحكومات تتبنى على نحو متزايد استخدام أدوات الذكاء الاصطناعي في عمليات صنع القرار في القطاع العام، مما سيؤثر على حياة الناس وحقوقهم.
تركز منظمة العفو الدولية على تحديد الآثار المحتملة للتكنولوجيات الناشئة على حقوق الإنسان، مثل الذكاء الاصطناعي التوليدي، ومن ثم العمل مع كل من الحكومات والشركات لضمان تطوير هذه التكنولوجيات واستخدامها على نحو يحترم الحقوق.
ينبغي تطوير التكنولوجيات الجديدة ونشرها مقترنة بحواجز مساءلة قوية وأطر سياساتية لحماية حقوق الإنسان في كل مكان في العالم. ويجب أن تخدم التكنولوجيا المصالح العليا للإنسانية، وليس فقط مصالح قلة من الأثرياء والأقوياء ممَن يمتلكون شركات تطور هذه التكنولوجيات.
وتقع على عاتق الحكومات مسؤولية ضمان أن تتصرف الشركات بمسؤولية عند الاستثمار في التكنولوجيا.
ماذا تفعل منظمة العفو الدولية لمحاسبة الحكومات وشركات التكنولوجيا؟
نعتقد أن الوقت قد حان لأن تضع التكنولوجيا الأشخاص وحقوق الإنسان في المقام الأول.
ولتحقيق ذلك، فإننا نجري تحقيقات، وننظم حملات، ونمارس الضغط لإحداث تغييرات في السياسات، ونناضل من أجل تحقيق العدالة، ونحاسب الأقوياء. وتشمل أولوياتنا لمستقبل حقوق الإنسان والتكنولوجيا:
- إعادة برمجة الإنترنت ليضع الأشخاص وحقوق الإنسان في المقام الأول، بما يضمن اتباع شركات التكنولوجيا الكبرى لوائح تنظيمية فعالة تكفل حماية حقوق الإنسان، وتحلي الشركات بمزيد من الشفافية والمساءلة.
- مقاومة استخدام التكنولوجيا لإسكات النشطاء، ومنع المراقبة غير القانونية والرقابة وقطع الإنترنت.
- إعادة صياغة القوانين لحماية حقوق الإنسان، بما يضمن عدم برمجة التمييز والتحيز في الخوارزميات التي تتخذ قرارات بشأننا تغير حياتنا.
تتمثل نظريتنا للتغيير في الحد من إساءة استخدام التكنولوجيا من قبل الحكومة والشركات، من خلال الاستفادة أولاً من قدراتنا الفريدة في مجال البحث والاتصالات القائمة على المبادرة بالعمل، لتحديد وتسليط الضوء على طرق جديدة تهدد بها التكنولوجيا حقوقنا، ومن ثم تسخير حركة منظمة العفو الدولية لدفع الشركات والحكومات في الدول النامية والشمال العالمي، فضلاً عن المؤسسات الرئيسية المتعددة الأطراف، إلى وضع لوائح تنظيمية مسؤولة وفعالة للحد من هذه الانتهاكات.
طالبوا تيك توك بوقف الإعلانات التي تستهدف الأطفال والشباب
اجعلوا تيك توك أكثر أمانًا
انضموا إلى حملتنا FixTikTok# للمساعدة في إصلاح تيك توك وطالبوها بجعل منصتها أكثر أمانًا للأطفال والشباب