قالت منظمة العفو الدولية في تقرير جديد إن استخدام السلطات العامة لأنظمة التنميط على أساس المخاطر في مسائل إنفاذ القانون والضمان الاجتماعي والهجرة بشكل واسع يتعارض مع القانون الدولي لحقوق الإنسان ويجب حظره.
تنطوي عملية التنميط على أساس المخاطر على تقييم احتمالية أن ينتهك شخص أو مجموعة ما القانون أو القواعد. وتستخدمها الحكومات لتحديد المجرمين المحتملين قبل ارتكاب أي جريمة. تتزايد أتمتة هذه التقييمات بناءً على تكنولوجيا الذكاء الاصطناعي، وفي كثير من الحالات، أدت إلى انتهاكات لحقوق الإنسان. هذه هي المرة الأولى التي يجري فيها تقييم عملية التنميط على أساس المخاطر بشكل شامل وفقًا للمعايير الدولية لحقوق الإنسان.
ُظهر هذا التقرير كيف تؤثر أنظمة التنميط على أساس المخاطر على حقوق الناس، ويقدم حججًا علمية وقانونية يمكن أن يستعملها المدافعون عن حقوق الإنسان والموظفون المدنيون وسلطات الرقابة والمحامون والقضاة للطعن في استخدام الدول والكيانات الأخرى لهذه الأنظمة.
ألكسندر لوفر، الباحث المعني بالتكنولوجيا وحقوق الإنسان في فرع منظمة العفو الدولية في هولندا
على سبيل المثال، استخدمت هذه الأنظمة في التحقيقات بشأن الاحتيال في توزيع الإعانات الاجتماعية في الدنمارك، ونظام طلب تصريح الإقامة في فرنسا، و نظام الكشف عن الاحتيال الاجتماعي في هولندا، ونظام استرداد الديون الآلي في أستراليا.
غالبًا ما تُدرج أنظمة التنميط على أساس المخاطر ضمن الطرق التي يمكن للدول من خلالها تبسيط الخدمات، وتحسين الفعالية من حيث التكلفة، ومنع الجرائم، بما في ذلك الاحتيال، والتحكم في الهجرة. ولكن كُشف زيف هذه الادعاءات، التي تستند إلى ذريعة ندرة الموارد، كأساس منطقي للسياسة، لأنها افتراضات غير مدعومة تجريبيًا ومفيدة سياسيًا تحول الفقر والقضايا الاجتماعية الأخرى من مشاكل سياسية إلى مشكلة “كفاءة” يجب حلها من خلال التقنين والمراقبة المؤتمتَيْن.
تترتب أضرار جسيمة عن التعرض للاستهداف عبر عملية التنميط على أساس المخاطر في السياقات عالية المخاطر، مثل مجالات إنفاذ القانون والضمان الاجتماعي والهجرة. ويواجه الناس الضيق النفسي والوصم والاتهامات الكاذبة بارتكاب جرائم، مما قد يدفع بهم إلى التشرد أو الترحيل أو الحرمان الظالم من الإعانات الاجتماعية أو حتى السجن.
التمييز والتأثيرات المتقاطعة
يسلط التقرير الضوء كذلك على التأثيراتالهيكلية والمتقاطعة للاستخدام التمييزي لأنظمة التنميط على أساس المخاطر، على الرغم من أن الحكومات تروج لها على أنها أداة موضوعية. فتنتهك هذه التكنولوجيا الحق في المساواة وعدم التمييز، وتؤدي إلى التمييز على أساس العرق، والإثنية، والنوع الاجتماعي، والوضع الاجتماعي والاقتصادي، والإعاقة.
تعد المجموعات المهمشة الأكثر تضررًا؛ إذ إن الأشخاص المصنفين عرقيًا، والمسلمين، والأشخاص المتنقلين، والأشخاص ذوي الإعاقة أو أصحاب الأمراض المزمنة، والأشخاص ذوي الدخل المنخفض، أكثر عرضة للتصنيف على أنهم “مشبوهون”، وللخضوع للمراقبة المستمرة، ولمواجهة قرارات ضارة في نهاية المطاف.
يزداد الأمر سوءًا بسبب الافتقار إلى الشفافية على نطاق واسع، مما يترك الناس في حالة عجز وغير قادرين على تحدي هذه الأنظمة والقرارات التي تؤثر على حقوقهم. ويشكل هذا أيضًا مخاطر على حقوق الإنسان الأخرى، مثل الحقوق في المحاكمة العادلة، وافتراض البراءة، والخصوصية وحماية البيانات، والضمان الاجتماعي، ومستوى معيشي لائق، والصون الكامل لكرامة الإنسان.
ألكسندر لوفر
لا تقتصر هذه التأثيرات التمييزية على التحيز والحقوق الفردية. ففي حين أن الحد من الجريمة أو الاحتيال يمكن أن يكون سببًا مشروعًا لاستعمال هذه الأنظمة، إلا أنه قد يُساء استخدامها لتوفير غطاء للمراقبة على مستوى المجتمع وقد ينتج عنها أضرار غير متناسبة لحقوق الإنسان.
وأردف ألكسندر لوفر: “يمكن أن تستند طريقة استخدام هذه الأدوات إلى قوالب نمطية وأحكام مسبقة قائمة أصلًا تَعتبر المجموعات المهمشة إجرامية أو خطيرة بطبيعتها. فيُحوَّل الأفراد أو الجماعات من مشتبه بهم مفترضين أو مشتبه بهم بحسب الإحصاءات إلى مشتبه بهم فعليين، مما يرسخ الأحكام المسبقة القائمة أصلًا أو يولد أحكامًا مسبقة جديدة. ويأتي ذلك نتيجةً للتمييز النُظمي القائم”.
الشكوك حول الفعالية
خلصت منظمة العفو الدولية كذلك إلى أن العديد من العمليات الحكومية الرامية لبناء أنظمة التنميط على أساس المخاطر تفتقر إلى الأساليب العلمية الصارمة التي تمنع عادة الحصول على نتائج مضللة أو سوء تفسيرها. وغالبًا ما تصف الحكومات التنميط على أساس المخاطر كطريقة فعالة من حيث التكلفة لمكافحة الجريمة والاحتيال في الضمان الاجتماعي والهجرة غير النظامية؛ ولكن قليلة هي الأدلة العلمية للتحقق من صحة هذه الادعاءات. بدلاً من ذلك، تظهر الأبحاث أن هذه الأدوات مشكوك فيها علميًا وغير دقيقة بشكل متسق.
يشير البحث إلى أن التنبؤ بما إذا كان الفرد سيرتكب جريمة أو احتيالًا في الضمان الاجتماعي هو مشروع محفوف بالمخاطر العلمية. وإن البيانات المطلوبة لأداء المهمة بجودة ودقة كافيتين، غير متوفرة ولن تتوفر أبدًا. على سبيل المثال، من الصعب للغاية قياس السلوكيات المعقدة مثل ارتكاب الجريمة أو الاحتيال في الضمان الاجتماعي والتنبؤ بها والتحقق منها. في هذا السياق، يجب اللجوء إلى أساليب غير موثوقة ومتحيزة للتنبؤ بهذه السلوكيات، مثل استخدام إعادة الاعتقال للتنبؤ بالعودة إلى ارتكاب الجرائم أو الأخطاء غير المقصودة في الضمان الاجتماعي بدلًا من المطالبات الاحتيالية، ما يعرض المجتمعات المصنّفة عرقيًا والمهمشة للخطر.
وبالتالي، فإن الصحة العلمية لنماذج التنميط على أساس المخاطر ضعيفة بشكل أساسي ويمكن أن تضر بشكل جسيم الأشخاص المستهدفين. ويصعب هذا بدوره تبرير استخدام أنظمة التنميط على أساس المخاطر.
غالبًا ما تؤدي محاولات التنبؤ بالاحتيال أو الإجرام إلى تحويل المجتمعات والأفراد المهمشين تلقائيًا إلى مشتبه بهم بدلًا من اتخاذ القرارات بناءً على الأدلة.
ألكسندر لوفر
من المستحيل تصميم خوارزمية موضوعية أو محايدة للتنميط على أساس المخاطر. فالبيانات المتعلقة بالأشخاص ليست موضوعية أبدًا. وعندما تستخدم الحكومات البيانات الاجتماعية السابقة للتنبؤ بمن سيرتكب جريمة مثل الاحتيال، فإنها تستهدف حتمًا الأفراد الذين ينتمون إلى مجموعات مقموعة أو مهمشة تاريخيًا، مما يؤدي إلى إعادة إحياء مظالم الماضي ومفاقمتها. ما من طريقة تكنولوجية لإصلاح القضايا المجتمعية”.
لقد وثقت منظمة العفو الدولية وغيرها دراسات الحالة التي تبين أن أنظمة التنميط على أساس المخاطر تربط بشكل غير متناسب الأشخاص الذين يعانون من شكل واحد أو أكثر من أشكال التمييز أو التهميش بمخاطر جنائية أو مالية أعلى.
يحب حظر أنظمة التنميط على أساس المخاطر
يجب حظر أنظمة التنميط على أساس المخاطر في مسائل الهجرة والاحتيال والضمان الاجتماعي ومكافحة الجريمة. ويتعين حظر أنظمة تقييم المخاطر وأنظمة التنميط التنبؤية، سواء كانت مدفوعة بالبيانات أو قائمة على القواعد، في السياقات عالية المخاطر حتى عندما تؤخذ القرارات النهائية بأيدي بشرية. كما يجب على الدول سن أو تعديل القوانين القائمة لإنفاذ هذا الحظر. وإلى أن توضع مثل هذه القوانين، ينبغي للسلطات الامتناع عن استخدام هذه الأنظمة ووقف تطويرها وإنتاجها وبيعها.