فهم أدوات تقييم المخاطر في العدالة الجنائية

تستخدم الأدوات الخوارزمية على نطاق واسع عبر نظام العدالة الجنائية اليوم. تقوم خوارزميات الشرطة التنبؤية ، بما في ذلك PredPol و HunchLab ، بإبلاغ نشر الشرطة بتقديرات عن الأماكن التي من المرجح أن تحدث فيها الجريمة.واحدPatternizr هي أداة للتعرف على الأنماط في قسم شرطة نيويورك تساعد المحققين على اكتشاف الجرائم ذات الصلة تلقائيًا.اثنينتستخدم أقسام الشرطة أيضًا برامج التعرف على الوجه للتعرف على المشتبه بهم المحتملين من لقطات الفيديو.3استفاد محامو المقاطعات في شيكاغو ونيويورك من النماذج التنبؤية لتركيز جهود المقاضاة على الأفراد المعرضين لمخاطر عالية.4في سان فرانسيسكو ، يستخدم المدعي العام خوارزمية تحجب معلومات العرق من مواد القضية لتقليل التحيز في قرارات الشحن.5 6

أدوات تقييم المخاطر

فئة واحدة من الأدوات الخوارزمية ، تسمى أدوات تقييم المخاطر (RAIs) ، مصممة للتنبؤ بالمخاطر المستقبلية للمدعى عليه لسوء السلوك. تسترشد هذه التنبؤات بالقرارات القضائية ذات المخاطر العالية ، مثل ما إذا كان يجب حبس فرد قبل محاكمته. على سبيل المثال ، يأخذ RAI المسمى تقييم السلامة العامة (PSA) في الاعتبار عمر الفرد وتاريخ سوء السلوك ، جنبًا إلى جنب مع عوامل أخرى ، لإنتاج ثلاث درجات مختلفة للمخاطر: خطر إدانتهم بأي جريمة جديدة ، وخطر ذلك سيتم إدانتهم بارتكاب جريمة عنيفة جديدة ، وخطر عدم مثولهم أمام المحكمة.7يترجم إطار عمل اتخاذ القرار درجات المخاطر هذه إلى توصيات بشروط التحرير ، مع درجات مخاطر أعلى تتوافق مع ظروف إطلاق أكثر صرامة. يمكن للقضاة تجاهل هذه التوصيات إذا بدت شديدة الصرامة أو التراخي. تؤثر RAIs الأخرى على مجموعة واسعة من القرارات القضائية ، بما في ذلك قرارات الحكم ومتطلبات المراقبة والإفراج المشروط.

تتمتع RAIs الخوارزمية بإمكانية تحقيق الاتساق والدقة والشفافية في القرارات القضائية. على سبيل المثال ، Jung et al. محاكاة استخدام RAI بسيط على غرار قائمة التحقق التي تراعي فقط عمر المدعى عليه وعدد مرات الإخفاق السابقة في الظهور.8لاحظ المؤلفون أن القضاة في ولاية قضائية غير معلنة لديهم معدلات إفراج متفاوتة على نطاق واسع (من حوالي 50 ٪ إلى ما يقرب من 90 ٪ من الأفراد المفرج عنهم). وجد المؤلفون أنه إذا استخدم القضاة نموذجهم المقترح على غرار القائمة المرجعية لتحديد الإفراج قبل المحاكمة ، لكانت القرارات أكثر اتساقًا عبر القضايا ، وكانوا سيحتجزون عددًا أقل من المدعى عليهم بنسبة 30 ٪ دون حدوث ارتفاع مماثل في سوء السلوك قبل المحاكمة. وجدت دراسات أخرى أدلة إضافية على أن النماذج الإحصائية تتفوق باستمرار على القرارات البشرية دون مساعدة.9على النقيض من غموض صنع القرار البشري التقليدي ، فإن الطبيعة الشفافة لنموذج نمط القائمة المرجعية ، مثل النموذج الذي اقترحه يونغ وآخرون ، ستسمح أيضًا للمحاكم بأن تصف بشكل علني كيفية حساب المخاطر.10هذه الفوائد - جنبًا إلى جنب مع الاعتقاد العام بأن القرارات المهمة يجب أن ترتكز على البيانات - قد أجبرت العديد من الولايات القضائية في جميع أنحاء البلاد على تنفيذ RAIs.



كومباس راي

بالتوازي مع توسعها في جميع أنحاء البلاد ، أصبحت RAI أيضًا مثيرة للجدل بشكل متزايد. ركز النقاد على أربعة مخاوف رئيسية مع RAIs: افتقارهم إلى الطابع الفردي ، وغياب الشفافية في ظل مزاعم الأسرار التجارية ، واحتمال التحيز ، والأسئلة المتعلقة بتأثيرها الحقيقي.أحد عشرقضية المحكمة العليا في ولاية ويسكونسن لعام 2016 ، لوميس ضد ويسكونسن ، تصارع مع العديد من هذه القضايا. قدم مقدم الالتماس ، إريك لوميس ، عدة حجج ضد استخدام RAI يسمى ملف تعريف إدارة المخالفين الإصلاحيين للعقوبات البديلة (COMPAS) في قرار إصدار الحكم.12

أولاً ، أكد لوميس أن عقوبته لم تكن فردية. وبدلاً من ذلك ، ادعى أنه تم إبلاغه من خلال ميول المجموعة التاريخية لسوء السلوك ، وفقًا لتقييم كومباس. لم توافق المحكمة على ذلك ، بحجة أن قرار القاضي لم يتم تحديده من قبل كومباس وحدها ، متجنبة مخاوف لوميس الفردية. على الرغم من أن المحكمة قامت بهذا التمييز ، إلا أنه من الجدير بالذكر أن كلاً من البشر والخوارزميات يتعلمون من السلوك التاريخي. نتيجة لذلك ، فإن التنبؤ بالمخاطر لفرد معين - سواء من قاضٍ أو من RAI - يرتكز على السلوك التاريخي للأفراد المماثلين.

كم عدد المقاطعات التي صوتت لصالح ترامب

ثانيًا ، جادل لوميس بأن الشركة التي أنشأت كومباس رفضت نشر تفاصيل كافية حول كيفية حساب الخوارزمية لدرجة المخاطر الخاصة به ، مما منعه من التدقيق في دقة جميع المعلومات المقدمة في الحكم الصادر ضده. يمكن للعديد من RAIs شرح كيفية توصلهم إلى قراراتهم بالضبط ، وهي ميزة على اتخاذ القرارات البشرية التقليدية. ومع ذلك ، فإن البائعين التجاريين الذين يبيعون RAI غالبًا ما يخفون هذه التفاصيل وراء مزاعم الأسرار التجارية.13في حين أن المحكمة لم تتفق بشكل صارم مع Loomis - بحجة أنه كان كافياً لمراقبة مدخلات ومخرجات COMPAS - إلا أن هناك أسبابًا مقنعة للشفافية وقابلية التفسير في مثل هذه السياقات عالية المخاطر.

على سبيل المثال ، على الرغم من أن لوميس لم يكن يعرف البنية الكاملة للنموذج ، إلا أنه كان يعلم أنه يدمج الجنس كعامل ، وجادل بأن هذا كان تمييزًا. لم توافق المحكمة على ذلك ، وشددت على أن تضمين الجنس في النموذج ساعد على زيادة دقته. ويتبع ذلك حقيقة أنه ، بالنظر إلى التاريخ الإجرامي المتشابه ، فإن معدلات العودة إلى الإجرام أقل إحصائيًا بالنسبة للنساء مقارنة بالرجال.14في كلتا الحالتين ، سمحت معرفة لوميس باستخدام النموذج للجنس بالطعن في تضمينه ، وهو مثال على كيف يمكن للشفافية في RAI أن تساعد أصحاب المصلحة على فهم أفضل لعملية صنع القرار عالية المخاطر هذه.

التمييز المحتمل ومشاكل اليود المشع

تم فرض تهم أخرى بالتمييز ضد RAIs (وخوارزميات التعلم الآلي بشكل عام) ، مع الإشارة إلى أنها يمكن أن تديم وتزيد من حدة التحيزات الموجودة في نظام العدالة الجنائية.خمسة عشرربما ظهر الادعاء الأكثر شهرة في مقال نشرته ProPublica عام 2016 حول استخدام COMPAS جنبًا إلى جنب مع قرارات الاحتجاز السابق للمحاكمة في مقاطعة بروارد بولاية فلوريدا.16خلصت المقالة إلى أن كومباس كان متحيزًا لأنه كان أداؤه أسوأ في أحد مقاييس الأداء (معدلات إيجابية كاذبة) للأفراد السود مقارنة بالأفراد البيض. ومع ذلك ، فقد لاحظ باحثون آخرون وجود خلل إحصائي كبير في نتائج ProPublica: يمكن تفسيرها رياضيًا بالاختلافات في معدلات الجريمة الأساسية لكل سباق دون الحاجة إلى نموذج متحيز.17عندما يطبق الباحثون مقياسًا تقليديًا للعدالة النموذجية - ما إذا كان الأفراد الذين لديهم نفس المخاطر يعيدون الإساءة بنفس المعدل ، بغض النظر عن العرق - يختفي الدليل على التمييز العنصري.18

ومع ذلك ، فإن نقص الأدلة لا يضمن عدم وجود تمييز ، ويجب أخذ هذه الادعاءات على محمل الجد. يمكن أن يأتي أحد أكثر مصادر التحيز المحتملة إثارة للقلق من النتائج التاريخية التي يتعلم RAI للتنبؤ بها. إذا كانت هذه النتائج نتاج ممارسات غير عادلة ، فمن الممكن أن يتعلم أي نموذج مشتق تكرارها ، بدلاً من التنبؤ بالمخاطر الكامنة الحقيقية لسوء السلوك. على سبيل المثال ، على الرغم من التقديرات التي تشير إلى أن المجموعات العرقية تستهلك الماريجوانا بمعدلات متساوية تقريبًا ، فقد أدين الأمريكيون السود تاريخيًا بتهمة حيازة الماريجوانا بمعدلات أعلى.19النموذج الذي يتعلم التنبؤ بالإدانات بحيازة الماريجوانا من هذه السجلات التاريخية من شأنه أن يصنف الأمريكيين السود بشكل غير عادل على أنهم خطرون أعلى ، على الرغم من أن معدلات الاستخدام الأساسية الحقيقية هي نفسها عبر المجموعات العرقية. قد يؤدي الاختيار الدقيق للنتائج التي تعكس معدلات الجريمة الأساسية الحقيقية إلى تجنب هذه المشكلة. على سبيل المثال ، النموذج الذي يتنبأ بالإدانات بجرائم عنيفة من غير المرجح أن يكون متحيزًا ، لأن الإدانات بجرائم عنيفة تبدو وكأنها تعكس المعدلات الأساسية الحقيقية للإيذاء.عشرين

[أ] نقص الأدلة لا يضمن عدم وجود تمييز ، ويجب أن تؤخذ هذه الادعاءات على محمل الجد.

قد يجادل الكثيرون بأن التركيز البحت على السلوك الخوارزمي محدود للغاية ؛ أن السؤال الأكثر أهمية هو كيف تؤثر RAI على القرارات القضائية في الممارسة ، بما في ذلك أي اختلاف في التأثيرات حسب العرق. لتوضيح هذه النقطة ، من المفيد التفكير في نقيضين محتملين. قد لا نشعر بالقلق حيال عدم دقة RAI إذا تم تجاهله بشكل قاطع من قبل القضاة ولم يؤثر على سلوكهم. من ناحية أخرى ، قد يكون RAI العادل تمامًا مدعاة للقلق إذا تم استخدامه بشكل انتقائي من قبل القضاة لتبرير المعاملة العقابية للمجتمعات الملونة.

على الرغم من أن العديد من الدراسات قد تحاكي تأثير RAIs ، إلا أن البحث حول استخدامها في العالم الحقيقي محدود. تشير دراسة أجريت على المشروب المشبع بالشفاء في فرجينيا بين 2012-2014 إلى أنه يمكن الحد من سوء السلوك السابق للمحاكمة والحبس في نفس الوقت.واحد وعشرينفحصت دراسة أخرى تطبيق PSA في عام 2014 في مقاطعة مكلنبورغ بولاية نورث كارولينا ، ووجدت أن تنفيذها تزامن مع معدلات إطلاق أعلى ، في حين أن معدلات سوء السلوك قبل المحاكمة لم تتغير.22فحصت دراسة ثالثة تنفيذ RAIs عبر ولاية كنتاكي بين عامي 2009 و 2016 ، ووجدت أدلة محدودة على أن الأداة خفضت معدلات الحبس.23وجدت الدراسة أن استخدام القاضي لـ RAI لم يؤثر بشكل غير متساو على النتائج عبر المجموعات العرقية.

التوصيات

يجب على أي شخص ، بما في ذلك الموظفين التنفيذيين والتخطيط والإدارة والتحليل وتطوير البرمجيات ، مع الأخذ في الاعتبار استخدام الخوارزميات في العدالة الجنائية - أو أي سياق مؤثر على نطاق أوسع - الانتباه إلى هذه المخاوف عند تخطيط السياسات التي تستفيد من الخوارزميات ، ولا سيما تلك الموجهة لقرارات العدالة الجنائية.

اقتراح خفض ضريبة أرباح رأس المال

أولاً ، يجب على صانعي السياسات الحفاظ على الرقابة البشرية وحسن التقدير عند تنفيذ خوارزميات التعلم الآلي. في سياق RAIs ، من الممكن دائمًا أن تؤثر العوامل غير العادية على احتمال تعرض الفرد لسوء السلوك. ونتيجة لذلك ، يجب أن يحتفظ القاضي بالقدرة على نقض توصيات RAI ، على الرغم من أن هذا التقدير قد يقلل من الدقة والاتساق. تتمثل إحدى طرق تحقيق التوازن بين هذه الأولويات المتنافسة في طلب شرح مفصل في أي وقت ينحرف فيه القاضي عن توصية RAI. وهذا من شأنه أن يشجع القضاة على التحفيز بوعي لقرارهم وسيثبط الانحرافات التعسفية عن توصيات RAI. بشكل عام ، يجب على البشر دائمًا اتخاذ القرار النهائي ، مع أي انحرافات تتطلب توضيحًا وبعض الجهد من قبل القاضي.

[P] يجب على صانعي السياسة الحفاظ على الإشراف البشري وحسن التقدير عند تنفيذ خوارزميات التعلم الآلي.

ثانيًا ، يجب أن تكون أي خوارزمية مستخدمة في سياق سياسة شديدة الخطورة ، مثل إصدار الأحكام الجنائية ، شفافة. هذا يضمن أن أي طرف مهتم يمكنه أن يفهم بالضبط كيف يتم تحديد المخاطر ، وهي ميزة واضحة على عمليات صنع القرار البشري. بهذه الطريقة ، يمكن أن تساعد الشفافية في بناء الثقة ، وهي إقرار بالدور الذي تلعبه هذه الأدوات في القرارات اللاحقة والمؤثرة.

ثالثًا ، يجب فحص الخوارزميات والبيانات المستخدمة لتوليد تنبؤاتها بعناية بحثًا عن احتمال أن تتضرر أي مجموعة بشكل غير عادل من المخرجات. يجب على القضاة والمدعين العامين وعلماء البيانات إجراء فحص نقدي لكل عنصر من عناصر البيانات المقدمة إلى الخوارزمية - لا سيما النتائج المتوقعة - لفهم ما إذا كانت هذه البيانات متحيزة ضد أي مجتمع. بالإضافة إلى ذلك ، يجب اختبار تنبؤات النموذج للتأكد من أن الأفراد الذين لديهم درجات مخاطر مماثلة يعيدون ارتكاب الجريمة بمعدلات مماثلة. أخيرًا ، يمكن أن يساعد استخدام النماذج القابلة للتفسير في إثبات أن الدرجات الناتجة عن كل نموذج تبدو عادلة وتتوافق إلى حد كبير مع خبرة المجال حول ما يشكل مخاطرة.

رابعًا ، يجب أن يعمل علماء البيانات على بناء خوارزميات مخاطر من الجيل التالي تتنبأ بتخفيضات المخاطر الناجمة عن التدخلات الداعمة. على سبيل المثال ، تستنتج RAI الحالية فقط مخاطر سوء السلوك إذا تم إطلاق سراح الفرد دون دعم. إنهم لا يأخذون في الاعتبار تأثير التدخلات الداعمة - مثل تذكيرات الرسائل النصية بتاريخ المحكمة - على الرغم من أنها قد يكون لها تأثير العبث على مخاطر سوء السلوك التي يتعرض لها الفرد. تخيل أن الفرد الذي تنبأ به المشاع الإبداعي التقليدي لديه احتمالية منخفضة للمثول أمام المحكمة إذا تم إطلاق سراحه دون دعم. مع هذا التصنيف فقط ، من المرجح أن يختار القاضي حبس الفرد لضمان مثوله أمام المحكمة. ومع ذلك ، مع الجيل التالي من RAIs ، قد يرى القاضي أيضًا أن تذكيرات الرسائل النصية تزيد بشكل كبير من احتمالية ظهور الفرد. باستخدام هذه المعلومات الإضافية ، قد يختار القاضي بدلاً من ذلك إطلاق سراح الفرد وتسجيله في التذكيرات. يمكن أن تشجع خوارزميات المخاطر من الجيل التالي التي تقدر تأثير التدخلات الداعمة القضاة وغيرهم من صانعي القرار على تجنب التكاليف الاجتماعية والمالية الكبيرة للإجراءات العقابية لصالح بدائل أكثر إنسانية.

أخيرًا - وربما الأهم - يجب تقييم الخوارزميات عند تنفيذها. من الممكن أن يتفاعل المشاركون في أي نظام معقد بطرق غير متوقعة لسياسة جديدة (على سبيل المثال ، عن طريق استخدام تنبؤات RAI بشكل انتقائي لمعاقبة مجتمعات اللون). بالنظر إلى هذا الخطر ، يجب على صانعي السياسات مراقبة السلوك والنتائج بعناية مع إدخال كل خوارزمية جديدة ويجب أن يواصلوا المراقبة الروتينية بمجرد إنشاء برنامج لفهم الآثار طويلة المدى. ستكون هذه الدراسات في النهاية أساسية في تقييم ما إذا كانت الابتكارات الخوارزمية تولد التأثيرات التي يتطلعون إلى تحقيقها.

تُعد RAIs أداة خوارزمية واحدة فقط يتم وضعها في الاعتبار اليوم. تحديات منفصلة تحيط باستخدام خوارزميات أخرى. وعلى وجه الخصوص ، يجب على وكالات العدالة الجنائية أن تشرح كيف تخطط لحماية الخصوصية الفردية والحرية في استخدامها للتعرف على الوجه ، وقواعد بيانات الحمض النووي العامة ، وغيرها من أشكال المراقبة الجديدة. ولكن إذا تم استخدامها بشكل مناسب وحذر ، يمكن للخوارزميات تحسين القرارات المؤثرة بشكل كبير ، مما يجعلها أكثر اتساقًا وشفافية لأي صاحب مصلحة. كما هو الحال مع أي سياسة أو ممارسة جديدة ، يجب أن تشمل هذه الجهود التقييم والتحسين المستمر لضمان أن يؤدي اعتمادها إلى نتائج فعالة وعادلة بمرور الوقت.

المرشحين للرئاسة حزب الشاي 2016