الخوارزميات وإصدار الأحكام: ما الذي تتطلبه الإجراءات القانونية الواجبة؟

هناك فوائد محتملة كبيرة لاستخدام تقييمات المخاطر المستندة إلى البيانات في إصدار الأحكام الجنائية. على سبيل المثال ، تم اعتماد تقييمات المخاطر بحق كآلية لتمكين المحاكم من تقليل أو إلغاء أحكام السجن للمخالفين الذين من غير المرجح أن يرتكبوا الجرائم مرة أخرى. سنت دول عديدة مؤخرًا قوانين تتطلب استخدام أدوات تقييم المخاطر. وفي عام 2017 ، تم إصدار معهد القانون الأمريكي ، وهي منظمة تحظى باحترام كبير عملت لعدة عقود لتوضيح القانون وتحديثه وتحسينه ، وافق مشروع نهائي مقترح لقانون العقوبات النموذجي: الأحكام. تعترف الوثيقة على وجه التحديد بقيمة الأحكام المستندة إلى الأدلة مع مدخلات من الأدوات الاكتوارية التي تقدر المخاطر النسبية التي يشكلها الجناة الأفراد على السلامة العامة من خلال سلوكهم الإجرامي في المستقبل.

ما هي الدولة الأكثر عنصرية

ومع ذلك ، إلى جانب الفوائد ، فإن الاستخدام المتزايد لأدوات تقييم المخاطر القائمة على الخوارزميات يثير مخاوف مهمة بشأن الإجراءات القانونية الواجبة. الإجراءات القانونية الواجبة هي حق دستوري أساسي يتم توفيره من خلال التعديلين الخامس والرابع عشر ، وكلاهما يحمي الناس من الحرمان من الحياة أو الحرية أو الممتلكات ، دون اتباع الإجراءات القانونية الواجبة. إحدى الفئات الفرعية الرئيسية للإجراءات القانونية الواجبة هي الإجراءات الإجرائية الواجبة ، والتي تهدف إلى ضمان الإنصاف في الإجراءات القانونية التي تعرض الحياة أو الحرية أو الممتلكات للخطر.

عند استخدام أدوات تقييم المخاطر المستندة إلى الخوارزمية في الإجراءات الجنائية ، يمكن أن تنشأ مشكلات الإجراءات القانونية الواجبة فيما يتعلق بحقوق الجناة في الطعن في دقة وأهمية المعلومات المستخدمة في إصدار الأحكام. نسلط الضوء على اثنين من تلك التحديات. يتعلق الأول بحق الجاني في الحصول على المعلومات المتعلقة بالخوارزمية المستخدمة لحساب درجات المخاطر ، والثاني يتعلق بحق الجاني في معرفة هذه النتائج.



مخاوف بشأن تقييمات مخاطر الملكية

في مايو 2013 ، أقر إريك لوميس بالذنب في محكمة الدائرة لمقاطعة لاكروس بولاية ويسكونسن في تهم محاولة الفرار من ضابط مرور وتشغيل سيارة بدون موافقة المالك. قبل جلسة النطق بالحكم في Loomis في أغسطس 2013 ، تم إدخال البيانات المتعلقة به في أداة تقييم المخاطر المعروفة باسم COMPAS (ملف تعريف إدارة الجاني الإصلاحي للعقوبة البديلة). في حين أن خوارزمية COMPAS المستخدمة لإنتاج درجات المخاطر هي ملكية خاصة ، فإن الناتج ليس كذلك. وأشار تقرير كومباس لوميس إلى ارتفاع مخاطر العودة إلى الإجرام.

في جلسة أغسطس 2013 ، حُكم على لوميس بالسجن لعدة سنوات. قال القاضي مشيرًا إلى كومباس في قراره:

تم التعرف عليك ، من خلال تقييم كومباس ، كفرد معرض لخطر كبير على المجتمع. من حيث وزن العوامل المختلفة ، أستبعد الاختبار بسبب خطورة الجريمة ولأن تاريخك وتاريخك في الإشراف وأدوات تقييم المخاطر التي تم استخدامها تشير إلى أنك معرض لخطر كبير للغاية إعادة الإساءة.

بعد السعي دون جدوى للحصول على إعفاء ما بعد الإدانة في محكمة المقاطعة ، استأنف لوميس أمام المحكمة العليا في ولاية ويسكونسن ، بحجة أن الاعتماد على كومباس يعد انتهاكًا لحقوقه في الإجراءات القانونية الواجبة لأن طبيعة الملكية الخاصة بنظام كومباس تمنع المدعى عليه من الطعن في الصلاحية العلمية للتقييم .

كيف تؤثر القضايا السياسية في أفريقيا على الاقتصاد

في عام 2016 ، حكمت المحكمة العليا في ولاية ويسكونسن ضد لوميس ، العثور على أنه إذا تم استخدامه بشكل صحيح مع إدراك القيود والتحذيرات. . . النظر في تقييم مخاطر كومباس عند إصدار الحكم لا ينتهك حق المدعى عليه في الإجراءات القانونية الواجبة. وكتبت المحكمة ، بينما أشار القاضي في جلسة النطق بالحكم إلى تقييم مخاطر كومباس ، لم يكن الأمر حاسمًا في تقرير ما إذا كان يجب حبس لوميس ، أو شدة العقوبة ، أو ما إذا كان يمكن الإشراف عليه بأمان وفعالية في المجتمع . ثم استأنف لوميس أمام المحكمة العليا الأمريكية ، التي رفضت في يونيو 2017 الاستماع إلى قضيته.

عندما يتم استخدام خوارزمية خاصة لإنتاج تقييم للمخاطر ، يجب ألا يتحول سؤال الإجراءات القانونية إلى ما إذا كان تقييم المخاطر - لاستخدام المصطلح في حكم المحكمة العليا في ويسكونسن - حاسمة ، ولكن حول ما إذا كان قد تم استخدامه وكيف. بالنسبة إلى Loomis ، تم استخدام ناتج كومباس فقط لتعزيز تقييم العوامل الأخرى التي تم النظر فيها. وذكرت المحكمة العليا في ولاية ويسكونسن أن المحكمة التي أصدرت الحكم كانت ستفرض نفس العقوبة لولاها. وبناءً على ذلك ، قررنا أن نظر محكمة الدائرة في COMPAS في هذه القضية لم ينتهك حقوق الإجراءات القانونية الواجبة لشركة Loomis.

يقود هذا المنطق إلى مفارقة مقلقة. من ناحية أخرى ، إذا كان استخدام أداة تقييم مخاطر الملكية عند إصدار الحكم مناسبًا فقط عندما يتم التوصل إلى نفس قرار الحكم بدونها ، فإن هذا يشير إلى أن تقييم المخاطر لا يلعب أي دور على الإطلاق في قرارات المراقبة أو إصدار الأحكام. إذا كان الأمر كذلك ، فلماذا نستخدمه على الإطلاق؟ من ناحية أخرى ، إذا كان لها تأثير محتمل - على الرغم من تأكيد محكمة ويسكونسن على عكس ذلك - فلا يمكن إهمال مسألة الإجراءات القانونية الواجبة جانبًا.

حق الجناة في معرفة درجات المخاطر الخاصة بهم

هناك مسألة أخرى مهمة تتعلق بالإجراءات القانونية الواجبة تتعلق بالمعلومات التي يقدمها المخالفون - أو لا - حول درجات المخاطر الخاصة بهم. في الآونة الأخيرة قضية في كانساس ، تعهد جون وولز بعدم الاعتراض على تهمة التهديد الجنائي. ثم تم تقييمه باستخدام أداة تقييم المخاطر LSI-R (مستوى الخدمة المنقحة). عندما طلب الاطلاع على النتائج ، تم منحه حق الوصول فقط إلى صفحة غلاف تلخص درجاته العامة ؛ تم رفض طلبه للاطلاع على الأسئلة والأجوبة المحددة والنتائج المرتبطة بهذه الأسئلة.

بعد أن حكمت عليه محكمة المقاطعة بشكل من أشكال المراقبة الخاضعة للإشراف الشديد والمستخدم عمومًا لمرتكبي الجرائم المعتدلة أو عالية الخطورة ، طعن في عقوبته أمام محكمة الاستئناف في كانساس ، بحجة أن رفض الكشف عن تفاصيل LSI-R الخاصة به التقييم انتهك حقه في محاكمة عادلة. حكمت محكمة الاستئناف لصالح Walls ، مشيرة إلى أن حرمان Walls من الوصول إلى تقييم LSI-R الكامل الخاص به جعل من المستحيل عليه الطعن في دقة المعلومات المستخدمة في تحديد شروط اختباره. تم إبطال الحكم الأصلي وأعيد الحكم في القضية.

مشكلة سياسية

وزارة العدل الأمريكية لديها اعترف أن استخدام محكمة إصدار الأحكام لتقييم المخاطر الاكتوارية يثير أسئلة دستورية جديدة. والأسئلة ليست دستورية فحسب - هناك قضايا جوهرية تتعلق بالسياسة والتكنولوجيا أيضًا. كما يوضح المثالان أعلاه ، يمكن أن ينشأ نقص الشفافية فيما يتعلق بكيفية حساب درجات المخاطر وما إذا كان الجاني قادرًا على الوصول إليها. هناك عامل إضافي معقد وهو حقوق الأسرار التجارية ، والتي ستستند إليها الشركات التي تصنع أدوات تقييم مخاطر الملكية في الجدل بأنه لا يمكن الكشف عن تفاصيل خوارزمياتها.

متى سترتفع البطالة

تتضمن الأسئلة التي ستنشأ بتواتر متزايد في السنوات القادمة ما يلي: ما هو مستوى التفاصيل حول خوارزمية تقييم المخاطر ومخرجاتها التي يحق للجاني الوصول إليها؟ هل هناك حاجة إلى قوانين جديدة لتسهيل هذا الوصول؟ كيف يجب معالجة حقوق الأسرار التجارية للشركات التي تستخدم أدوات تقييم المخاطر؟ وفي المستقبل ، مع انتشار تقييمات المخاطر القائمة على الذكاء الاصطناعي ، كيف ستزيد الطبيعة الديناميكية لخوارزميات الذكاء الاصطناعي من تعقيد هذه الأسئلة؟

كما هو الحال مع العديد من القضايا عند تقاطع القانون والسياسة والتكنولوجيا ، لا توجد إجابات سهلة. ولكن يجب أن يكون الافتراض التأسيسي في الحوار هو أن الحق في الإجراءات القانونية الواجبة لا يمكن أن يكون ضررًا جانبيًا لاعتماد تقنيات تقييم المخاطر الخوارزمية المتطورة بشكل متزايد.