تحديات التخفيف من التحيز في التوظيف الخوارزمي

التوظيف مكلف ويستغرق وقتًا طويلاً - وهو ذو أهمية كبيرة لأصحاب العمل والموظفين على حدٍ سواء. لتحسين هذه العملية ، بدأ أصحاب العمل في اللجوء إلى تقنيات الخوارزمية ، على أمل توظيف مرشحين جيدين بكفاءة أكبر.

كان أرباب العمل حريصين بشكل خاص على اكتشاف طريقة لأتمتة مرحلة الفرز في خط أنابيب التوظيف. بشكل عام ، هناك أربع مراحل في عملية التوظيف: تحديد المصادر (جذب أو تنظيم مجموعة من المرشحين) ، والفرز ، وإجراء المقابلات ، والاختيار.واحدتتضمن مرحلة الفرز تقييم المتقدمين - إعدام البعض وإبراز البعض الآخر للحصول على اهتمام خاص. بينما ظهر البائعون الذين يقدمون أدوات خوارزمية لكل مرحلة في عملية التوظيف ، فإن الفحص الخوارزمي هو أكثر مجالات التطوير نشاطًا وغالبًا ما يكون الأكثر أهمية ، لأنه يمثل عامل التصفية الرئيسي الذي يجب على المتقدمين اجتيازه بشكل متزايد.

يتناول هذا الموجز قضايا السياسة التي أثارها الفحص الحسابي. نقدم نظرة عامة على التقنيات المستخدمة في الفحص الخوارزمي ، ونلخص المشهد القانوني ذي الصلة ، ونطرح عددًا من الأسئلة الملحة المتعلقة بالسياسة.



ما هو الفحص الخوارزمي؟

التوظيف في الولايات المتحدة له تاريخ طويل ومضطرب من التمييز. أظهرت الدراسات الحديثة أنه لم يتغير الكثير في العقود العديدة الماضية ، على الرغم من زيادة الاستثمار في مبادرات التنوع والشمول.اثنينيفسر استمرار التحيز في صنع القرار البشري والفشل الواضح لهذه الأساليب الراسخة لمكافحة التمييز قدرًا كبيرًا من الاهتمام الأخير بالتوظيف باستخدام الخوارزميات. يرى المدافعون عن الفحص الخوارزمي أنه طريقة واعدة للمضي قدمًا.

المثال الأساسي للفحص الخوارزمي هو تحليل السيرة الذاتية الآلي: يقدم المرشح سيرة ذاتية ، وتقوم الخوارزمية بتقييم هذه السيرة الذاتية لإنتاج درجة تشير إلى جودة مقدم الطلب أو ملاءمته للوظيفة. في مثل هذه الحالات ، يقع قرار التوظيف النهائي عادةً على عاتق الإنسان ، على الرغم من أن العملية الآلية قد أعدت وصنفت مجموعة المرشحين. لإجراء هذا التقييم ، قد تقوم الخوارزمية ، على سبيل المثال ، بتعيين المرشح درجة أعلى بناءً على وجود كلمات رئيسية محددة (على سبيل المثال ، مدير المنتج أو زيادة الإيرادات) في سيرته الذاتية. الأهم من ذلك ، القواعد التي تملي الكلمات الرئيسية التي تستحق الدرجة التي قد لا يكتبها الإنسان ؛ بدلاً من ذلك ، يمكن تطوير هذه القواعد تلقائيًا من خلال عملية تسمى التعلم الآلي. من أجل تحديد الكلمات الرئيسية التي يستخدمها الموظفون الناجحون ، يحتاج نظام التعلم الآلي إلى بيانات سابقة للتعلم منها. على سبيل المثال ، يمكن إعطاء نظام التعلم الآلي السير الذاتية للموظفين الحاليين وبيانات عن أدائهم في العمل (على سبيل المثال ، أرقام مبيعاتهم). مجتمعة ، يمكن للكمبيوتر بعد ذلك تحديد الكلمات الرئيسية التي يميل الموظفون الناجحون إلى استخدامها في سيرهم الذاتية. بناءً على ذلك ، يمكن لنظام التعلم الآلي أن ينتج مجموعة من القواعد (المعروفة عمومًا بالنموذج أو الخوارزمية ؛ سنستخدم الاثنين بالتبادل) للتنبؤ ، في ضوء السيرة الذاتية لمقدم الطلب في المستقبل ، بمدى جودة الموظف.

في حين أن فحص الاستئناف قد حقق درجة معينة من الاهتمام العام ، فإن البائعين البارزين لأدوات الفحص الحسابي يقدمون أنواعًا مختلفة جدًا من التقييمات. على سبيل المثال ، الشركة بيميتريكس 3تبيع التقييمات القائمة على الألعاب ، حيث يلعب المتقدمون ألعابًا مخصصة ، وتحلل الخوارزميات الخاصة طريقة اللعب لتسجيل المرشحين على عدد من السمات مثل القدرة على التعلم والحسم. في مثل هذه التقييمات ، قد تكون مدخلات الخوارزمية أقل وضوحًا قليلاً مما كانت عليه في فحص استئناف - على سبيل المثال ، قد تستخدم الخوارزميات أوقات رد فعل المرشحين أو قدرة الذاكرة لعمل تنبؤات حول السمات الأخرى.

هل أنظمة الفرز الخوارزمية تقلل التحيز؟

على السطح ، يبدو أن أدوات الفرز الخوارزمية تستند بالكامل إلى الأدلة ، مما يجعلها بديلاً جذابًا للتقييمات البشرية المتحيزة. ومع ذلك ، هناك أدلة متزايدة على أن مثل هذه الأدوات يمكن أن تتكاثر بل وتؤدي إلى تفاقم التحيزات البشرية التي تظهر في مجموعات البيانات التي بنيت عليها هذه الأدوات. تشفر البيانات القرارات والأحكام الذاتية بعمق ؛ نادرا ما تكون سجلات محايدة. على سبيل المثال ، يختار أصحاب العمل من يتم تضمينه في مجموعة البيانات - غالبًا بحكم من اختاروا تعيينه في الماضي - وما الذي يشكل موظفًا جيدًا. إذا لم يوظف صاحب العمل مطلقًا مرشحًا من كلية أو جامعة تاريخية سوداء ، على سبيل المثال ، فهل ستعرف الخوارزمية كيفية تقييم هؤلاء المرشحين بفعالية؟ هل ستتعلم تفضيل المرشحين من المدارس الأخرى؟ لا تشكك الخوارزميات ، بطبيعتها ، في القرارات البشرية الكامنة وراء مجموعة البيانات. بدلاً من ذلك ، يحاولون بإخلاص إعادة إنتاج القرارات السابقة ، والتي يمكن أن تقودهم إلى عكس أنواع التحيزات البشرية التي يعتزمون استبدالها.

على السطح ، يبدو أن أدوات الفحص الحسابي تستند بالكامل إلى الأدلة. ... ومع ذلك ، هناك أدلة متزايدة على أن مثل هذه الأدوات يمكن أن تتكاثر بل وتؤدي إلى تفاقم التحيزات البشرية.

غالبًا ما يشير البائعون إلى موضوعية الخوارزميات كميزة على عمليات التوظيف البشرية التقليدية ، ويزعمون في كثير من الأحيان أن تقييماتهم غير متحيزة أو يمكن استخدامها للتخفيف من التحيزات البشرية. في الممارسة العملية ، على الرغم من ذلك ، لا يُعرف الكثير عن إنشاء أدوات الفحص الخوارزمية الجديدة هذه والتحقق منها واستخدامها ، ويرجع ذلك جزئيًا إلى أن هذه الخوارزميات (ومجموعات البيانات المستخدمة في بنائها) عادةً ما تكون مملوكة وتحتوي على بيانات خاصة وحساسة للموظفين. في دراسة حديثة ، أكملنا (جنبًا إلى جنب مع Jon Kleinberg و Karen Levy) دراسة استقصائية للبيانات العامة الصادرة عن بائعي أدوات الفرز الخوارزمية ،4اكتشاف أن الصناعة نادراً ما تكشف عن تفاصيل حول أساليبها أو الآليات التي تهدف من خلالها إلى تحقيق تقييم محايد. في دراستنا ، أخذنا عينات من 18 بائعًا للتقييمات الحسابية ، ووثقنا ممارساتهم ، وقمنا بتحليلها في سياق قانون التمييز في التوظيف الأمريكي.

تقييمات التوظيف الخوارزمية وقانون الحقوق المدنية

يحظر الباب السابع من قانون الحقوق المدنية لعام 1964 التمييز على أساس العرق أو اللون أو الدين أو الجنس أو الأصل القومي. من المفهوم أن هذا الحظر ينطبق على كل من التمييز المتعمد (ما يسمى بالمعاملة المتباينة) ، وكذلك التمييز غير المقصود ولكن غير المبرر أو الذي يمكن تجنبه (ما يسمى التأثير المتباين). المبادئ التوجيهية الموحدة للجنة تكافؤ فرص العمل بشأن اختيار الموظفين (يشار إليها فيما يلي باسم المبادئ التوجيهية الموحدة) تنص على أن إجراء الاختيار يعرض معاملة متباينة إذا أخذ في الاعتبار صراحةً أيًا من السمات المحمية المذكورة أعلاه عند اتخاذ القرار. من ناحية أخرى ، يكون التأثير المتباين أكثر دقة: إذا قبل إجراء الاختيار مرشحين من مجموعة محمية بمعدل أقل بكثير (80٪ ، كقاعدة عامة) من مجموعة أخرى ، فإن إجراء الاختيار يُظهر تأثيرًا متباينًا . يمكن لصاحب العمل الدفاع ضد مطالبة التأثير المتباين من خلال إظهار أن إجراء الاختيار يخدم غرضًا تجاريًا مبررًا أو ضروريًا ، ولكن يظل مسؤولاً إذا كان بإمكان المدعي مع ذلك تحديد إجراء اختيار بديل كان يمكن أن يخدم نفس الغرض مع توليد أقل. تأثير متباين.

في دراستنا ، وجدنا أن بائعي تقييمات التوظيف الخوارزمية يتجنبون عادةً المعاملة المتباينة ببساطة عن طريق ضمان عدم استخدام السمات المحمية مثل العرق أو الجنس كمدخلات لنماذجهم. فيما يتعلق بالتأثير المتباين ، فإن البائعين ينقسمون إلى معسكرين. وفقًا للإرشادات الموحدة ، تتمثل إحدى طرق الدفاع ضد ادعاء التأثير المتباين في إثبات أن التقييم المعني - خوارزمية الفحص - يتمتع بالصحة ، مما يعني أنه يتنبأ بدقة بالجودة المتعلقة بالوظيفة. وبالتالي ، حتى إذا أحدثت خوارزمية الفرز تأثيرًا متباينًا ، فيمكن تبريرها على أنها تخدم هدفًا تجاريًا مشروعًا إذا كانت دقيقة بدرجة كافية.

[E] إذا كانت خوارزمية الفرز تنتج تأثيرًا متباينًا ، فيمكن تبريرها على أنها تخدم هدفًا تجاريًا مشروعًا إذا كانت دقيقة بشكل كافٍ.

ومع ذلك ، يتخذ بعض البائعين الخطوة الإضافية المتمثلة في التحقق مما إذا كان بإمكانهم تطوير خوارزمية فحص مختلفة تؤدي أداءً جيدًا بشكل متساوٍ ، مع تقليل التباينات في معدلات الاختيار عبر المجموعات. بعبارة أخرى ، يساعد هؤلاء البائعون أصحاب العمل على اكتشاف وجود ممارسات تجارية بديلة قابلة للتطبيق - وهي ممارسات تقلل التأثير المتباين بشكل هادف دون فرض تكلفة كبيرة على أصحاب العمل. أرباب العمل الذين يفشلون في التفكير في أدوات الفحص البديلة هذه وتبنيها سيفتحون أنفسهم للمساءلة ، حيث يمكن للمدعين أن يجادلوا بأن عملية الفرز الأصلية ليست في الحقيقة ضرورة عمل أو مبررة من خلال هدف تجاري مشروع. من الناحية العملية ، نلاحظ أن العديد من البائعين يضمنون ألا تنتج التقييمات أبدًا تأثيرًا متباينًا في المقام الأول ، وبالتالي يتم استبعاد أي تهم بالتمييز دون الحاجة إلى الاعتماد على صحة التقييم. لقد تحرك البائعون في هذا الاتجاه على الرغم من حقيقة أنه ، على حد علمنا ، فإن التقييمات الحسابية في التوظيف لم تواجه بعد أي تحديات قانونية.

من الناحية الفنية ، هناك عدد من طرق إزالة التحيز التي يمكن للبائعين استخدامها كجزء من هذه الإستراتيجية الثانية. يتمثل أحد الأساليب الشائعة في بناء نموذج واختباره بحثًا عن تأثير متباين ، وإذا تم العثور على تأثير متباين ، قم بإزالة المدخلات التي تساهم في هذا التأثير المتباين وإعادة بناء النموذج. ضع في اعتبارك ، على سبيل المثال ، خوارزمية فحص استئناف تم العثور عليها لاختيار الرجال بمعدل أعلى من النساء. افترض أن هذه الخوارزمية (مثل واحد من المفترض أن شركة أمازون صنعته - لكنها لم تستخدمه أبدًا ) يعطي درجات أعلى للمتقدمين الذين لعبوا لعبة اللاكروس. لاحظ أن لعبة اللاكروس قد يكون لها بعض الارتباط بشكل شرعي مع نتائج العمل المرغوبة ؛ أولئك الذين لديهم خبرة في ممارسة الرياضات الجماعية قد يكون أداءهم في المتوسط ​​أفضل في إعدادات الفريق أكثر من أولئك الذين لا يمارسونها. ومع ذلك ، قد يكون الأمر كذلك أن لعبة لاكروس تميل إلى أن يتم لعبها من قبل الذكور البيض الأثرياء ، وبالتالي ، قد يكون من المرجح أن يختار النموذج من هذه المجموعة. لمكافحة هذا ، قد يمنع البائع أو صاحب العمل الخوارزمية من النظر في كلمة لاكروس في السيرة الذاتية ، مما يجبر النموذج على إيجاد مصطلحات بديلة تتنبأ بالنجاح وبالتالي يحتمل أن يخفف التأثير المتباين الأصلي. الأمل هو أن النموذج الذي رفض الوصول إلى كلمة لاكروس سيحدد العوامل الأخرى التي تنبئ بالنجاح - ربما الرياضة أو الفريق - التي تنطبق بشكل جيد على جميع المرشحين المحتملين للوظائف.

الآثار المترتبة على السياسة

يثير تحديد وتخفيف التحيز في خوارزميات الفرز عددًا من المخاوف السياسية الملحة. فيما يلي ، نحدد مجموعة من القضايا التي تحتاج إلى اهتمام أكبر وعاجل في كثير من الأحيان.

قد لا يكون لدى المدعين معلومات كافية للاشتباه في التأثير المتباين أو إظهاره.

لطالما كانت هذه مشكلة في القضايا التي تنطوي على تأثير متباين - لا تستند قضية المدعي على تجربتها الخاصة فقط ، ولكن بدلاً من ذلك على التأثير الكلي لعملية الاختيار عبر مجموعة من الأشخاص. وبالتالي ، فإن إثبات وجود دليل على تأثير متباين يتطلب بيانات من مجموعة كبيرة بما فيه الكفاية. في التقييمات السابقة ، ربما كان من الممكن الاستدلال على أن سؤالًا أو شرطًا معينًا وضع عبئًا لا داعي له أو غير ضروري على مجموعة مقارنة بمجموعة أخرى ؛ ومع ذلك ، باستخدام أدوات الفحص الخوارزمية الحديثة ، قد لا يُطلب من المرشحين إكمال تقييم تقليدي وقد لا يكونون على دراية بكيفية تقييمهم بالضبط. ونتيجة لذلك ، قد يفتقرون إلى أي مؤشر على أن آلية التقييم قد تكون تمييزية.

من غير الواضح ما إذا كانت الصلاحية التنبؤية كافية للدفاع ضد ادعاء التأثير المتباين.

وفقًا للإرشادات الموحدة ، يمكن لأصحاب العمل تبرير تأثير متباين من خلال إظهار الصلاحية التنبؤية لإجراءات الاختيار الخاصة بهم. هذا يخلق شبه حشو في سياق التعلم الآلي: النماذج التي ينتجها التعلم الآلي ، بحكم التعريف ، مبنية لضمان المصداقية التنبؤية.5بينما قد يتحدى المدعون ما إذا كانت عملية التحقق المضمنة صالحة بحد ذاتها ، فمن غير الواضح متى تكون الأشكال التقليدية للتحقق من الصحة غير كافية حتى لو تم تنفيذها بشكل صحيح.

[V] قد تشير alidation إلى أن النموذج يؤدي أداءً جيدًا بشكل عام بينما يخفي أنه يعمل بشكل سيئ للغاية بالنسبة لأقلية من السكان.

هناك عدد من الأسباب للشك في دراسات التحقق من الصحة. أولاً ، قد يشير التحقق من الصحة إلى أن أداء النموذج جيد جدًا بشكل عام بينما يخفي أنه يعمل بشكل سيئ للغاية بالنسبة لأقلية من السكان. على سبيل المثال ، نموذج يتنبأ تمامًا بنتائج معينة لمجموعة الأغلبية (على سبيل المثال ، 95٪ من السكان) ، لكنه دائمًا ما يرتكب أخطاءً في مجموعة الأقلية (على سبيل المثال ، 5٪ من السكان) ، يمكن أن تكون دقيقة للغاية بشكل عام (أي دقة 95٪). نادرًا ما تنظر الطرق الشائعة لتقييم النموذج في الاختلافات في الدقة أو الأخطاء عبر المجموعات المختلفة. ثانيًا ، يتمتع أصحاب العمل ، الذين يعملون مع البائعين ، بحرية كبيرة في اختيار النتيجة التي صممت النماذج للتنبؤ بها (على سبيل المثال ، جودة الموظفين المحتملين). نادرًا ما يوجد مقياس مباشر أو موضوعي لهذه النتائج ؛ بدلاً من ذلك ، يجب على الممارسين اختيار وكيل (على سبيل المثال ، درجات مراجعة الأداء).6نظرًا لأن مراجعات الأداء هي تقييمات ذاتية ، فإنها تنطوي على مخاطر كونها غير دقيقة ومتحيزة. وبينما قد يكون من الممكن إنشاء نموذج يتنبأ بدقة بمراجعات الأداء ، فإن القيام بذلك من شأنه ببساطة إعادة إنتاج التقييمات التمييزية. بمعنى آخر ، سيثبت النموذج صدقه في توقع نتيجة متحيزة. أخيرًا ، الادعاءات المتعلقة بالصلاحية ، ونقص التحيز ، والتأثير المتباين هي مجموعة بيانات وسياق محدد. تستند هذه الادعاءات إلى الاعتقاد بأن السكان والظروف التي تم تسجيلها في مجموعة البيانات المستخدمة لتقييم نموذج ما ستكون هي نفسها السكان والظروف التي سيتم تطبيق النموذج عليها. لكن هذا نادرًا ما يحدث في الممارسة العملية. قد لا يكون النموذج الذي يعتبر متنبئًا صالحًا لا يظهر أي تأثير متباين في سياق حضري في سياق ريفي. وبالتالي ، لا يمكن تحديد إجراء الاختيار بشكل عام أو غير متحيز.

هل يجب على صاحب العمل أو البائع معالجة كل من هذه المخاوف ، فلا يزال السؤال مطروحًا: هل الصلاحية التنبؤية كافية للدفاع ضد مطالبة التأثير المتباين؟ بعبارة أخرى ، هل تكفي العلاقة التي يمكن إثباتها بين المدخلات والنتائج؟ يبدو أن المبادئ التوجيهية الموحدة تسمح بإمكانية التحقق من صحة النموذج وفقًا لذلك ؛ لا يوجد التزام لتحديد آلية سببية ، أو تقديم تبرير نظري للعلاقات غير المكشوفة ، أو حتى فهم العلاقة بين مدخلات النموذج والنتائج. ومع ذلك ، عندما تولد مثل هذه النماذج تأثيرًا متباينًا ، فقد نكافح لقبول نتائجها إذا استندت إلى عوامل غير بديهية وبالتالي تبدو عشوائية.7في الوقت نفسه ، إذا قلل النموذج من درجة التأثير المتباين الملحوظ في ممارسات التوظيف السابقة ، فقد نرحب بالنموذج كتحسين حتى لو لم نتمكن من شرح الارتباطات التي كشف عنها.8

تتطلب العديد من الحلول المقترحة لتخفيف التفاوتات من قرارات الفحص معرفة الخصائص المحمية قانونًا.

كحد أدنى ، يجب على أصحاب العمل والبائعين الذين يسعون للتخفيف من تأثير متباين معرفة الفئات المحمية قانونًا التي ينتمي إليها الأشخاص في بيانات التدريب. إن حرمان نموذج من الوصول إلى هذه الخصائص في لحظة التقييم لا يمكن أن يضمن قرارات غير منحازة. ومع ذلك ، يخشى أصحاب العمل والبائعون من أن النظر صراحةً في هذه الخصائص كجزء من تقييماتهم قد يؤدي إلى اتهامات بمعاملة متباينة. تشير دراستنا إلى أن البائعين حاولوا التحايل على هذا التوتر الظاهري باستخدام الخصائص المحمية عند بناء النماذج ، وإزالة العوامل المرتبطة التي تساهم في التأثير المتباين ، ولكن بعد ذلك تأكدوا من أن النماذج نفسها عمياء عن السمات الحساسة. هذا النمط من منع التحيز ، رغم أنه جذاب ، لا يخلو من المضاعفات.

[T] البيانات أكثر حساسية أو وصم الحالة ، فقد يكون مقدمو الطلبات الأقل راحة لمشاركتها مع أصحاب العمل - حتى لو كان الغرض المعلن لجمعها هو الحماية من التأثير المتباين على طول هذه الخطوط.

لمعالجة هذا الأمر ، سيحتاج أصحاب العمل إلى جمع معلومات ، مثل العرق والجنس والسمات الحساسة الأخرى ، والتي كافح مؤيدو ممارسات التوظيف العادلة منذ فترة طويلة لحجبها عن عملية التوظيف. في كثير من الحالات ، سيضطر أصحاب العمل إلى التماس المعلومات التي يعتبرها مقدمو الطلبات عن حق حساسة لأن هذه المعلومات كانت أساس التمييز في الماضي ، وليس التخفيف منه. من المستحيل تطبيق منهجيات إزالة التحيز المقترحة على النماذج في حالة عدم وجود معلومات حول ، على سبيل المثال ، التوجه الجنسي للموظفين أو حالة الإعاقة. ومع ذلك ، فكلما كانت البيانات أكثر حساسية أو وصم الشرط ، قد يكون مقدمو الطلبات أقل راحة لمشاركتها مع أصحاب العمل - حتى لو كان الغرض المعلن لجمعها هو الحماية من التأثير المتباين على هذا المنوال.

التركيز على التخفيف من حدة التأثير المتباين يخاطر بإخفاء الصلاحية التفاضلية.

تشير دراستنا إلى أن البائعين قد ركزوا حتى الآن على ضمان أن تظهر نماذجهم تأثيرًا متباينًا ضئيلًا ، تاركين جانباً أسئلة حول الاختلافات في دقة النموذج عبر السكان. ضع في اعتبارك نموذجًا دقيقًا تمامًا في التنبؤ بنتائج العمل لمجموعة واحدة ، لكنه لا يؤدي أفضل من العشوائي لمجموعة أخرى. قد لا ينتج عن مثل هذا النموذج أي تباين في معدلات الاختيار ، لكن جودة تقييمه ستختلف بشكل كبير بين المجموعات - وهي ظاهرة تُعرف باسم الصلاحية التفاضلية. يمكن للتقييمات التي تظهر صلاحية تفاضلية أن تجعل الناس عرضة للفشل بسهولة ، مما يدعم الصور النمطية الضارة التي بررت التوظيف التمييزي في الماضي.9

يمكن أن تؤدي الصلاحية التفاضلية أيضًا وظيفة تشخيصية حاسمة: قد يكون أداء النموذج مختلفًا لمجموعات مختلفة لأن العوامل التي تتنبأ بنتيجة الاهتمام ليست هي نفسها عبر كل مجموعة. عندما نلاحظ أن النموذج يُظهر صلاحية تفاضلية ، نتعلم أن العلاقة بين مدخلات النموذج والنتائج الفعلية من المحتمل أن تكون مختلفة عبر المجموعات. بمعنى آخر ، تتنبأ عوامل مختلفة بالنجاح لمجموعات مختلفة.

هناك بضع خطوات يمكن لمنشئي التقييمات الحسابية اتخاذها لتقليل الصلاحية التفاضلية. بشكل أساسي ، من أجل إجراء تنبؤات دقيقة لجميع السكان ، نحتاج إلى (1) مجموعة واسعة من مدخلات النموذج التي يمكن أن تكون تنبؤية عبر جميع السكان (أي ليس فقط مدخلات متخصصة في المجموعة مثل لاكروس) ؛ و (2) مجموعة بيانات متنوعة تحتوي على أمثلة لأفراد ناجحين من خلفيات متنوعة. الأهم من ذلك ، لا يمكن تحقيق أيٍّ من هذين الأمرين عن طريق إلغاء تحيز النموذج نفسه. في بعض الحالات ، قد يحتاج البائعون إلى جمع المزيد من البيانات لتقليل الصلاحية التفاضلية.

قد يكون لتقنيات إزالة التحيز الخوارزمية آثار كبيرة على ممارسات الأعمال البديلة.

تاريخيًا ، كان البحث عن ممارسات تجارية بديلة في الفحص مكلفًا للغاية ، مما يتطلب من الشركات النظر في مجموعة واسعة من التقييمات والتطبيقات. ومع ذلك ، تعد تقنيات إزالة التحيز الخوارزمية بأتمتة درجة معينة من الاستكشاف ، والكشف عن ممارسات تجارية بديلة قابلة للتطبيق من تلقاء نفسها. ومع ذلك ، فإن استخدام هذه الأساليب لا يخلو من التكلفة. قد يكون التعاقد مع بائعي هذه الأدوات مكلفًا. قد يكون تطوير البنية التحتية لجمع البيانات الضرورية ، بما في ذلك السمات الحساسة للمرشحين ، مكلفًا ومرهقًا ومحفوفًا بالمخاطر. في بعض الحالات ، سيؤدي إلغاء التحيز الخوارزمي أيضًا إلى تقليل دقة التقييم ، نظرًا لأن هذه الأساليب تتضمن عادةً تجاهل بعض المعلومات التي تنبئ بصدق بنتيجة الاهتمام. ومع ذلك ، فإن العديد من البائعين يشجعون أصحاب العمل على القيام بذلك ، مشيرين إلى أنه في الممارسة العملية ، غالبًا ما يكون للتخفيف من الأثر المتباين تأثير ضئيل على الدقة التنبؤية. إن قدرة البائعين على مساعدة أصحاب العمل في العثور على مثل هذه الممارسات التجارية البديلة قد تضع ضغطًا قانونيًا على أصحاب العمل للعمل معهم ، حيث قد يبدو الفشل في القيام بذلك بمثابة التزام غير ضروري بعملية التوظيف التي تولد تأثيرًا متباينًا يمكن تجنبه. وحيث توجد مفاضلة واضحة بين الدقة والتأثير المتباين ، فإن هذه الأدوات ستجعل مثل هذه التوترات واضحة وتجبر أصحاب العمل على الدفاع ، على سبيل المثال ، عن خيار تفضيل المكاسب الهامشية في الدقة على تقليل كبير في التأثير المتباين.

ضرائب التقاعد والضمان الاجتماعي

استنتاج

يجلب التوظيف الخوارزمي وعودًا وفرصًا ومخاطر جديدة. إذا تُركت الخوارزميات دون رادع ، فإنها يمكن أن تديم نفس التحيزات والتمييز الموجود في ممارسات التوظيف الحالية. تنطبق الحماية القانونية الحالية ضد التمييز الوظيفي عند استخدام هذه الأدوات الخوارزمية ؛ ومع ذلك ، تثير الخوارزميات عددًا من الأسئلة السياسية التي لم تتم معالجتها والتي تتطلب مزيدًا من الاهتمام.