العشوائية قد تُحسّن العدالة عند تخصيص الموارد النادرة باستخدام الذكاء الاصطناعي

تُستخدم نماذج التعلم الآلي بشكل متزايد لتخصيص الموارد أو الفرص النادرة. على سبيل المثال، يمكن أن تساعد هذه النماذج الشركات في غربلة السير الذاتية لاختيار مرشحي مقابلات العمل أو مساعدة المستشفيات في تصنيف مرضى زراعة الكلى بناءً على احتمالية بقائهم على قيد الحياة.

عند نشر نموذج، يسعى المستخدمون عادةً إلى ضمان عدالة تنبؤاته من خلال تقليل التحيز. غالبًا ما ينطوي هذا على تقنيات مثل تعديل الميزات التي يستخدمها النموذج لاتخاذ القرارات أو معايرة النتائج التي يولدها.

ومع ذلك، يجادل باحثون من معهد ماساتشوستس للتكنولوجيا وجامعة نورث إيسترن بأن أساليب العدالة هذه ليست كافية لمعالجة الظلم الهيكلي والشكوك المتأصلة. في ورقة بحثية جديدة، يُظهرون كيف يمكن أن تؤدي عشوائية قرارات النموذج بطريقة منظمة إلى تحسين العدالة في بعض الحالات.

على سبيل المثال، إذا استخدمت العديد من الشركات نفس نموذج التعلم الآلي لترتيب مرشحي مقابلات العمل بشكل حتمي – دون أي عشوائية – فقد يكون شخص واحد جدير بالاهتمام هو المرشح الذي حصل على أدنى تصنيف لكل وظيفة، ربما بسبب كيفية وزن النموذج للإجابات المقدمة في نموذج عبر الإنترنت. يمكن أن يؤدي إدخال العشوائية في قرارات النموذج إلى منع شخص أو مجموعة واحدة جديرة بالاهتمام من أن يتم رفضهم دائمًا من الحصول على مورد نادر، مثل مقابلة عمل.

من خلال تحليلهم، وجد الباحثون أن العشوائية يمكن أن تكون مفيدة بشكل خاص عندما تنطوي قرارات النموذج على عدم اليقين أو عندما تتلقى نفس المجموعة قرارات سلبية باستمرار.

يقدمون إطارًا يمكن استخدامه لإدخال كمية محددة من العشوائية في قرارات النموذج من خلال تخصيص الموارد من خلال يانصيب مرجح. يمكن أن تُحسّن هذه الطريقة، التي يمكن للشخص تعديلها لتناسب وضعه، العدالة دون الإضرار بكفاءة أو دقة النموذج.

يقول شوميك جين، طالب دراسات عليا في معهد البيانات والأنظمة والمجتمع (IDSS) والمؤلف الرئيسي للورقة: “حتى لو تمكنت من إجراء تنبؤات عادلة، فهل يجب عليك اتخاذ هذه التخصيصات الاجتماعية للموارد أو الفرص النادرة بشكل صارم بناءً على النتائج أو التصنيفات؟ مع زيادة حجم الأمور، ونرى المزيد والمزيد من الفرص يتم تحديدها بواسطة هذه الخوارزميات، يمكن تضخيم عدم اليقين المتأصل في هذه النتائج. نحن نُظهر أن العدالة قد تتطلب نوعًا من العشوائية.”

ينضم إلى جين في الورقة كاثلين كريل، أستاذ مساعد في الفلسفة وعلوم الكمبيوتر في جامعة نورث إيسترن؛ والمؤلف الرئيسي أشيا ويلسون، أستاذ التطوير الوظيفي لليستر براذرز في قسم الهندسة الكهربائية وعلوم الكمبيوتر وباحث رئيسي في مختبر أنظمة المعلومات والقرارات (LIDS). سيتم تقديم البحث في المؤتمر الدولي للتعلم الآلي.

النظر في المطالبات

يبني هذا العمل على ورقة بحثية سابقة استكشف فيها الباحثون الأضرار التي يمكن أن تحدث عند استخدام أنظمة حتمية على نطاق واسع. وجدوا أن استخدام نموذج التعلم الآلي لتخصيص الموارد بشكل حتمي يمكن أن يضخم أوجه عدم المساواة الموجودة في بيانات التدريب، مما يمكن أن يعزز التحيز وعدم المساواة النظامية.

تقول ويلسون: “العشوائية مفهوم مفيد للغاية في الإحصاء، ولدهشتنا، تُلبي متطلبات العدالة القادمة من وجهة نظر نظامية وفردية.”

في هذه الورقة، استكشفوا مسألة متى يمكن أن تُحسّن العشوائية العدالة. لقد أطروا تحليلهم حول أفكار الفيلسوف جون بروم، الذي كتب عن قيمة استخدام اليانصيب لمنح الموارد النادرة بطريقة تكرم جميع مطالبات الأفراد.

يمكن أن تنبع مطالبة الشخص بمورد نادر، مثل زراعة الكلى، من الجدارة أو الاستحقاق أو الحاجة. على سبيل المثال، لكل شخص الحق في الحياة، وقد تنبع مطالباتهم بزراعة الكلى من هذا الحق، كما تشرح ويلسون.

يقول جين: “عندما تعترف بأن الناس لديهم مطالبات مختلفة لهذه الموارد النادرة، ستتطلب العدالة منا احترام جميع مطالبات الأفراد. إذا كنا نمنح دائمًا شخصًا لديه مطالبة أقوى المورد، فهل هذا عادل؟”

يمكن أن يؤدي هذا النوع من التخصيص الحتمي إلى استبعاد نظامي أو تفاقم عدم المساواة النمطية، والذي يحدث عندما يؤدي تلقي تخصيص واحد إلى زيادة احتمال تلقي الفرد للتخصيصات المستقبلية. بالإضافة إلى ذلك، يمكن أن تُخطئ نماذج التعلم الآلي، ويمكن أن يؤدي النهج الحتمي إلى تكرار نفس الخطأ.

يمكن أن تتغلب العشوائية على هذه المشكلات، لكن هذا لا يعني أن جميع القرارات التي يتخذها النموذج يجب أن تكون عشوائية بالتساوي.

العشوائية المنظمة

يستخدم الباحثون يانصيبًا مرجحًا لضبط مستوى العشوائية بناءً على مقدار عدم اليقين المتضمن في اتخاذ قرارات النموذج. يجب أن يتضمن القرار الذي يكون أقل يقينًا المزيد من العشوائية.

تقول ويلسون: “في تخصيص الكلى، عادةً ما يتم التخطيط حول العمر المتوقع، وهذا غير مؤكد للغاية. إذا كان هناك فرق خمس سنوات فقط بين مريضين، يصبح من الصعب للغاية القياس. نريد الاستفادة من هذا المستوى من عدم اليقين لتخصيص العشوائية.”

استخدم الباحثون طرق تحديد كمية عدم اليقين الإحصائي لتحديد مقدار العشوائية المطلوبة في المواقف المختلفة. يُظهرون أن العشوائية المعايرة يمكن أن تؤدي إلى نتائج أكثر عدلاً للأفراد دون التأثير بشكل كبير على فائدة النموذج أو فعاليته.

تقول ويلسون: “هناك توازن يجب تحقيقه بين الفائدة العامة واحترام حقوق الأفراد الذين يتلقون موردًا نادرًا، لكن غالبًا ما يكون المقايضة صغيرًا نسبيًا.”

ومع ذلك، يؤكد الباحثون على وجود مواقف لا تُحسّن فيها عشوائية القرارات العدالة وقد تضر بالأفراد، مثل سياقات العدالة الجنائية.

ولكن قد تكون هناك مجالات أخرى حيث يمكن أن تُحسّن العشوائية العدالة، مثل القبول في الكليات، ويخطط الباحثون لدراسة حالات استخدام أخرى في أعمالهم المستقبلية. كما يريدون استكشاف كيفية تأثير العشوائية على العوامل الأخرى، مثل المنافسة أو الأسعار، وكيف يمكن استخدامها لتحسين قوة نماذج التعلم الآلي.

تقول ويلسون: “نأمل أن تكون ورقتنا خطوة أولى نحو توضيح أن هناك فائدة محتملة للعشوائية. نحن نقدم العشوائية كأداة. كم سترغب في القيام بذلك سيعتمد على جميع أصحاب المصلحة في التخصيص لاتخاذ القرار. وبالطبع، كيف يقررون هو سؤال بحثي آخر تمامًا.”

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي