تعِد برمجيات التعرف على الوجه بمهمة بسيطة وموضوعية: مقارنة وجه بقاعدة بيانات والإبلاغ عن تطابق. لكن مجموعة متنامية من الأبحاث، وأبرزها اختبارات المعهد الوطني الأمريكي للمعايير والتقنية (NIST)، وجدت مراراً أن كثيراً من هذه الأنظمة تؤدي بشكل أسوأ بوضوح مع بعض فئات الناس مقارنة بأخرى، خاصة أصحاب البشرة الداكنة، والنساء، والوجوه الأصغر أو الأكبر سناً مقارنة بالرجال في منتصف العمر. هذا ليس خللاً واحداً يمكن لتحديث برمجي إصلاحه بهدوء؛ إنه نتيجة متوقعة لكيفية بناء هذه الأنظمة وتدريبها واختبارها، وفهم الآلية الفعلية وراء هذه الفجوة يوضح سبب حدوثها ولماذا أثبت سدّها صعوبة أكبر من مجرد إضافة صور تدريب أكثر.

ماذا يعني 'التحيز' في نظام التعرف على الوجه

في سياق التعرف على الوجه، يشير 'التحيز' عادة إلى فرق قابل للقياس في معدلات الخطأ — عدد مرات تطابق النظام خطأً أو فشله في التطابق — عبر فئات ديموغرافية مُحدَّدة بعوامل كلون البشرة أو الجنس أو العمر، وليس اختلافاً في الكود الأساسي المُستخدَم لأشخاص مختلفين.

هذا التمييز مهم لأنه يُحوّل التفسير بعيداً عن فكرة أن الخوارزمية تحتوي قواعد صريحة تُعامل الفئات بشكل مختلف، نحو مشكلة أكثر دقة، وبطريقة ما أصعب: مجموعة واحدة من القواعد الرياضية تعلّمتها من بيانات لم تُمثّل كل الفئات بشكل متساوٍ جيداً.

يقيس الباحثون عادة هذا التحيز باستخدام مقاييس خطأ موحّدة، مقارنين معدلات التطابق الكاذب ومعدلات عدم التطابق الكاذب عبر الفئات الديموغرافية على مجموعات اختبار كبيرة ومضبوطة، وهذا كيف تصبح الفروقات التي قد تكون غير مرئية في الاستخدام العرضي قابلة للقياس والمقارنة عبر الأنظمة.

كيف تُدرَّب نماذج التعرف على الوجه فعلياً

تُبنى أنظمة التعرف على الوجه الحديثة باستخدام التعلّم العميق، حيث تُعرَض على شبكة عصبية ملايين صور الوجوه المُوسَّمة أثناء التدريب، وتُعدِّل تدريجياً معاملاتها الداخلية لتصبح أفضل في تمييز وجه عن آخر بناءً على أنماط تكتشفها في بيانات التدريب تلك.

لا يتلقى النظام أبداً تعليمات صريحة حول العرق أو الجنس أو العمر؛ بل يتعلّم فقط أنماطاً إحصائية من أي صور تُعرَض عليه، ما يعني أن سلوك النموذج النهائي تُشكّله بالكامل تركيبة مجموعة بيانات التدريب تلك، لا أي خيار تصميمي متعمد حول كيفية معاملة الفئات المختلفة.

عملية التدريب هذه هي سبب وصف التحيز في التعرف على الوجه غالباً كمشكلة بيانات بقدر ما هو مشكلة خوارزمية — نفس بنية الشبكة العصبية يمكن أن تُنتج أنماط دقة مختلفة جداً عبر الفئات الديموغرافية اعتماداً كلياً على الصور التي تعلّمت منها.

اختلال بيانات التدريب: السبب الجذري الذي يجده الباحثون مراراً

وجدت دراسات متعددة، بما فيها عمل تأسيسي للباحثتين جوي بولامويني وتيمنيت جيبرو، أن مجموعات بيانات تدريب التعرف على الوجه المستخدمة على نطاق واسع كانت مكوّنة بشكل غير متناسب من صور لأفراد أفتح بشرة، وخاصة رجال أفتح بشرة، مقارنة بحصتهم من عموم السكان.

عندما تحتوي مجموعة بيانات على أمثلة أكثر بكثير لنوع وجه معين من نوع آخر، يصبح النموذج الناتج أفضل إحصائياً في التعرف على الأنماط الشائعة في الفئة المُمثَّلة بإفراط لمجرد حصوله على فرص أكثر للتعلم من تلك الأمثلة أثناء التدريب.

هذا الاختلال لم يكن عادة نتيجة خيار متعمد لاستبعاد فئات معينة؛ بل كان يعكس غالباً أي الصور كانت الأسهل توفيراً على نطاق واسع، غالباً من قواعد بيانات صور موجودة، أو صور مخزون تجارية، أو شخصيات عامة، وهي نفسها لم تكن مُمثِّلة ديموغرافياً.

دراسة Gender Shades التي جعلت تجاهل القضية مستحيلاً

اختبرت دراسة 'Gender Shades' عام 2018 لبولامويني وجيبرو أنظمة تحليل وجه تجارية من شركات تقنية كبرى، ووجدت أن معدلات الخطأ في تصنيف النساء ذوات البشرة الداكنة كانت أعلى بشكل كبير، وتجاوزت 30% في بعض الأنظمة، مقارنة بمعدلات خطأ أقل من 1% للرجال أفتح البشرة.

كانت هذه الدراسة مؤثرة تحديداً لأنها استخدمت مجموعة اختبار مُصمَّمة بعناية ومتوازنة عبر فئات لون البشرة والجنس، ما سمح بمقارنة صارمة وقابلة للتكرار بدلاً من تقارير قصصية، وهو ما جعل التفاوت صعب التجاهل من قِبل الشركات المعنية.

بعد نشر الدراسة، التزمت عدة شركات مما جرى اختباره علناً بتدقيق أنظمتها وإعادة تدريبها، ويُنسب للبحث على نطاق واسع الفضل في تحفيز اهتمام أوسع بكثير في الصناعة والأوساط الأكاديمية بالتحيز الخوارزمي في الرؤية الحاسوبية بشكل أعم.

اختبارات NIST واسعة النطاق للخوارزميات التجارية

أجرى NIST بعضاً من أكبر التقييمات المستقلة لخوارزميات التعرف على الوجه التجارية والبحثية عبر برنامجه لاختبار موردي التعرف على الوجه (FRVT)، مُختبراً خوارزميات مُقدَّمة طوعاً من عشرات المطورين مقابل مجموعات بيانات موحّدة ضخمة.

وجد تقرير NIST لعام 2019 أن غالبية الخوارزميات المُختبرة أظهرت معدلات إيجابية كاذبة أعلى للوجوه الآسيوية والأمريكية الأفريقية والأمريكية الأصلية مقارنة بالوجوه القوقازية، رغم أن حجم تلك الفجوة تفاوت بشكل هائل بين خوارزميات وموردين مختلفين.

الأهم أن اختبارات NIST وجدت أيضاً أن بعض الخوارزميات أظهرت تبايناً ديموغرافياً ضئيلاً جداً، ما يُثبت أن التحيز ليس خاصية حتمية لتقنية التعرف على الوجه عموماً، بل انعكاس لخيارات تصميم وتدريب محددة اتخذها مطورون أفراد.

لماذا أظهرت درجات البشرة الداكنة تاريخياً معدلات خطأ أعلى

تتضافر عدة عوامل تقنية لجعل التعرف الدقيق على درجات البشرة الداكنة أصعب لبعض الأنظمة: مستشعرات الكاميرا وإعدادات الإضاءة المُحسَّنة تاريخياً للبشرة الفاتحة قد تلتقط تفاصيل وجه وتبايناً أقل على البشرة الداكنة، ما يمنح الخوارزمية مُدخلاً أقل جودة للعمل عليه قبل بدء أي معالجة أصلاً.

هذه مشكلة موثقة جيداً في التصوير الفوتوغرافي بشكل أعم، وليست حصرية بالتعرف على الوجه، وتعني أن حتى خوارزمية مُدرَّبة بشكل مثالي قد تُقصّر في الأداء مع الوجوه الداكنة إذا كانت الصور التي تتلقاها أثناء النشر الواقعي أقل جودة بشكل منهجي بسبب قيود الأجهزة والإضاءة.

بالاقتران مع بيانات تدريب لم تُمثّل الوجوه الداكنة بشكل كافٍ، خلق هذا تأثيراً تراكمياً في كثير من الأنظمة المبكرة: كانت جودة الصورة المُدخَلة وأنماط التعرف المُتعلَّمة كلتاهما أضعف لهذه الفئة، منتجة فجوات معدل الخطأ الكبيرة الموثّقة في دراسات مثل Gender Shades.

أجهزة الكاميرا والإضاءة تُفاقمان المشكلة

أجهزة الكاميرا، خاصة في الأجهزة الأقل تكلفة أو الأقدم، وظروف الإضاءة غير المتسقة أو السيئة أثناء التقاط الصورة، تُدخل تبايناً إضافياً يؤثر بشكل غير متناسب على درجات بشرة معينة، لأن فيزياء انعكاس الضوء تختلف بشكل جوهري بين البشرة الفاتحة والداكنة.

بيئات النشر مهمة للغاية هنا: نظام تعرف على الوجه مُختبَر في إضاءة مختبر مُتحكَّم بها يمكن أن يؤدي بشكل مختلف جداً عن نفس النظام المنشور في متجر تجزئة سيء الإضاءة، أو كاميرا أمنية خارجية ليلاً، أو كاميرا جسدية في ظروف ميدانية متغيّرة.

هذا أحد أسباب تشديد الباحثين بشكل متزايد على اختبار أنظمة التعرف على الوجه تحت ظروف نشر واقعية ومتنوعة بدلاً من إعدادات الإضاءة والكاميرا الأكثر ملاءمة المستخدمة غالباً أثناء التطوير الأولي والعروض التسويقية.

الإيجابيات الكاذبة مقابل السلبيات الكاذبة: لماذا يهم هذا التمييز

تحدث 'الإيجابية الكاذبة' عندما يُطابق النظام خطأً وجه شخص بهوية شخص آخر، بينما تحدث 'السلبية الكاذبة' عندما يفشل في التعرف على تطابق حقيقي، وهذان النوعان من الأخطاء يحملان عواقب واقعية مختلفة جداً حسب التطبيق.

في سياقات إنفاذ القانون، يمكن أن تؤدي الإيجابية الكاذبة لاتهام أو اعتقال خاطئ، ما يجعل التفاوت في معدلات الإيجابية الكاذبة عبر الفئات الديموغرافية قلقاً جدياً لحقوق الإنسان، لأنه يعني أن الأبرياء من فئات معينة يواجهون خطراً أعلى للتورط خطأً.

بالمقابل، السلبية الكاذبة في شيء كأمان فتح الهاتف مجرد إزعاج غالباً، ما يوضح لماذا لا يمكن تقييم التحيز الديموغرافي في التعرف على الوجه برقم دقة إجمالي واحد — نوع الخطأ والسياق الذي يحدث فيه كلاهما مهم للغاية.

التحيز العمري والجندري بمعزل عن لون البشرة

وثّقت اختبارات NIST والأبحاث الأكاديمية أيضاً فروقات دقة قابلة للقياس حسب العمر والجنس بمعزل عن لون البشرة، ووجدت عموماً معدلات خطأ أعلى للنساء من الرجال عبر معظم الخوارزميات المُختبرة، ومعدلات خطأ أعلى للأطفال وكبار السن مقارنة بالبالغين في عمر العمل الرئيسي.

يعزو الباحثون بعض هذا لاختلالات مماثلة في بيانات التدريب — مجموعات بيانات مائلة تاريخياً نحو وجوه بالغة، مُستمدة غالباً من صور هوية مكان العمل أو الحكومة التي لم تُمثّل الأطفال وكبار السن بشكل كافٍ — بالإضافة إلى فروقات فسيولوجية حقيقية في كيفية تغيّر الوجوه مع العمر.

هذا يعني أن التحيز في التعرف على الوجه يُفهَم بشكل أفضل كفجوات ديموغرافية متعددة متداخلة لا مشكلة لون بشرة فقط، وهذا جزء من سبب تقييم أطر اختبار شاملة مثل NIST للأداء عبر فئات متقاطعة عديدة بدلاً من متغير واحد في كل مرة.

عواقب واقعية: اعتقالات خاطئة مرتبطة بالتعرف على الوجه

الحالات الموثّقة للاعتقالات الخاطئة المرتبطة بسوء تحديد الهوية عبر التعرف على الوجه في الولايات المتحدة، والمُبلَّغ عنها من جهات منها الاتحاد الأمريكي للحريات المدنية (ACLU)، شملت بشكل غير متناسب رجالاً سوداً، بما يتسق مع أنماط معدل الخطأ الديموغرافي التي حددتها اختبارات NIST والأوساط الأكاديمية.

شملت هذه الحالات عادة توليد التعرف على الوجه لخيط تحقيق أولي عُومِل بعدها بثقة أكبر من قِبل المحققين مما تستحقه دقة التقنية الأساسية فعلياً، ما يُبرز أن التحيز في الخوارزمية جزء فقط من الخطر — كيفية استخدام صانعي القرار البشريين للمخرجات مهمة بنفس القدر.

كانت هذه الحوادث الواقعية محورية في النقاش العام وعدة قيود على مستوى المدن والولايات لاستخدام إنفاذ القانون للتعرف على الوجه، لأنها تُثبت أن فجوات معدل الخطأ الإحصائية تُترجَم لأضرار ملموسة وغير متساوية لا أن تبقى قلقاً تقنياً مجرداً بحتاً.

كيف تغيّرت دقة الخوارزميات منذ الدراسات المبكرة

تحسّنت دقة التعرف على الوجه الإجمالية بشكل كبير منذ الأنظمة المُختبرة في دراسة Gender Shades الأصلية عام 2018، مع إظهار اختبارات FRVT المستمرة من NIST انخفاضات كبيرة في معدلات الخطأ عبر معظم الفئات الديموغرافية للخوارزميات المُقدَّمة في سنوات أحدث.

يُعزى الكثير من هذا التحسّن لمجموعات بيانات تدريب أكبر وأكثر تنوعاً ديموغرافياً، وتحسينات معمارية في تصاميم الشبكة العصبية الأساسية، واهتمام متزايد من الصناعة باختبار التحيز كجزء معياري من التطوير عقب التدقيق العام الذي تلا دراسات مثل Gender Shades.

تطوّرت منهجية اختبار NIST أيضاً لتُبلغ بشكل أكثر منهجية عن التفصيلات الديموغرافية، وهذا بحد ذاته خلق ضغطاً على الموردين لمعالجة تفاوتات ربما كانت غير مُقاسة أو غير مُبلَّغ عنها سابقاً في رقم دقة إجمالي بسيط.

لماذا لا يُلغي تحسّن المعدلات العامة الفجوات الديموغرافية

حتى مع تحسّن الدقة الإجمالية، لم تختفِ الفجوات النسبية بين الفئات الديموغرافية، وفي بعض الحالات قد يحقق نظام دقة متوسطة عالية بينما لا يزال يُظهر معدل خطأ أعلى بشكل ملموس لفئة فرعية محددة، لأن المتوسطات يمكن أن تُخفي تفاوتات لا تظهر إلا عند تفصيل النتائج حسب الفئة.

هذا اكتشاف مستمر عبر جولات اختبار NIST: الخوارزميات الأفضل أداءً إجمالياً ليست تلقائياً تلك ذات أصغر الفجوات الديموغرافية، ما يعني أن المطورين يجب أن يختبروا صراحة للتفاوت ويعالجوه كمقياس مستقل بدلاً من افتراض أن تحسينات الدقة العامة ستحله تلقائياً.

يصف الباحثون هذا كسبب مهم لضرورة بقاء اختبار التفصيل الديموغرافي جزءاً معيارياً ومستمراً من تقييم التعرف على الوجه لا تدقيقاً لمرة واحدة، لأن إصدارات النموذج الجديدة قد تُعيد إدخال أو تُغيّر مكان حدوث التفاوتات دون قصد حتى مع تحسّن الأرقام الإجمالية.

جهود تنويع مجموعات بيانات التدريب

استجابةً للتحيز الموثّق، استثمرت عدة شركات تقنية كبرى ومجموعات بحثية في بناء أو توفير مجموعات بيانات تدريب أكثر توازناً ديموغرافياً، وأحياناً استقطبت متطوعين تحديداً عبر نطاق أوسع من درجات البشرة والأعمار والأجناس لتصحيح اختلالات تاريخية.

حاولت مشاريع مثل مجموعة بيانات 'Diversity in Faces' من IBM وجهود أكاديمية متنوعة إنشاء مجموعات بيانات مرجعية متاحة للعامة مُصمَّمة تحديداً مع مراعاة التوازن الديموغرافي، ما يمنح الباحثين مورداً مشتركاً وأكثر تمثيلاً للتدريب والاختبار عليه.

ساعد هذا النهج بشكل قابل للقياس في سدّ بعض فجوات الدقة، رغم أن الباحثين يحذرون من أن تنوّع مجموعة البيانات وحده لا يُلغي التحيز تلقائياً، لأن عوامل مثل قيود أجهزة الكاميرا وكيفية ترجيح بنية النموذج الداخلية لسمات مختلفة لا يزال بإمكانها إدخال تفاوتات حتى مع بيانات تدريب متوازنة.

الاستجابات السياسية والتنظيمية للتحيز الموثّق

أثّرت نتائج التحيز الموثّقة مباشرة على السياسات: مررت عدة مدن أمريكية، منها سان فرانسيسكو وبوسطن، حظراً أو قيوداً كبيرة على استخدام البلديات وإنفاذ القانون لتقنية التعرف على الوجه، مستشهدة بتفاوتات الدقة ومخاوف الحقوق المدنية ضمن أسبابها المُعلَنة.

يتضمن قانون الذكاء الاصطناعي للاتحاد الأوروبي أحكاماً محددة تُقيّد استخدامات معينة للتعرف على الوجه، خاصة التحديد البيومتري الفوري في الأماكن العامة من قِبل إنفاذ القانون، ما يعكس مخاوف مماثلة حول الدقة والتحيز والحريات المدنية التي أثارها الباحثون وجماعات المناصرة.

توضح هذه الاستجابات السياسية كيف انتقلت نتائج الأبحاث التقنية حول التحيز الخوارزمي من الأوراق الأكاديمية إلى أطر قانونية وتنظيمية ملموسة، معاملةً فجوات الدقة الديموغرافية الموثّقة كأساس مشروع لتقييد كيفية وأين يمكن نشر التقنية.

كيف تعمل الاختبارات والتدقيقات المستقلة حالياً

يبقى برنامج FRVT التابع لـNIST إطار الاختبار المستقل المستمر الأشمل، ينشر نتائج مُحدَّثة بانتظام مع تقديم الموردين إصدارات خوارزمية جديدة، مُقدِّماً سجلاً عاماً مُحدَّثاً باستمرار لفروقات الأداء الديموغرافي عبر الصناعة.

يُجري الباحثون الأكاديميون المستقلون والصحفيون ومنظمات المجتمع المدني أيضاً تدقيقاتهم الخاصة، أحياناً باختبار أنظمة منشورة تحت ظروف واقعية بدلاً من مجموعات البيانات المُتحكَّم بها المستخدمة في المعايير الرسمية، وهو ما قد يكشف تفاوتات إضافية لا تلتقطها الاختبارات المخبرية الموحّدة.

أصبح هذا النظام البيئي متعدد الطبقات من الاختبار — هيئات المعايير الحكومية، والباحثون الأكاديميون، ومنظمات الرقابة المستقلة — رقيباً مهماً على ادعاءات الموردين، لأن الشركات المطوّرة لتقنية التعرف على الوجه لديها حافز تجاري للإبلاغ عن أرقام دقة مُواتية.

كيف يبدو النشر المسؤول اليوم

تُشدد إرشادات النشر المسؤول بشكل متزايد على استخدام التعرف على الوجه كمُدخل واحد ضمن عدة مُدخلات لا كأساس وحيد لقرارات مصيرية كالاعتقالات، مقترناً بمراجعة بشرية إلزامية والإفصاح عن دقة الخوارزمية المحددة المُختبَرة ديموغرافياً لحالة الاستخدام ذات الصلة.

تفرض بعض الولايات القضائية الآن على الوكالات استخدام خوارزميات خضعت فقط لاختبار تحيز مستقل، كتقييم NIST، والإبلاغ علناً عن إحصائيات الدقة الديموغرافية قبل نشر التعرف على الوجه لإنفاذ القانون أو قرارات المنافع العامة.

يتفق الباحثون عموماً على أن التحيز في التعرف على الوجه يمكن تقليله بشكل كبير عبر بيانات أفضل واختبار مستمر وممارسات نشر حذرة، لكنهم يحذرون من افتراض زواله تلقائياً، ما يجعل القياس المستقل المستمر، لا إصلاحاً تقنياً لمرة واحدة، المسار الواقعي لسدّ الفجوات المتبقية.

يحدث التحيز في التعرف على الوجه أساساً لأن هذه الأنظمة تتعلّم أنماطاً إحصائية من بيانات تدريب لم تُمثّل، خاصة في الأنظمة المبكرة، الوجوه الداكنة والنساء والفئات العمرية غير البالغة بشكل كافٍ، مُفاقماً بعوامل أجهزة الكاميرا والإضاءة التي تُضعف أكثر بعض درجات البشرة في ظروف التقاط واقعية. حوّلت أبحاث بارزة كدراسة Gender Shades واختبارات FRVT المستمرة من NIST ما كان بعض المستخدمين يشتبهون به أحياناً إلى تفاوتات موثّقة بصرامة وقابلة للقياس، ما دفع بدوره تحسينات حقيقية في تنوّع بيانات التدريب وتصميم الخوارزمية. ضيّقت تلك التحسينات كثيراً من الفجوات، لكن الاختبارات المستقلة تُظهر باستمرار أنها لم تُلغِها، وهذا سبب معاملة الباحثين والجهات التنظيمية، وبشكل متزايد الشركات نفسها، لاختبار الدقة الديموغرافية المستمر كمتطلب دائم لا مشكلة يمكن حلها مرة واحدة ونسيانها.

المصادر

  1. اختبار موردي التعرف على الوجه من NIST (FRVT) — اختبار اتحادي مستقل مستمر لدقة خوارزميات التعرف على الوجه التجارية والبحثية، بما في ذلك التفصيلات الديموغرافية.
  2. مشروع Gender Shades — بحث لجوي بولامويني وتيمنيت جيبرو يوثّق تفاوتات الدقة الديموغرافية في أنظمة تحليل الوجه التجارية.
  3. الاتحاد الأمريكي للحريات المدنية (ACLU) — منظمة حقوق مدنية تتابع حالات سوء تحديد الهوية عبر التعرف على الوجه والسياسات المرتبطة.
  4. تحالف العدالة الخوارزمية (Algorithmic Justice League) — منظمة بحث ومناصرة تركّز على التحيز في التعرف على الوجه وأنظمة الذكاء الاصطناعي المرتبطة.

الأسئلة الشائعة

هل التحيز في التعرف على الوجه متعمد؟

لا، ليس عادة خياراً تصميمياً متعمداً. ينتج عن تعلّم الشبكات العصبية أنماطاً إحصائية من مجموعات بيانات تدريب لم تُمثّل، خاصة في الأنظمة المبكرة، فئات ديموغرافية معينة بشكل كافٍ، منتجةً دقة متفاوتة دون أي قاعدة صريحة تُعامل الفئات بشكل مختلف.

ما الفئات التي أظهرت أعلى معدلات خطأ في اختبارات التعرف على الوجه؟

وجدت اختبارات NIST والأبحاث الأكاديمية، بما فيها دراسة Gender Shades، أن أصحاب البشرة الداكنة والنساء، وخاصة النساء ذوات البشرة الداكنة، أظهروا معدلات خطأ أعلى بشكل غير متناسب في كثير من الأنظمة المُختبرة، إلى جانب الأطفال وكبار السن مقارنة بالبالغين.

هل تحسّن التحيز في التعرف على الوجه مع مرور الوقت؟

نعم، تحسّنت الدقة الإجمالية والفجوات الديموغرافية المتوسطة بشكل كبير منذ 2018، بفضل بيانات تدريب أكثر تنوعاً وتحسينات خوارزمية إلى حد كبير، لكن اختبارات NIST تُظهر أن التفاوتات بين أفضل الفئات وأضعفها أداءً لم تُلغَ.

هل يمكن لبيانات تدريب أفضل وحدها إصلاح التحيز في التعرف على الوجه؟

تساعد بشكل كبير لكنها ليست حلاً كاملاً بمفردها. أجهزة الكاميرا وظروف الإضاءة وكيفية ترجيح بنية النموذج لسمات وجه مختلفة لا تزال قادرة على إدخال تفاوتات حتى مع مجموعة بيانات تدريب متوازنة ديموغرافياً.

لماذا يهم التمييز بين الإيجابية الكاذبة والسلبية الكاذبة في نقاشات التحيز؟

الإيجابية الكاذبة في سياقات إنفاذ القانون قد تؤدي لاتهام أو اعتقال خاطئ، ما يجعل التفاوت في هذا النوع المحدد من الخطأ قلقاً جدياً لحقوق الإنسان، بينما السلبية الكاذبة، كفشل فتح هاتف، عادة مجرد إزعاج.

عن الكاتب

نستند إلى برنامج اختبار موردي التعرف على الوجه من NIST، ومشروع بحث Gender Shades، والاتحاد الأمريكي للحريات المدنية، وتحالف العدالة الخوارزمية لشرح خلفية هذا الموضوع وفهمه الحالي.

هل أعجبك المقال؟

شاركه عبر واتساب ← شاركه عبر واتساب

احصل على المزيد من الأدلة في بريدك — اشترك في نشرتنا البريدية لقصص مفاجئة أسبوعية من مصر والسعودية ودبي وأكثر.