الحقوق المدنية والتمييز ومراقبة الذكاء الاصطناعي

الأتمتة لا تُعلّق قانون الحقوق المدنية

يمكن لصاحب عمل، أو مالك عقار، أو مُقرِض، أو مدرسة، أو شركة تأمين، أو إدارة شرطة، أو وكالة مزايا أن يستخدم خوارزمية دون أن يفلت من الواجبات التي تحكم القرار. وفي الولايات المتحدة، يمكن أن تنطبق قوانين مثل الباب السابع، وقانون الأمريكيين ذوي الإعاقة، وقانون الإسكان العادل، وقانون تكافؤ فرص الائتمان، وضمانات الإجراءات القانونية الواجبة الدستورية، بحسب الجهة الفاعلة والسياق. وتختلف نطاقات التغطية، والمعايير القانونية، وسبل الانتصاف؛ وهذه الصفحة ليست استشارة قانونية.

وتنبع المخاوف الحالية من نماذج إحصائية، وأنظمة ترتيب، وقياسات حيوية، وذكاء اصطناعي توليدي. أما الادعاءات بأن الذكاء العام الاصطناعي سيخلق مراقبة شاملة أو يتنبأ بالسلوك بدقة تامة فهي تنبؤات مشروطة، لا قدرة ملحوظة فعليًا.

يمكن للتمييز أن يتسلل في كل مرحلة

قد تُشفّر البيانات التاريخية استبعادًا سابقًا. وقد تعكس التصنيفات حالات اعتقال لا ارتكاب مخالفة فعلي، أو إنفاقًا صحيًا لا حاجة فعلية، أو تقييمات مدير لا أداءً حقيقيًا. والسمات التي تحذف العرق يمكن أن تظل بديلًا غير مباشر عن الصفة المحمية عبر الجغرافيا، أو المدرسة، أو اللغة، أو الإعاقة، أو الشبكة الاجتماعية.

وتحدد خيارات التصميم من المُمثَّل، وأي نتيجة يُحسَّن من أجلها، وأي الأخطاء تهم. ويخلق النشر مشكلات إضافية: فقد يفرط الموظفون في الثقة بدرجة تقييم، وقد يعجز المتقدمون عن تصحيح سجلاتهم، وقد تفشل أداة اختُبرت على المستوى الوطني في تجمّع سكاني محلي. ويمكن للدقة الإجمالية لمورّد ما أن تُخفي معدلات مرتفعة من الإيجابيات أو السلبيات الكاذبة بالنسبة لفئة فرعية.

ويمكن أن تتعارض مقاييس العدالة. فمعادلة معدل خطأ واحد قد تُفاقم آخر، خصوصًا عندما تختلف المعدلات الفعلية المقيسة الكامنة. ولا تستطيع الرياضيات وحدها تحديد أي مفاضلة قانونية أو عادلة. وعلى المؤسسات ربط المقاييس بالحقوق، والغرض، والعواقب.

التوظيف يوضّح المسؤولية المشتركة

يستخدم أصحاب العمل برمجيات لفرز السير الذاتية، وتقييم الاختبارات، وتحليل الفيديو، وجدولة العمل، ومراقبة الإنتاجية، والتوصية بالترقية أو الفصل. وتحذّر لجنة تكافؤ فرص العمل الأمريكية ووزارة العدل من أن الأدوات الخوارزمية يمكن أن تستبعد بشكل غير قانوني ذوي الإعاقة، وأن أصحاب العمل قد يحتاجون إلى توفير تسهيلات معقولة (لجنة تكافؤ فرص العمل ووزارة العدل، مايو 2022).

وشراء أداة لا ينقل كل المسؤولية إلى المورّد. فعلى أصحاب العمل التحقق من صلاحيتها للوظيفة والفئة السكانية، وإخطار المتقدمين، وتوفير بدائل يمكن الوصول إليها، ومراقبة النتائج، والتحري عن طرائق أقل تمييزًا. ويحتاج المتقدمون إلى وسيلة للطعن في بيانات خاطئة والحصول على مراجعة بشرية قبل أن يصبح قرار سلبي نهائيًا.

ويستحق استنتاج السمات من الصوت، أو نظرة العين، أو تعبير الوجه، أو الشخصية شكًّا خاصًا. فقد تترابط إشارة ما داخل عينة تدريب دون أن تقيس بموثوقية كفاءة العمل، ويمكن للإعاقة أو الاختلاف الثقافي أن يُغيِّرها. وينبغي أن تُدعَّم ادعاءات “قراءة” الذكاء الاصطناعي للمشاعر بأدلة صلاحية مستقلة للاستخدام الفعلي.

الإسكان، والائتمان، والخدمات الأساسية

تجمع أنظمة فرز المستأجرين سجلات ائتمانية، وسجلات إخلاء، وسجلات جنائية، وسجلات هوية قد تكون ناقصة أو غير مُطابَقة بدقة. وتنص إرشادات وزارة الإسكان الأمريكية (HUD) لعام 2024 على أن قانون الإسكان العادل ينطبق على فرز المستأجرين بالتعلّم الآلي، وأن مزوّدي السكن وشركات الفرز كليهما يتحملان دورًا في ضمان قرارات عادلة، ودقيقة، وشفافة (إرشادات HUD المؤرشَفة، أبريل 2024).

ويمكن للإعلانات الآلية أيضًا استبعاد أشخاص قبل أن يتقدموا أصلًا، عبر توجيه فرص السكن أو العمل بشكل انتقائي. وفي الإقراض، قد توسّع البيانات البديلة إمكانية الوصول لأصحاب السجلات الائتمانية الرقيقة، أو قد تُعيد إنتاج تفاوتات الحي والدخل. والمقارنة الصحيحة ليست بين الخوارزمية وإنسان كامل، بل بين عملية مُختبَرة والبديل الفعلي، مع الحفاظ على الحقوق في كلتا الحالتين.

وتنطوي المزايا، والرعاية الصحية، والتأمين على مخاطر عالية بوجه خاص. ويمكن للفرز الأولي أن يساعد الموظفين على ترتيب أولويات الحالات، لكن لا ينبغي لدرجة تقييم غامضة أن تتحول إلى رفض غير قابل للاستئناف. وتحتاج الوكالات إلى إشعار، وسبب، وإمكانية الوصول إلى الأدلة، ومراجعة بشرية في وقتها، واستمرارية أثناء تسوية أي خطأ.

الذكاء الاصطناعي التوليدي يضيف أضرار تمثيل واستنتاج

يمكن للأنظمة التوليدية إنتاج قوالب نمطية، وتلفيق اتهامات، والكشف عن بيانات شخصية محفوظة، أو استنتاج سمات حساسة من معلومات عادية. ويحدد ملف الذكاء الاصطناعي التوليدي الطوعي الصادر عن NIST التحيّز الضار، والتجانس، والخصوصية، والتخريف من بين المخاطر المشتركة عبر القطاعات (NIST AI 600-1، يوليو 2024).

وإرشادات NIST ليست قانونًا مُلزِمًا. فهي توفّر مفردات لإدارة المخاطر. وينبغي أن تُحدِّد ادعاءات الامتثال ما اختبرته المنظمة وغيّرته فعليًا، لا أن تكتفي بالقول إنها “تستخدم إطار NIST”.

المراقبة تُغيِّر موازين القوى حتى عندما تكون دقيقة

يمكن للذكاء الاصطناعي أن يُقلِّل تكلفة البحث في الكاميرات، والأصوات، والمواقع، والمشتريات، والاتصالات، ونشاط مكان العمل. ولا يقتصر الضرر على تحديد الهوية الخاطئ. فالمراقبة الدقيقة يمكن أن تُثبِّط الاحتجاج، والتجمّع، والممارسة الدينية، والرعاية الطبية، أو التنظيم النقابي. وقد يُغيِّر شخص ما سلوكًا قانونيًا لأن المراقبة مستمرة والقرارات غامضة.

ويمكن لتحديد الهوية البيومترية أن يساعد في تحديد موقع شخص مفقود أو فتح جهاز. ويمكنه أيضًا أن يُتيح تتبعًا على مستوى السكان بأكملهم. وتعتمد التناسبية على الغرض، والإذن أو السلطة، ومدة الاحتفاظ بالبيانات، وجودة قائمة المراقبة، والمراجعة البشرية، ونسبة الخطأ، وما إذا كانت هناك وسائل أقل تدخلًا.

والزحف الوظيفي متوقَّع: فالبيانات المجموعة لغرض أمني قد تخدم لاحقًا التسويق، أو الهجرة، أو تقييم الإنتاجية، أو إنفاذ القانون. وتقييد الغرض، وقِصَر مدة الاحتفاظ، وسجلات الوصول، والحذف ضوابط جوهرية.

التدقيق يحتاج إلى أنياب فعلية

يمكن للتدقيق أن يفحص البيانات، وأداء الفئات الفرعية، والأمن، والحوكمة، والامتثال القانوني. واختبار يختاره المورّد على مجموعة بيانات مُنتقاة أضعف من تقييم مستقل مع وصول إلى بيئة الإنتاج الفعلية. ويحتاج المدقّقون إلى حماية من الانتقام، وحرية نشر القيود الجوهرية، ومعلومات كافية لإعادة إنتاج النتائج.

وينبغي أن تجري تقييمات الأثر قبل الشراء ومجددًا بعد النشر. وعليها تحديد الفئات المتأثرة، والبدائل، ومصادر البيانات، وعواقب الأخطاء، والاستئناف، ومعايير الإيقاف. ومراقبة النتائج الإجمالية ضرورية لأن اختبارات ما قبل النشر لا يمكنها توقّع كل ظرف محلي.

ويجب أن تكون الشفافية عملية الاستخدام فعليًا. فنشر ورقة بحثية تقنية لا يخبر متقدمًا لماذا رُفض طلبه. ويحتاج الإشعار الفردي إلى العوامل الحاسمة ومسار تصحيح؛ وتحتاج الشفافية العامة إلى الأداء، والعقود، والحوادث، وسلطة الوكالة.

المشاركة والانتصاف

ينبغي أن يساعد الأشخاص الخاضعون لنظام ما في تحديد معنى النجاح والضرر غير المقبول. فمجموعات ذوي الإعاقة يمكنها تحديد اختبارات يتعذر الوصول إليها؛ والمستأجرون يمكنهم شرح أخطاء السجلات؛ والعمال يمكنهم كشف كيف تُغيِّر المراقبة السلوك. والتشاور بعد توقيع عقد له نفوذ ضئيل.

وينبغي أن يشمل الانتصاف التصحيح، وإعادة النظر، واستعادة الفرصة الضائعة حيثما أمكن، والتعويض عن الضرر، والتغيير المؤسسي. ويجب أن تكون المراجعة البشرية مستقلة ومُخوَّلة بصلاحية فعلية، لا مجرد خَتم موافقة على درجة التقييم.

سيناريوهات الذكاء العام الاصطناعي

يمكن لعملاء أكثر قدرة أن يجمعوا قواعد بيانات، ويستنتجوا سمات حميمة، ويُخصِّصوا التلاعب، ويُؤتمِتوا قرارات المراقبة. ويمكنهم أيضًا أن يساعدوا في كشف التمييز، وترجمة الشكاوى، وجعل الدعم القانوني أكثر إتاحة. ولا تنبع أي من هاتين النتيجتين من الذكاء وحده. فالقانون، وضوابط الوصول، والحوافز المؤسسية، والملكية هي ما يحدد الاستخدام.

والمعيار العملي واضح ومباشر: لا تنشر نظامًا يمسّ الحقوق دون غرض قانوني، ودليل على الصلاحية، واختبار على الفئات الفرعية، وتقليل للبيانات، وإشعار يمكن الوصول إليه، واستئناف بشري ذي معنى، وإشراف مستقل، وانتصاف. والدقة ضرورية في كثير من السياقات، لكن الحقوق المدنية تفرض حدودًا على ما يجوز للمؤسسات فعله حتى بدقة.