آٹومیشن شہری حقوق کے قانون کو معطل نہیں کرتی
ایک آجر، مکان مالک، قرض دہندہ، اسکول، بیمہ کار، پولیس ڈیپارٹمنٹ، یا فوائد کی ایجنسی ان فرائض سے بچے بغیر ایک الگورتھم استعمال کر سکتی ہے جو فیصلے پر حکومت کرتے ہیں۔ ریاستہائے متحدہ میں، Title VII، Americans with Disabilities Act، Fair Housing Act، Equal Credit Opportunity Act، اور آئینی قانونی طریقہ کار کے تحفظات جیسے قوانین اداکار اور سیاق و سباق پر منحصر لاگو ہو سکتے ہیں۔ کوریج، قانونی معیارات، اور تدارک مختلف ہوتے ہیں؛ یہ صفحہ قانونی مشورہ نہیں ہے۔
آج کے خدشات شماریاتی ماڈلز، درجہ بندی کے نظام، بائیومیٹرکس، اور جنریٹو AI سے پیدا ہوتے ہیں۔ یہ دعوے کہ AGI عالمگیر نگرانی پیدا کرے گا یا رویے کی بالکل درست پیش گوئی کرے گا مشروط پیش گوئیاں ہیں، مشاہدہ شدہ صلاحیت نہیں۔
امتیاز ہر مرحلے پر داخل ہو سکتا ہے
تاریخی ڈیٹا پہلے کے اخراج کو انکوڈ کر سکتا ہے۔ لیبل جرم کے بجائے گرفتاریوں، ضرورت کے بجائے صحت کے اخراجات، یا کارکردگی کے بجائے مینیجر کی درجہ بندی کی عکاسی کر سکتے ہیں۔ وہ خصوصیات جو نسل کو خارج کرتی ہیں پھر بھی جغرافیہ، اسکول، زبان، معذوری، یا نیٹ ورک کے ذریعے محفوظ حیثیت کے لیے متبادل بن سکتی ہیں۔
ڈیزائن کے انتخاب یہ طے کرتے ہیں کہ کس کی نمائندگی کی جاتی ہے، کون سا نتیجہ بہتر بنایا جاتا ہے، اور کون سی غلطیاں اہم ہیں۔ تعیناتی مزید مسائل پیدا کرتی ہے: عملہ کسی اسکور پر زیادہ اعتماد کر سکتا ہے، درخواست دہندگان ریکارڈز درست کرنے سے قاصر ہو سکتے ہیں، اور قومی سطح پر جانچا گیا آلہ مقامی آبادی میں ناکام ہو سکتا ہے۔ ایک فروخت کنندہ کی مجموعی درستگی کسی ذیلی گروپ کے لیے زیادہ غلط منفی یا غلط مثبت شرحوں کو چھپا سکتی ہے۔
انصاف کے پیمانے متصادم ہو سکتے ہیں۔ ایک غلطی کی شرح کو برابر کرنا دوسری کو بدتر بنا سکتا ہے، خاص طور پر جب بنیادی ناپی گئی شرحیں مختلف ہوں۔ ریاضی یہ فیصلہ نہیں کر سکتا کہ کون سا تبادلہ قانونی یا منصفانہ ہے۔ اداروں کو پیمانوں کو حقوق، مقصد، اور نتائج سے جوڑنا چاہیے۔
ملازمت مشترکہ ذمہ داری کی مثال دیتی ہے
آجر ریزیومے چھاننے، ٹیسٹ اسکور کرنے، ویڈیو کا تجزیہ کرنے، کام کا شیڈول بنانے، پیداواریت کی نگرانی کرنے، اور ترقی یا برطرفی کی سفارش کرنے کے لیے سافٹ ویئر استعمال کرتے ہیں۔ U.S. Equal Employment Opportunity Commission اور Department of Justice خبردار کرتے ہیں کہ الگورتھمک آلات غیرقانونی طور پر معذور افراد کو چھان سکتے ہیں اور یہ کہ آجروں کو معقول رہائش فراہم کرنے کی ضرورت ہو سکتی ہے (EEOC اور DOJ، مئی 2022)۔
کوئی آلہ خریدنا تمام ذمہ داری فروخت کنندہ کو منتقل نہیں کرتا۔ آجروں کو اسے ملازمت اور آبادی کے لیے توثیق کرنی چاہیے، درخواست دہندگان کو مطلع کرنا چاہیے، قابلِ رسائی متبادل پیش کرنے چاہئیں، نتائج کی نگرانی کرنی چاہیے، اور کم امتیازی طریقوں کی تحقیقات کرنی چاہیے۔ درخواست دہندگان کو غلط ڈیٹا کو چیلنج کرنے اور کسی منفی فیصلے کے حتمی ہونے سے پہلے انسانی جائزہ حاصل کرنے کا ایک طریقہ درکار ہے۔
آواز، نظر، چہرے کے تاثرات، یا شخصیت کے اندازے کو خاص شکوک و شبہات کا مستحق ہونا چاہیے۔ ایک اشارہ تربیتی نمونے میں ارتباط رکھ سکتا ہے بغیر قابلِ اعتماد طریقے سے ملازمت کی اہلیت ناپے، اور معذوری یا ثقافتی فرق اسے بدل سکتا ہے۔ یہ دعوے کہ AI جذبات پڑھتا ہے حقیقی استعمال کے لیے آزادانہ درستگی کے ثبوت سے حمایت یافتہ ہونے چاہئیں۔
رہائش، قرض، اور ضروری خدمات
کرایہ دار کی چھانٹی کے نظام کریڈٹ، بے دخلی، مجرمانہ، اور شناختی ریکارڈز کو یکجا کرتے ہیں جو نامکمل یا بے میل ہو سکتے ہیں۔ HUD کی 2024 کی رہنمائی بیان کرتی ہے کہ Fair Housing Act مشین لرننگ کے ساتھ کرایہ دار کی چھانٹی پر لاگو ہوتا ہے اور یہ کہ رہائش فراہم کنندگان اور چھانٹی کرنے والی فرمیں دونوں منصفانہ، درست، شفاف فیصلوں کو یقینی بنانے میں کردار رکھتی ہیں (آرکائیو شدہ HUD رہنمائی، اپریل 2024)۔
خودکار اشتہار بازی رہائش یا ملازمت کے مواقع کو منتخب طور پر پہنچا کر لوگوں کو درخواست دینے سے پہلے ہی خارج بھی کر سکتی ہے۔ قرض دینے میں، متبادل ڈیٹا کم کریڈٹ فائلوں والے لوگوں کے لیے رسائی بڑھا سکتا ہے یا محلے اور آمدنی کی تفاوت کو دہرا سکتا ہے۔ درست موازنہ الگورتھم بمقابلہ کامل انسان نہیں ہے؛ یہ ایک جانچا گیا عمل بمقابلہ حقیقی متبادل ہے، دونوں میں حقوق محفوظ رکھتے ہوئے۔
فوائد، صحت کی دیکھ بھال، اور بیمہ میں خاص طور پر زیادہ داؤ شامل ہیں۔ ٹرائیج عملے کو کیسز کو ترجیح دینے میں مدد کر سکتا ہے، لیکن ایک مبہم اسکور ایک ناقابلِ اپیل انکار نہیں بننا چاہیے۔ ایجنسیوں کو نوٹس، وجہ، ثبوت تک رسائی، بروقت انسانی جائزہ، اور تسلسل کی ضرورت ہے جب کوئی غلطی حل کی جا رہی ہو۔
جنریٹو AI نمائندگی اور اندازے کے نقصانات میں اضافہ کرتا ہے
جنریٹو نظام دقیانوسی تصورات پیدا کر سکتے ہیں، الزامات گھڑ سکتے ہیں، یاد رکھا گیا ذاتی ڈیٹا ظاہر کر سکتے ہیں، یا عام معلومات سے حساس خصوصیات کا اندازہ لگا سکتے ہیں۔ NIST کا رضاکارانہ Generative AI Profile شعبہ جاتی خطرات میں نقصان دہ تعصب، یکسانیت، رازداری، اور من گھڑت باتوں کی نشاندہی کرتا ہے (NIST AI 600-1، جولائی 2024)۔
NIST کی رہنمائی پابند قانون نہیں ہے۔ یہ ایک رسک مینجمنٹ کی اصطلاحات فراہم کرتی ہے۔ تعمیل کے دعووں کو یہ واضح کرنا چاہیے کہ کسی تنظیم نے دراصل کیا جانچا اور بدلا، محض یہ کہنے کے بجائے کہ وہ “NIST فریم ورک استعمال کرتی ہے۔”
نگرانی طاقت کو بدل دیتی ہے چاہے وہ درست ہی کیوں نہ ہو
AI کیمروں، آوازوں، مقامات، خریداریوں، مواصلات، اور کام کی جگہ کی سرگرمی کو تلاش کرنا سستا بنا سکتا ہے۔ نقصان غلط شناخت تک محدود نہیں ہے۔ درست نگرانی احتجاج، تنظیم سازی، مذہبی مشق، طبی دیکھ بھال، یا مزدور تنظیم سازی کو ٹھنڈا کر سکتی ہے۔ کوئی شخص اپنا قانونی رویہ بدل سکتا ہے کیونکہ مشاہدہ مستقل ہے اور فیصلے مبہم ہیں۔
بائیومیٹرک شناخت ایک گمشدہ شخص کو تلاش کرنے یا کسی آلے کو کھولنے میں مدد کر سکتی ہے۔ یہ آبادی کے پیمانے پر ٹریکنگ کو بھی ممکن بنا سکتی ہے۔ تناسب مقصد، وارنٹ یا اختیار، برقراری، واچ لسٹ کے معیار، انسانی جائزہ، غلطی، اور کیا کم مداخلتی ذرائع موجود ہیں پر منحصر ہے۔
فنکشن کریپ قابلِ پیش گوئی ہے: سیکیورٹی کے لیے جمع کیا گیا ڈیٹا بعد میں مارکیٹنگ، امیگریشن، پیداواریت کے اسکورنگ، یا قانون کے نفاذ کی خدمت کر سکتا ہے۔ مقصد کی حد بندی، مختصر برقراری، رسائی کے لاگز، اور حذف کرنا حقیقی کنٹرول ہیں۔
آڈٹس کو دانت درکار ہیں
ایک آڈٹ ڈیٹا، ذیلی گروپ کی کارکردگی، سیکیورٹی، حکمرانی، اور قانونی تعمیل کا جائزہ لے سکتا ہے۔ ایک ترتیب دیے گئے ڈیٹا سیٹ پر فروخت کنندہ کے منتخب کردہ ٹیسٹ کی پیداواری رسائی کے ساتھ آزادانہ تشخیص سے کمزور ہے۔ آڈیٹروں کو انتقامی کارروائی سے تحفظ، اہم حدود شائع کرنے کی آزادی، اور نتائج کو دہرانے کے لیے کافی معلومات کی ضرورت ہے۔
اثرات کی تشخیص خریداری سے پہلے اور تعیناتی کے بعد دوبارہ ہونی چاہیے۔ انہیں متاثرہ گروہوں، متبادلات، ڈیٹا کے ذرائع، غلطی کے نتائج، اپیل، اور بندش کے معیار کی نشاندہی کرنی چاہیے۔ مجموعی نتائج کی نگرانی ضروری ہے کیونکہ تعیناتی سے پہلے کے ٹیسٹ ہر مقامی حالت کی پیش گوئی نہیں کر سکتے۔
شفافیت قابلِ استعمال ہونی چاہیے۔ ایک تکنیکی پیپر شائع کرنا کسی درخواست دہندہ کو یہ نہیں بتاتا کہ اسے کیوں مسترد کیا گیا۔ انفرادی نوٹس کو فیصلہ کن عوامل اور اصلاح کے راستے کی ضرورت ہے؛ عوامی شفافیت کو کارکردگی، معاہدوں، واقعات، اور ایجنسی کے اختیار کی ضرورت ہے۔
شرکت اور تدارک
جو لوگ کسی نظام کے تابع ہیں انہیں یہ متعین کرنے میں مدد کرنی چاہیے کہ کامیابی اور ناقابلِ قبول نقصان کا کیا مطلب ہے۔ معذوری کے گروہ ناقابلِ رسائی ٹیسٹ کی نشاندہی کر سکتے ہیں؛ کرایہ دار ریکارڈ کی غلطیوں کی وضاحت کر سکتے ہیں؛ کارکن ظاہر کر سکتے ہیں کہ نگرانی رویے کو کیسے بدلتی ہے۔ معاہدے پر دستخط ہونے کے بعد مشاورت میں بہت کم اثر و رسوخ ہوتا ہے۔
تدارک میں اصلاح، دوبارہ غور، جہاں ممکن ہو کھوئے ہوئے موقع کی بحالی، نقصان کا معاوضہ، اور تنظیمی تبدیلی شامل ہونی چاہیے۔ انسانی جائزہ آزاد اور بااختیار ہونا چاہیے، اسکور کی محض مہر نہیں۔
AGI کے منظرنامے
زیادہ قابل ایجنٹ ڈیٹا بیس یکجا کر سکتے ہیں، قریبی خصوصیات کا اندازہ لگا سکتے ہیں، جوڑ توڑ کو ذاتی بنا سکتے ہیں، اور نگرانی کے فیصلوں کو خودکار بنا سکتے ہیں۔ وہ امتیاز کو بے نقاب کرنے، شکایات کا ترجمہ کرنے، اور قانونی معاونت کو زیادہ قابلِ رسائی بنانے میں بھی مدد کر سکتے ہیں۔ کوئی بھی نتیجہ صرف ذہانت سے نہیں نکلتا۔ قانون، رسائی کے کنٹرول، ادارہ جاتی ترغیبات، اور ملکیت استعمال کا تعین کرتے ہیں۔
عملی معیار سیدھا سادہ ہے: کسی حقوق کو متاثر کرنے والے نظام کو بغیر کسی قانونی مقصد، درستگی کے ثبوت، ذیلی گروپ کی جانچ، ڈیٹا کی کمی، قابلِ رسائی نوٹس، بامعنی انسانی اپیل، آزادانہ نگرانی، اور تدارک کے تعینات نہ کریں۔ درستگی بہت سے ماحول میں ضروری ہے، لیکن شہری حقوق اداروں کو یہاں تک کہ درست طور پر بھی کیا کرنے کی اجازت ہے اس پر حدود کا تقاضا کرتے ہیں۔