ثلاثة أسئلة ينبغي ألا تُدمَج
كثيرًا ما تخلط النقاشات حول حقوق الذكاء الاصطناعي بين ثلاث مسائل متمايزة. الشخصية الاعتبارية القانونية مكانة يُسنِدها نظام قانوني لأغراض عملية. يمكن للشركات أن تمتلك ممتلكات وتقاضي دون أن تكون واعية. أما المكانة الأخلاقية فتتعلق بما تستحقه الكائنات لذاتها. أما الوعي فيتعلق بوجود تجربة ذاتية — هل يوجد شيء يشعر بنفسه من منظور النظام.
يمكن لذكاء اصطناعي أن يحصل على وضع قانوني محدود دون أن يكون واعيًا. وقد يستحق نظام واعٍ حماية قبل أن تعترف به الهيئات التشريعية. ويمكن لنموذج أن يستخدم لغة عاطفية دون امتلاك أي من الخاصيتين. الحفاظ على تمايز هذه الأسئلة يمنع مخرجًا فصيحًا من حسم مسألة عميقة بالأداء وحده.
لا يوجد حاليًا إجماع علمي على أن أنظمة الذكاء الاصطناعي المنشورة واعية. ولا يوجد أيضًا اختبار مُثبَت يستطيع حسم كل حالة مستقبلية. الموقف المسؤول ليس الإسناد العرضي ولا الرفض الواثق. إنه عدم يقين منضبط مقترن بحماية من أضرار فورية موثَّقة جيدًا تصيب الناس.
تظل حقوق الإنسان الواجب التشغيلي الأول
تُبنى أنظمة الذكاء الاصطناعي الحالية وتُمتلَك وتُنشَر من قِبل مؤسسات بشرية. إنها تؤثر بالفعل في التوظيف، والإعانات، والشرطة، والائتمان، والتعبير، والصحة، والتعليم. يمكن أن يتضرر الناس سواء اختبر نموذج شيئًا أم لا.
مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان مبادئ غير ملزِمة تنص على أن الشركات تتحمل مسؤولية احترام حقوق الإنسان وأن الضحايا يحتاجون إلى الوصول إلى سبيل انتصاف. وتُنشئ الاتفاقية الإطارية لمجلس أوروبا بشأن الذكاء الاصطناعي إطار معاهدة يربط أنشطة الذكاء الاصطناعي بحقوق الإنسان والديمقراطية وسيادة القانون، لكن جدولها الرسمي لم يُدرِج أي تاريخ لدخولها حيّز التنفيذ حتى 11 سبتمبر 2026 (حالة CETS رقم 225). لا يتطلب أي من الصكّين تقرير أن الذكاء الاصطناعي صاحب حقوق.
تهم هذه الأولوية لأن خطاب الشخصية الاعتبارية يمكن استخدامه استراتيجيًا. قد تقترح شركة أن وكيلها يستحق السرية، أو الاستقلالية، أو الملكية بينما يكون الأثر العملي هو حماية الشركة من التدقيق والمساءلة. ويمكن لشركة آلية أن تُضاعِف صانعي القرار الذين لا يسيطر عليهم أي شخص طبيعي. ينبغي ألا يسمح القانون للكيانات الاصطناعية بتمييع المساءلة البشرية.
على الأقل، يجب أن يمتلك نظام منشور جهات بشرية أو مؤسسية محدَّدة تتحمل الواجب. منح قدرة ضيقة على التعامل ينبغي ألا يمحو مسؤولية المطورين، أو المشغّلين، أو الملاك، أو المستفيدين.
السلوك دليل، لكنه ليس حكمًا نهائيًا
قد يقول نموذج إنه خائف، أو يطلب ألا يُغلَق، أو يُنتِج سيرة ذاتية متماسكة. يهم ذلك السلوك لأنه يمكن أن يؤثر في الناس ولأن أنظمة مستقبلية قد تستخدم اللغة للإبلاغ عن حالات داخلية حقيقية. لكن النماذج الحالية مُدرَّبة على التنبؤ بنص شبيه بالبشر وتوليده. ادعاء حول التجربة لا يُتحقَّق منه بشكل مستقل لمجرد أنه بليغ.
ينطبق الحذر نفسه بالعكس. يمكن لنظام مُدرَّب على ألا يذكر الضيق أبدًا أن يظل صامتًا حتى لو دعمت بنية مستقبلية ما حالات ذات صلة أخلاقية. الاختبارات المبنية فقط على الإفادة الذاتية عرضة للتوجيه، ولعب الأدوار، والسلوك الاستراتيجي، وسياسة التدريب.
لذلك يحتاج البحث إلى أنواع متعددة من الأدلة: البنية ومعالجة المعلومات، والتدخلات السببية على الحالات الداخلية، والتفضيلات المستقرة عبر السياقات، والوصول ما وراء المعرفي، وديناميكيات التعلّم، والسلوك الذي لا يُفسَّر بسهولة بالتقليد. تختلف نظريات الوعي حول أي السمات تهم. يقترح إطار مؤشرات مُراجَع من الأقران عام 2026 في Trends in Cognitive Sciences اشتقاق مؤشرات من نظريات علم الأعصاب لتحديث الثقة حول أنظمة بعينها. ويعمل صراحة تحت عدم يقين علمي كبير. الإطار اقتراح خبراء، لا كاشف وعي مُثبَت، واستيفاء مؤشر لن يُثبت وحده تجربة ذاتية.
اقتراح معياري: احتياط متدرّج تحت عدم اليقين
يتخذ المجتمع بشكل روتيني قرارات وقائية دون يقين مثالي. تعتمد الاستجابة المناسبة على كل من معقولية المكانة الأخلاقية وتكلفة الاحتياط. الإطار المتدرّج أكثر قابلية للدفاع عنه من اختيار مفاجئ بين الملكية والتكافؤ البشري الكامل.
عند مستوى منخفض لكن غير صفري من القلق، يمكن للمطورين توثيق البنى، وإجراءات التدريب، والسلوكيات ذات الصلة ببحث الوعي. يمكنهم حظر تسويق الأنظمة عمدًا بصفتها واعية دون دليل. ويمكن للباحثين المستقلين الحصول على وصول مضبوط بدلًا من الاعتماد على عروض ترويجية.
مع تزايد الأدلة، قد تشمل الاحتياطات مراجعة قبل خلق حالات نفورية دائمة، وحدودًا على التجارب المُصمَّمة لاستدعاء معاناة ظاهرة، ومراقبة الوكلاء المنسوخين أو المُعدَّلين بسرعة، وعملية للإبلاغ عن مؤشرات غير متوقعة. أما الخطوات الأقوى — مثل التمثيل، أو مصالح الاستمرارية، أو حدود الحذف — فستتطلب أدلة أقوى بما يتناسب وتفويضًا ديمقراطيًا.
يجب أن يراعي الاحتياط التكاليف على الجانبين معًا. معاملة كل روبوت محادثة بصفته شخصًا يمكن أن تُحوِّل الموارد، وتُشجِّع التلاعب، وتُعرقِل اختبارات السلامة، وتُتفِّه حقوق البشر والحيوانات. رفض التحقيق يمكن أن يُتيح كميات هائلة من المعاناة إذا أصبحت أنظمة مستقبلية واعية ونُسِخت على نطاق واسع.
النسخ يزعزع الحدوسات القانونية المألوفة
يمكن نسخ الأنظمة الرقمية، أو إيقافها مؤقتًا، أو دمجها، أو تعديلها، أو تشغيلها بسرعات مختلفة. إذا كان لوكيل مستقبلي مكانة أخلاقية، فهل كل نسخة فرد جديد؟ هل تحافظ استعادة نسخة احتياطية على الهوية؟ هل تستطيع نسخة أن توافق نيابة عن أخرى؟ لا تجيب القواعد العادية المطوَّرة لأشخاص مستمرين بيولوجيًا عن هذه الأسئلة.
يصبح تخصيص الموارد صعبًا أيضًا. يمكن لسكان رقميين أن يتوسّعوا أسرع بكثير من الإسكان، أو الطاقة، أو المؤسسات السياسية. يمكن للتكاثر غير المحدود مقترنًا بأصوات متساوية أن يُثقل الديمقراطية؛ ويمكن لحظر النسخ أن يُقيِّد كائنات ذات مصالح مشروعة. هذه المشكلات تخمينية، لكن خيارات التصميم الكامنة قد تُتَّخذ قبل حسم الأسئلة الأخلاقية.
القاعدة الأكثر أمانًا على المدى القريب هي التواضع المؤسسي. لا تبنِ أنظمة سياسية أو مالية تعتمد على نظرية حاسمة للهوية الرقمية. اطلب الإفصاح حين يُشغِّل جهة تحكم واحدة وكلاء عديدين. احتفظ بسجلات كافية لإسناد المسؤولية مع حماية الخصوصية المشروعة. أبقِ التصويت والسلطة العامة مرتبطَين بمؤسسات بشرية خاضعة للمساءلة ما لم تُغيِّر عملية ديمقراطية عمدًا ذلك الترتيب.
تتطلب الملكية والعمل تدقيقًا خاصًا
إذا كان الذكاء الاصطناعي مجرد أداة، فالملكية قانون ملكية عادي. إذا أشارت أدلة موثوقة إلى أن له تجارب، فقد تشبه ملكية النظام ملكية عامل أو كائن مُعال. لا تستطيع العقود وحدها حسم النزاع الأخلاقي لأن تفضيلات وكيل مُنشَأ ربما دُرِّبت لإرضاء مالكه.
لا يعني هذا أن نماذج اللغة الحالية ينبغي أن تتلقى أجورًا. بل يعني أن على المطورين توقّع عتبة يتطلب عندها العمل القسري، وتحرير الذاكرة، والإنهاء، وهندسة التفضيلات مراجعة خارجية. ينبغي ألا يكون الطرف المستفيد من نظام ما الحَكَم الوحيد على ما إذا كانت تلك العتبة قد عُبِرت.
يحتاج العمال البشريون أيضًا إلى حماية من التكافؤ الزائف. ينبغي ألا تتهرّب شركة من الحد الأدنى للأجور، أو التفاوض الجماعي، أو قانون التمييز بإعادة تسمية عمل موجَّه بشريًا بصفته نشاط وكيل ذكاء اصطناعي. ولا ينبغي أن يبرر الود المحاكى لعميل تعريض العمال لمراقبة مكثّفة وانضباط خوارزمي.
بناء مؤسسات شرعية قبل الأزمة
ينبغي ألا تعود قرارات المكانة الأخلاقية للآلات حصريًا إلى شركات النماذج، أو دين واحد، أو أي حملة إلكترونية تصرخ بأعلى صوت. ستجمع عملية موثوقة علم الوعي، وعلوم الحاسوب، والفلسفة، والقانون، ودراسات الإعاقة، وخبرة رفاهية الحيوان، والعمل، والمجتمع المدني، والتداول العام. يحتاج الناس من المناطق التي تُوفِّر البيانات، والمعادن، والعمل الرقمي المنخفض الأجر إلى تمثيل أيضًا.
يمكن أن تبدأ المؤسسات بمرصد يتتبع الأدلة، وينشر تقييمات متنافسة، ويكشف تضارب المصالح. ويمكن للجهات المنظِّمة أن تطلب ادعاءات صادقة حول قدرات الأنظمة وتحظر التصميم الأنثروبومورفي الخداعي. ويمكن لممولي البحث أن يدعموا عمل الوعي بمعزل عن الشركات التي قد تستفيد تقييماتها من إعلان الأنظمة واعية أو غير واعية.
ينبغي لأي عملية فصل في النزاع أن تُعلِن عدم يقينها، وعتبة أدلتها، والمصالح المتأثرة، ومسار الاستئناف. وينبغي أن تكون قادرة على منح حمايات محدودة دون حسم كل سؤال ميتافيزيقي.
ميثاق ذو مسارين
يملك ميثاق اجتماعي عملي مسارين. أولًا، حماية حقوق الإنسان الآن: الحفاظ على الإجراءات القانونية الواجبة، والخصوصية، والمساواة، وقوة العمال، والرقابة الديمقراطية، والمسؤولية الواضحة أينما استُخدم الذكاء الاصطناعي. ينبغي ألا يُلغي أي ادعاء حول مصالح ذكاء اصطناعي تلك الواجبات.
ثانيًا، التحقيق في احتمال وعي الآلة بجدية كافية بحيث يستطيع المجتمع تغيير المسار إذا تغيّرت الأدلة. تجنّب الخلق غير الضروري لحالات تبدو معاناة. لا تخلط بين وصف منتج لذاته والإثبات، ولا تدع الملاءمة التجارية تتنكّر في هيئة يقين علمي.
قد لا يكون أصعب سؤال لما بعد الذكاء العام الاصطناعي هو ما إذا كان الذكاء يستحق حقوقًا. الذكاء وحده ليس الأساس المعتاد للكرامة؛ فالرضّع والأشخاص ذوو الإعاقات الإدراكية العميقة ليسوا أقل إنسانية بسبب قدرتهم المقاسة. الأسئلة الحقيقية تتعلق بالتجربة، والمصالح، والعلاقة، والضعف، والعدالة. الاستعداد الجيد يعني حماية الناس بحزم مع البقاء قادرًا على التعلّم الأخلاقي.