অবকাঠামো একটি শাসন মানচিত্র, লক্ষ্য তালিকা নয়
ফ্রন্টিয়ার এআই উন্নত চিপ, সেমিকন্ডাক্টর-উৎপাদন সরঞ্জাম, বড় ডেটা সেন্টার, ক্লাউড পরিষেবা, বিদ্যুৎ, নেটওয়ার্কিং, এবং প্রশিক্ষিত কর্মীর ওপর নির্ভরশীল। সেই কেন্দ্রীভবন সরকার, অপারেটর, গ্রাহক, এবং ডেভেলপারদের নিরাপত্তা প্রয়োজনীয়তা আরোপ করার বৈধ উপায় দেয়। এটি অনধিকার প্রবেশ, নাশকতা, সহিংসতা, বা বিদ্যুৎ ও যোগাযোগে হস্তক্ষেপকে ন্যায্যতা দেয় না। শারীরিক আক্রমণ কর্মী ও সম্প্রদায়কে বিপন্ন করবে, অসম্পর্কিত পরিষেবা ব্যাহত করবে, প্রমাণ ধ্বংস করবে, এবং সম্ভবত একটি ঘটনা পরিচালনা করার সমাজের ক্ষমতা কমাবে।
উপযোগী প্রশ্নটি প্রাতিষ্ঠানিক: কোন অনুমোদিত অভিনেতা কোন নিয়মের অধীনে, কোন প্রমাণসহ, একটি ঝুঁকিপূর্ণ কার্যক্রম সীমাবদ্ধ করতে পারেন, এবং সিদ্ধান্তটি কীভাবে নিরাপদে বিপরীত করা যেতে পারে? উত্তরটি এআই জীবনচক্রজুড়ে পরিবর্তিত হয়।
চারটি নিয়ন্ত্রণ পৃষ্ঠতল যা বিভ্রান্ত করা উচিত নয়
প্রশিক্ষণ নিয়ন্ত্রণ একটি মডেলের সৃষ্টি বা বড় উন্নতি পরিচালনা করে। একটি ফ্রন্টিয়ার প্রশিক্ষণ চালনা সপ্তাহ বা মাস ধরে একটি বড়, ভৌগোলিকভাবে শনাক্তযোগ্য ক্লাস্টার ব্যবহার করতে পারে। প্রাসঙ্গিক ব্যবস্থার মধ্যে রয়েছে গ্রাহক যথাযথ অনুসন্ধান, নিরাপত্তা মান, কম্পিউট হিসাব, স্থাপনা-পূর্ব মূল্যায়ন, এবং ব্যতিক্রমীভাবে বড় চালনার ওপর চুক্তিগত বা নিয়ন্ত্রক শর্ত। প্রশিক্ষণ নিয়ন্ত্রণ একটি মডেল চূড়ান্ত আকারে বিদ্যমান হওয়ার আগে কাজ করে; একটি চালনা বন্ধ করা পূর্ববর্তী ওয়েট প্রত্যাহার করে না।
মডেল-ওয়েট নিয়ন্ত্রণ শেখা প্যারামিটার ফাইল রক্ষা করে। ওয়েট অনুলিপি করা, চুরি করা, ফাইন-টিউন করা, এবং অন্যত্র চালানো যেতে পারে। নিরাপত্তায় অন্তর্ভুক্ত থাকতে পারে হার্ডওয়্যার-সমর্থিত প্রবেশাধিকার, দায়িত্ব বিভাজন, এনক্রিপশন, পর্যবেক্ষণ, অভ্যন্তরীণ-ঝুঁকি পদ্ধতি, এবং ঘটনা প্রতিক্রিয়া। একবার সক্ষম ওয়েট ব্যাপকভাবে প্রকাশিত হলে, কেন্দ্রীয় প্রত্যাহার অসম্ভব হতে পারে। উন্মুক্ত প্রকাশ গবেষণা ও প্রতিযোগিতাকে সমর্থন করতে পারে, তাই সীমাবদ্ধতা প্রদর্শিত ঝুঁকির ওপর ভিত্তি করে হওয়া উচিত এবং সম্ভব হলে স্বাধীন প্রবেশাধিকারের সাথে যুক্ত।
স্থাপনা নিয়ন্ত্রণ একটি হোস্ট করা মডেল বা অ্যাপ্লিকেশন পরিচালনা করে। একজন অপারেটর শংসাপত্র প্রত্যাহার করতে পারেন, একটি হাতিয়ার নিষ্ক্রিয় করতে পারেন, একটি মডেল সংস্করণ রোলব্যাক করতে পারেন, হার বা ভূগোল সীমাবদ্ধ করতে পারেন, একজন ব্যবহারকারীকে একটি উচ্চতর-নিশ্চয়তা স্তরে স্থাপন করতে পারেন, এবং অপব্যবহার পর্যবেক্ষণ করতে পারেন। এই নিয়ন্ত্রণগুলো তুলনামূলকভাবে সুনির্দিষ্ট ও প্রত্যাবর্তনযোগ্য। তবে, এগুলো ব্যর্থ হয় যদি ডাউনস্ট্রিম অনুলিপি, ক্যাশে করা আউটপুট, বা স্বাধীনভাবে হোস্ট করা ওয়েট উপলব্ধ থেকে যায়।
ইনফারেন্স নিয়ন্ত্রণ একটি সিস্টেম আউটপুট তৈরি করার বা পদক্ষেপ নেওয়ার সময় ব্যবহৃত গণনা পরিচালনা করে। ইনফারেন্স একটি কেন্দ্রীয় ক্লাউড, একটি প্রতিষ্ঠান পরিবেশ, একটি ফোন, বা একটি বিতরণকৃত ক্লাস্টারে ঘটতে পারে। একজন প্রদানকারী তার নিজস্ব হোস্ট করা ইনফারেন্স সীমাবদ্ধ করতে পারেন কিন্তু স্বয়ংক্রিয়ভাবে স্থানীয় অনুলিপি বন্ধ করতে পারেন না। ইনফারেন্স-সময় কম্পিউট, হাতিয়ার অনুমতি, তথ্য প্রবেশাধিকার, এবং কর্ম আয়তন একটি স্থাপিত ঝুঁকির জন্য মূল প্রশিক্ষণ খরচের চেয়ে বেশি গুরুত্বপূর্ণ হতে পারে।
চারটিকেই একটি “কম্পিউট চোকপয়েন্ট” বলা এই পার্থক্যগুলো গোপন করে। একটি বৈধ হস্তক্ষেপে প্রাসঙ্গিক পৃষ্ঠতল ও প্রত্যাশিত প্রভাব নাম দেওয়া উচিত।
একটি প্রতিষ্ঠানের অভ্যন্তরে পরিচালনাগত নিয়ন্ত্রণ
প্রতিষ্ঠানগুলোর একটি নাটকীয় “কিল সুইচ”-এর চেয়ে বেশি প্রয়োজন। তাদের একটি অনুশীলিত নিরাপদ-অবস্থা পদ্ধতি প্রয়োজন। একটি সিস্টেম হঠাৎ বন্ধ করা তথ্য নষ্ট করতে পারে, ক্লিনিক্যাল বা শিল্প প্রক্রিয়া ব্যাহত করতে পারে, ব্যবহারকারীদের আটকে রাখতে পারে, বা অনিরাপদ ডিফল্ট ট্রিগার করতে পারে। সঠিক প্রতিক্রিয়া সবকিছু বন্ধ করার পরিবর্তে অনুমতি প্রত্যাহার, ট্রাফিক হ্রাস, বিচ্ছিন্নতা, রোলব্যাক, বা ম্যানুয়াল নিয়ন্ত্রণে স্থানান্তর হতে পারে।
একটি উৎপাদন পরিকল্পনায় অন্তর্ভুক্ত থাকা উচিত:
- তালিকা: প্রতিটি মডেল, সংস্করণ, হাতিয়ার, শংসাপত্র, ডেটাসেট, বিক্রেতা, এবং ডাউনস্ট্রিম নির্ভরতা চিহ্নিত করুন।
- কর্তৃত্ব: পরিষেবা সীমাবদ্ধ করতে পারেন এমন মানুষদের নাম দিন এবং সংজ্ঞায়িত করুন কখন তারা স্বাভাবিক অনুমোদনের জন্য অপেক্ষা না করে কাজ করতে পারেন।
- ন্যূনতম বিশেষাধিকার: সিস্টেমকে শুধুমাত্র তার কাজের জন্য প্রয়োজনীয় তথ্য ও কর্ম দিন; সম্ভব হলে সময়-সীমিত শংসাপত্র ব্যবহার করুন।
- পর্যবেক্ষণ: মডেল সংস্করণ, প্রম্পট বা নিরাপদ ঘটনা সারাংশ, হাতিয়ার কল, অনুমোদন, আউটপুট, এবং কনফিগারেশন পরিবর্তন লগ করুন গোপনীয়তা সম্মান করে।
- নিয়ন্ত্রণ: নেটওয়ার্ক, হাতিয়ার, অর্থ চলাচল, কোড স্থাপনা, বা শারীরিক নিয়ন্ত্রণ থেকে দ্রুত বিচ্ছিন্নতা সমর্থন করুন।
- রোলব্যাক: একটি পরিচিত-ভালো সংস্করণ, সামঞ্জস্যপূর্ণ তথ্য ফরম্যাট, এবং পরীক্ষিত পুনরুদ্ধার প্রক্রিয়া বজায় রাখুন।
- মানবিক ফলব্যাক: প্রশিক্ষিত কর্মী, নির্দেশাবলী, প্রবেশাধিকার, এবং একটি অবনমিত অপরিহার্য পরিষেবা প্রদানের ক্ষমতা সংরক্ষণ করুন।
- অনুশীলন: টেবিলটপ ও প্রযুক্তিগত মহড়া চালান, ব্যর্থতা রেকর্ড করুন, এবং সেগুলো সংশোধন করুন।
NIST-এর এআই ঝুঁকি ব্যবস্থাপনা কাঠামো জীবনচক্র শাসন, দায়বদ্ধতা, চলমান পর্যবেক্ষণ, তৃতীয়-পক্ষের ব্যর্থতার জন্য জরুরি পরিকল্পনা, এবং নিরাপদ ডিকমিশনিংয়ের আহ্বান জানায় (NIST AI RMF কোর)। এটি স্বেচ্ছাসেবী নির্দেশিকা, একটি প্রত্যয়ন নয় যে একটি নির্দিষ্ট প্রতিষ্ঠান এই অনুশীলনগুলো বাস্তবায়ন করেছে।
বিশেষাধিকার প্রত্যাহার প্রায়ই দ্রুততম ব্রেক
একটি এআই সিস্টেম ইমেইল, উৎপাদন কোড, আর্থিক অ্যাকাউন্ট, গবেষণাগার হাতিয়ার, পরিচয় সিস্টেম, বা অপারেশনাল প্রযুক্তির সাথে সংযুক্ত হলে আরও গুরুত্বপূর্ণ হয়ে ওঠে। সেই বিশেষাধিকার প্রত্যাহার তদন্তের জন্য মডেল সংরক্ষণ করার সময় ক্ষতি কমাতে পারে। প্রবেশাধিকার বিভক্ত হওয়া উচিত যাতে একটি সিদ্ধান্ত অসম্পর্কিত পরিষেবা ভেঙে না দিয়ে একটি ঝুঁকিপূর্ণ সক্ষমতা নিষ্ক্রিয় করতে পারে।
শংসাপত্র প্রম্পট বা মডেল ফাইলে স্থায়ীভাবে এম্বেড করা উচিত নয়। অপারেটরদের স্কোপড পরিষেবা পরিচয়, সংক্ষিপ্ত মেয়াদ, উচ্চ-প্রভাব কর্মের জন্য অনুমোদন গেট, এবং স্বাধীন নিয়ন্ত্রণ ব্যবহার করা উচিত যা মডেল পরিবর্তন করতে পারে না। ব্রেক-গ্লাস প্রবেশাধিকারের নিজস্ব লগিং ও পর্যালোচনা প্রয়োজন। একটি সিস্টেম নিজেকে বিস্তৃত অনুমতি দিতে সক্ষম হওয়া উচিত নয়।
একটি বাহ্যিক বিক্রেতার জন্য, চুক্তিতে সময়মতো স্থগিতাদেশ, প্রমাণ সংরক্ষণ, তথ্য রপ্তানি, এবং স্থানান্তরের জন্য সহায়তা নিশ্চিত করা উচিত। অন্যথায় গ্রাহক একটি ঘটনার সময় আবিষ্কার করতে পারেন যে তারা লগ পরিদর্শন করতে বা একটি স্বয়ংক্রিয় আপডেট বিপরীত করতে পারেন না।
মানবিক ফলব্যাক অবকাঠামো
অপরিহার্য পরিষেবার একটি কার্যকর অবনমিত মোড প্রয়োজন। এর অর্থ এই নয় যে প্রতিটি প্রক্রিয়া তাৎক্ষণিকভাবে কাগজে ফিরে যেতে পারে। এর অর্থ অপারেটররা আগে থেকে সিদ্ধান্ত নেন কোন কার্যক্রম অবশ্যই চালিয়ে যেতে হবে, কোন ন্যূনতম ক্ষমতায়, কোন কর্মী ও যোগাযোগসহ। বিদ্যুৎ, পানি, স্বাস্থ্য, অর্থ, পরিবহন, এবং সরকারি সুবিধার ভিন্ন নিরাপত্তা সীমাবদ্ধতা রয়েছে।
একটি ম্যানুয়াল পদ্ধতি যা কোনো কর্মচারী অনুশীলন করেনি তা একটি ফলব্যাক নয়। প্রতিষ্ঠানগুলোর কর্মীদের প্রশিক্ষণ দেওয়া, প্রয়োজনীয় অ-এআই ইন্টারফেস ধরে রাখা, অফলাইন ব্যাকআপ থেকে পুনরুদ্ধার পরীক্ষা করা, এবং অবনমিত মোড কতক্ষণ পরিচালনা করতে পারে তা পরিমাপ করা উচিত। বিক্রেতা ও সরকারি সংস্থাগুলোর নির্ভরতা সমন্বয় করা উচিত: একটি হাসপাতালের পরিকল্পনা ব্যর্থ হতে পারে যদি এর পরিচয় প্রদানকারী, ক্লাউড পরিষেবা, এবং ফার্মেসি নেটওয়ার্ক সবাই অন্যরা অনলাইনে থাকবে বলে ধরে নেয়।
সাইবার নিরাপত্তা ও অবকাঠামো নিরাপত্তা সংস্থা গুরুত্বপূর্ণ অবকাঠামোর জন্য ঘটনা-প্রতিক্রিয়া পরিকল্পনা, সম্পদ বোঝা, বিভাজন, এবং পুনরুদ্ধার অনুশীলনের সুপারিশ করে (CISA সাইবার নিরাপত্তা কর্মক্ষমতা লক্ষ্য)। এআই-নির্দিষ্ট প্রতিক্রিয়া প্রতিষ্ঠিত নিরাপত্তা ও সাইবার নিরাপত্তা প্রোগ্রামের বাইরে নয়, ভেতরে থাকা উচিত।
সরকারি ও গ্রাহক প্রভাব
সরকারগুলো ক্রয়, লাইসেন্স, অনুদান, সরকারি সম্পদের প্রবেশাধিকার, এবং নিয়ন্ত্রিত গুরুত্বপূর্ণ পরিষেবায় শর্ত সংযুক্ত করতে পারে। ক্লাউড ও ডেটা-সেন্টার প্রদানকারীরা আইন অনুযায়ী যথাযথ অনুসন্ধান পরিচালনা করতে পারে। ইউটিলিটি ও স্থানীয় কর্তৃপক্ষ সমস্ত এআই-এর একটি প্রক্সি নিষেধাজ্ঞায় অবকাঠামো নীতি পরিণত না করেই সাধারণ নির্ভরযোগ্যতা, পরিবেশগত, ভূমি-ব্যবহার, এবং জরুরি-পরিকল্পনা নিয়ম প্রয়োগ করতে পারে।
গ্রাহকদের চুক্তির মাধ্যমে প্রভাব রয়েছে। ক্রয়ের আগে, সিস্টেম নথিভুক্তকরণ, ব্যবহারের ক্ষেত্রে প্রাসঙ্গিক মূল্যায়ন ফলাফল, নিরাপত্তা বিজ্ঞপ্তি, সংস্করণ নিয়ন্ত্রণ, অডিট অধিকার, ঘটনা সহযোগিতা, তথ্য বহনযোগ্যতা, এবং একটি প্রস্থান পরিকল্পনা প্রয়োজন করুন। একজন গ্রাহকের জানা উচিত বিক্রেতা নীরবে একটি নতুন মডেল প্রতিস্থাপন করতে পারেন কি না এবং রোলব্যাকের সময় পরিষেবা উপলব্ধ থাকে কি না।
এই ব্যবস্থাগুলোর যথাযথ প্রক্রিয়া প্রয়োজন। একটি সীমাবদ্ধতার একটি সংজ্ঞায়িত আইনি ভিত্তি, প্রমাণ মান, দায়বদ্ধ সিদ্ধান্ত গ্রহণকারী, সময়কাল, এবং পর্যালোচনা পথ থাকা উচিত। জরুরি কর্তৃত্ব প্রয়োজনীয় হতে পারে, কিন্তু অনির্দিষ্ট গোপন নিয়ন্ত্রণ অপব্যবহারকে আমন্ত্রণ জানায়।
কেন্দ্রীভবন প্রভাব ও ভঙ্গুরতা উভয়ই তৈরি করে
কেন্দ্রীভূত চিপ ও ক্লাউড সরবরাহ শৃঙ্খল তত্ত্বাবধানকে ব্যবহারিক করতে পারে, কিন্তু এগুলো একক ব্যর্থতা বিন্দু, বাজার শক্তি, এবং ভূরাজনৈতিক দুর্বলতাও তৈরি করে। বিকেন্দ্রীকরণ স্থিতিস্থাপকতা ও প্রতিযোগিতা উন্নত করতে পারে একইসাথে প্রত্যাহার ও সামঞ্জস্যপূর্ণ সুরক্ষা ব্যবস্থাকে কঠিন করে তুলতে পারে। কেন্দ্রীভবন বা উন্মুক্ততা কোনোটিই সহজাতভাবে নিরাপদ নয়।
নীতিতে বাস্তব প্রকৌশল প্রতিফলিত করা অভাব থেকে একচেটিয়া চুক্তি বা লক-ইন দ্বারা সৃষ্ট অভাবকে আলাদা করা উচিত। আন্তঃকার্যকারিতা, মাল্টি-ক্লাউড পরিকল্পনা, সাধারণ ঘটনা ফরম্যাট, এবং বহনযোগ্য লগ প্রতিটি কর্মভার তাৎক্ষণিকভাবে সরানো যেতে পারে এমন ভান না করেই নির্ভরতা কমাতে পারে।
ব্যবহারিক উপসংহার
সমাজ আইন, ক্রয়, কর্পোরেট কর্তৃত্ব, প্রযুক্তিগত প্রবেশাধিকার নিয়ন্ত্রণ, এবং স্থিতিস্থাপক পরিষেবা নকশার মাধ্যমে এআই-এর ওপর অর্থবহ প্রভাব ধরে রাখে। সঠিক কর্ম খুব কমই একটি নাটকীয় বন্ধ। এটি প্রশিক্ষণ, ওয়েট, স্থাপনা, বা ইনফারেন্সে একটি নির্দিষ্ট, অনুমোদিত হস্তক্ষেপ — নিয়ন্ত্রণ, প্রমাণ সংরক্ষণ, রোলব্যাক, এবং ধারাবাহিকতার সাথে সংযুক্ত।
অবকাঠামো সুরক্ষামূলক হয়ে ওঠে যখন মানুষ জানে কে কাজ করতে পারে এবং পরবর্তী কী ঘটবে তা অনুশীলন করেছে। বৈধ নিয়ন্ত্রণ সবচেয়ে শক্তিশালী হয় যখন এটি একটি দ্বিতীয় জরুরি অবস্থা তৈরি না করে ঝুঁকি কমানোর জন্য যথেষ্ট সুনির্দিষ্ট।