ওপেন-সোর্স এআই বিতর্ক: নিরাপত্তা হাতিয়ার নাকি নিরাপত্তা ঝুঁকি

প্রথমে সুনির্দিষ্ট পরিভাষা ব্যবহার করুন

“ওপেন-সোর্স এআই” প্রায়ই খুব ভিন্ন প্রকাশনা বর্ণনা করে। একজন ডেভেলপার প্রশিক্ষণ তথ্য, প্রশিক্ষণ কোড, তথ্য-প্রক্রিয়াকরণ পদ্ধতি, মূল্যায়ন বিবরণ, বা পরিবর্তন ও পুনর্বণ্টনের ব্যাপক অধিকার আটকে রেখে মডেল ওয়েট প্রকাশ করতে পারেন। ওপেন-সোর্স সফটওয়্যারের সংজ্ঞা একটি প্রশিক্ষিত মডেলের অস্বচ্ছ তথ্য উৎসের ওপর স্বয়ংক্রিয়ভাবে প্রয়োগ করা যায় না।

তাই এই পৃষ্ঠাটি ওপেন ওয়েট ব্যবহার করে যখন একটি মডেল চালাতে ও পরিবর্তন করতে প্রয়োজনীয় সাংখ্যিক প্যারামিটার ব্যাপকভাবে উপলব্ধ থাকে। একটি প্রকাশনায় একটি সীমাবদ্ধ লাইসেন্সের অধীনে ওপেন ওয়েট থাকতে পারে, বা ওয়েট ছাড়াই ওপেন কোড প্রদান করতে পারে। নথিভুক্তকরণ ও পুনরুৎপাদনযোগ্যতা পৃথক মাত্রা।

পরিভাষা গুরুত্বপূর্ণ কারণ সুবিধা ও ঝুঁকি নির্ভর করে কী প্রকাশিত হয়েছে তার ওপর। গবেষকরা শুধুমাত্র ওয়েট থেকে প্রশিক্ষণ পুনরুৎপাদন করতে পারেন না, কিন্তু ওয়েট এখনও স্থানীয় ইনফারেন্স, ফাইন-টিউনিং, এবং অভ্যন্তরীণ বিশ্লেষণ সক্ষম করতে পারে যা একটি API প্রতিরোধ করে।

বিস্তৃত প্রবেশাধিকারের পক্ষে যুক্তি

ওপেন ওয়েট হোস্ট করা প্রদানকারীদের একটি ছোট সেটের ওপর নির্ভরতা কমায়। ডেভেলপাররা তাদের নিজস্ব অবকাঠামোতে মডেল চালাতে পারেন, একটি তৃতীয়-পক্ষের পরিষেবা থেকে সংবেদনশীল প্রম্পট রক্ষা করতে পারেন, স্থানীয় ভাষা ও ডোমেইনে সিস্টেম অভিযোজিত করতে পারেন, এবং একজন বিক্রেতা মূল্য বা নীতি পরিবর্তন করলেও কাজ চালিয়ে যেতে পারেন। প্রতিযোগিতা খরচ কমাতে এবং প্রযুক্তিগত সক্ষমতা ছড়িয়ে দিতে পারে।

গবেষকরা অ্যাক্টিভেশন পরিদর্শন করতে পারেন, মডেল সম্পাদনা পরীক্ষা করতে পারেন, মূল্যায়ন পুনরুৎপাদন করতে পারেন, এবং প্রদানকারীর অনুমোদনের জন্য অপেক্ষা না করে পক্ষপাত বা নিরাপত্তা তদন্ত করতে পারেন। সুশীল সমাজ ও বিশ্ববিদ্যালয় এমন একটি মডেল যাচাই করতে পারে যার ডেভেলপার বিশেষাধিকারপ্রাপ্ত API প্রবেশাধিকার দেবে না। স্থানীয় স্থাপনা গোপনীয়তা ও সংযোগ-সীমাবদ্ধ ব্যবহারকে সমর্থন করতে পারে।

উন্মুক্ততা জ্ঞানও সংরক্ষণ করতে পারে। একটি বদ্ধ পরিষেবা অদৃশ্য হতে পারে; একটি ওয়েট প্রকাশনা সংরক্ষণাগারভুক্ত ও অধ্যয়নযোগ্য হতে পারে। সম্প্রদায়গুলো এমন অ্যাক্সেসযোগ্যতা ও ভাষা ফিচার তৈরি করতে পারে যা একটি বড় বিক্রেতার জন্য লাভজনক নয়।

এই সুবিধাগুলো স্বয়ংক্রিয় নয়। একটি বড় মডেল চালাতে এখনও হার্ডওয়্যার ও দক্ষতা প্রয়োজন। “গণতন্ত্রীকরণ” মানে সাধারণ মানুষের বদলে সুসম্পদ কোম্পানির প্রবেশাধিকার হতে পারে। একজন ওপেন-ওয়েট প্রদানকারী বাস্তুতন্ত্র অবদান, ক্লাউড চাহিদা, বা মান-নির্ধারণ থেকে বাণিজ্যিকভাবে উপকৃত হতে পারেন। সেই প্রণোদনাগুলো জনসাধারণের সুবিধা খারিজ না করেই প্রকাশ করা উচিত।

নিয়ন্ত্রিত প্রবেশাধিকারের পক্ষে যুক্তি

একবার ওয়েট ব্যাপকভাবে মিরর করা হলে, সেগুলো নির্ভরযোগ্যভাবে প্রত্যাহার করা যায় না। ব্যবহারকারীরা প্রত্যাখ্যান প্রশিক্ষণ অপসারণ করতে পারেন, অপব্যবহারের জন্য ফাইন-টিউন করতে পারেন, একটি কেন্দ্রীয় মনিটর থেকে কার্যকলাপ লুকাতে পারেন, এবং অনেক অনুলিপি স্থাপন করতে পারেন। এটি প্রদর্শিত, কাল্পনিক নয়: গবেষকরা একটি হালকা ফাইন-টিউনিং কৌশল ব্যবহার করে একটি একক GPU-তে $২০০-এর কম খরচে Llama 2-Chat 70B-এর নিরাপত্তা প্রশিক্ষণ পূর্বাবস্থায় ফিরিয়েছেন (Lermen et al., ২০২৩)। একজন হোস্ট করা প্রদানকারী হার সীমাবদ্ধ করতে, প্যাটার্ন পর্যবেক্ষণ করতে, আচরণ প্যাচ করতে, এবং অ্যাকাউন্ট বন্ধ করতে পারেন; স্থানীয় পরিচালনা সেই নিয়ন্ত্রণের অনেকটা সরিয়ে দেয়।

প্রান্তিক ঝুঁকি নির্ভর করে মডেলটি বিদ্যমান হাতিয়ার, বদ্ধ API, বিশেষজ্ঞ জ্ঞান, এবং পূর্ববর্তী ওপেন মডেলের বাইরে কী যোগ করে তার ওপর। যদি একটি সক্ষমতা ইতিমধ্যে অন্যত্র সস্তায় উপলব্ধ থাকে, তাহলে ওয়েট সীমাবদ্ধ করা সামান্য নিরাপত্তা যোগ করতে পারে। যদি ওয়েট উল্লেখযোগ্যভাবে আরও কার্যকর সাইবার শোষণ, জৈবিক সহায়তা, জালিয়াতি, বা স্বায়ত্তশাসিত পরিচালনা সক্ষম করে, তাহলে অপরিবর্তনীয় প্রকাশ ব্যাপকভাবে গুরুত্বপূর্ণ হতে পারে।

প্রাসঙ্গিক প্রশ্ন এটা নয় যে তথ্য কখনও অপব্যবহার করা যায় কিনা, বরং এই প্রকাশনা ক্ষতি করার সম্ভাবনাময় অভিনেতাদের জন্য সক্ষমতা, স্কেল, খরচ, দায়ভার, বা প্রবেশাধিকার পরিবর্তন করে কিনা।

মার্কিন প্রমাণ পর্যালোচনা কী উপসংহারে পৌঁছেছিল

জাতীয় টেলিযোগাযোগ ও তথ্য প্রশাসন ২০২৪ সালে ৩৩২টি জনসাধারণের মন্তব্য ও উপলব্ধ প্রমাণ পর্যালোচনা করেছিল। এটি উপসংহারে পৌঁছেছিল যে সেই সময়ের প্রমাণ মডেল ওয়েটের বিস্তৃততম প্রাপ্যতার ওপর একটি তাৎক্ষণিক শ্রেণীবদ্ধ সীমাবদ্ধতাকে সমর্থন করার জন্য অপর্যাপ্ত ছিল, একইসাথে ঝুঁকি পরিবর্তিত হলে সক্রিয় পর্যবেক্ষণ ও সরকারি সক্ষমতার সুপারিশ করেছিল (NTIA, জুলাই ২০২৪)।

সেই উপসংহারটি তারিখযুক্ত ও শর্তসাপেক্ষ। এটি প্রমাণ করে না যে ভবিষ্যতের ফ্রন্টিয়ার প্রকাশনা নিরাপদ বা সীমাবদ্ধতা কখনও যুক্তিসঙ্গত হতে পারে না। NTIA একটি সরকারি সংস্থা যা উদ্ভাবন, প্রতিযোগিতা, এবং নিরাপত্তার ভারসাম্য রক্ষা করছে; অনেক জমাদান আগ্রহী কোম্পানি ও উকিলদের থেকে এসেছিল। এর প্রতিবেদন একটি শক্তিশালী নীতি সংশ্লেষণ, নেট সামাজিক প্রভাব প্রদর্শনকারী একটি পরীক্ষা নয়।

ইউরোপীয় ইউনিয়নের পার্থক্যকৃত পদ্ধতি

EU AI আইন যোগ্যতাসম্পন্ন মুক্ত ও ওপেন-সোর্স সাধারণ-উদ্দেশ্য মডেলগুলোকে নির্দিষ্ট নথিভুক্তকরণ দায়িত্ব থেকে কিছু ছাড় প্রদান করে, কিন্তু একটি ব্যাপক ছাড় নয়। সিস্টেমিক ঝুঁকিসহ সাধারণ-উদ্দেশ্য মডেলের প্রদানকারীরা অতিরিক্ত বাধ্যবাধকতার অধীন থাকে। একটি প্রকাশনা যোগ্য কিনা তা নির্ভর করে আইনি মানদণ্ডের ওপর, যার মধ্যে রয়েছে প্রবেশাধিকার ও প্রকাশ — বিপণন ভাষা নয় (European Commission GPAI নির্দেশিকা, ২০২৫)।

এটি সক্ষমতা-স্তরীভূত শাসন চিত্রিত করে: প্রান্তিক ঝুঁকি পরিচালনযোগ্য যেখানে উন্মুক্ততাকে উৎসাহিত করুন, একইসাথে সিস্টেমিক-ঝুঁকি মডেলের জন্য দায়িত্ব বজায় রাখুন। প্রয়োগ এখনও অপরিবর্তনীয় প্রকাশনার আগে সক্ষমতা মূল্যায়নের অসুবিধার মুখোমুখি হয়।

একটি দ্বিমুখী পছন্দের বিকল্প

প্রবেশাধিকার ধাপে ধাপে করা যেতে পারে। একজন ডেভেলপার অভ্যন্তরীণ ও স্বাধীন মূল্যায়ন দিয়ে শুরু করতে পারেন, তারপর নিয়ন্ত্রিত গবেষণা প্রবেশাধিকার, একটি হোস্ট করা পরিষেবা, নিরাপত্তা শর্তে যাচাইকৃত প্রতিষ্ঠানের কাছে ওয়েট, এবং অবশেষে প্রমাণ সমর্থন করলে জনসাধারণের প্রকাশ প্রদান করতে পারেন। বিলম্ব রক্ষকদের দুর্বলতা প্যাচ করতে এবং নিয়ন্ত্রকদের প্রস্তুত হতে দিতে পারে।

কাঠামোবদ্ধ প্রবেশাধিকার কিছু গবেষণা সুবিধা সংরক্ষণ করতে পারে বিস্তার সীমিত করার সময়, কিন্তু এটি গেটকিপার তৈরি করে যারা সমালোচক বা প্রতিযোগীদের বাদ দিতে পারে। নির্বাচনী মানদণ্ড, দ্বন্দ্ব নিয়ম, আপিল, প্রকাশনা অধিকার, এবং তদারকি প্রয়োজনীয়। শুধুমাত্র মডেল ডেভেলপার দ্বারা নিয়ন্ত্রিত একটি “বিশ্বস্ত গবেষক” কর্মসূচি স্বাধীন স্বচ্ছতা নয়।

অন্যান্য বিকল্পের মধ্যে রয়েছে ছোট বা পাতিত মডেল প্রকাশ করা, ফ্রন্টিয়ার ওয়েট ছাড়াই কোড ও বিস্তারিত মূল্যায়ন প্রকাশ করা, বিশ্লেষণের জন্য নিরাপদ এনক্লেভ প্রদান করা, বা কিছু আচরণ নিষিদ্ধকারী লাইসেন্স ব্যবহার করা। লাইসেন্স বৈধ ব্যবহারকারীদের প্রভাবিত করে কিন্তু দূষিত অভিনেতাদের বিরুদ্ধে দুর্বল প্রযুক্তিগত বাধা।

কীভাবে একটি প্রকাশনার সিদ্ধান্ত নেওয়া যায়

একটি গুরুতর প্রকাশনা মূল্যায়নে তুলনা করা উচিত:

• বিদ্যমান ওপেন ও বদ্ধ বিকল্পের বিরুদ্ধে বিপজ্জনক সক্ষমতা;
• সুরক্ষা ব্যবস্থা অপসারণ বা ফাইন-টিউন করতে প্রয়োজনীয় কম্পিউট ও দক্ষতা;
• সুবিধা যার জন্য বিশেষভাবে API প্রবেশাধিকারের বদলে ওয়েট প্রয়োজন;
• অপ্রকাশিত ওয়েটের নিরাপত্তা এবং চুরির ঝুঁকি;
• প্রকাশের পরে অপব্যবহার পর্যবেক্ষণের সক্ষমতা;
• প্রভাবিত গোষ্ঠী, সুসম্পদ রাষ্ট্রের বাইরের গবেষকসহ;
• প্রত্যাবর্তনযোগ্যতা ও ধাপে ধাপে-প্রবেশাধিকার বিকল্প;
• মডেল নথিভুক্তকরণ, লাইসেন্স অধিকার, এবং তথ্য উৎস।

মূল্যায়নে প্রাসঙ্গিকভাবে সাইবার, রাসায়নিক ও জৈবিক সহায়তা, প্ররোচনা, স্বায়ত্তশাসিত প্রতিলিপন, গোপনীয়তা, এবং সাধারণ বৈষম্য বা জালিয়াতি কভার করা উচিত। একটি বেঞ্চমার্ক সীমারেখা যথেষ্ট নয় যদি এটি প্রকৃত কর্মপ্রবাহকে প্রতিনিধিত্ব করতে ব্যর্থ হয়।

অস্পষ্টতার মাধ্যমে নিরাপত্তাই একমাত্র সমস্যা নয়

বদ্ধ সিস্টেমের সমালোচকরা লক্ষ্য করেন যে ওয়েট আটকে রাখা দুর্বলতা লুকাতে এবং বিশ্বাসকে কেন্দ্রীভূত করতে পারে। উন্মুক্ততার সমালোচকরা লক্ষ্য করেন যে একটি অস্ত্র-প্রাসঙ্গিক সক্ষমতা প্রকাশ করা দায়িত্বশীলভাবে একটি সফটওয়্যার বাগ প্রকাশ করার সমতুল্য নয়। উভয় পর্যবেক্ষণই সত্য হতে পারে।

দায়িত্বশীল প্রকাশ সাধারণত প্রভাবিত রক্ষকদের কাজ করার সময় দেয়। কিছু মডেলের জন্য, ব্যাপক তদন্ত ক্ষতির চেয়ে বেশি প্রতিরক্ষা তৈরি করতে পারে; অন্যদের জন্য, ব্যাপক প্রবেশাধিকার প্রশমন বিদ্যমান হওয়ার আগেই একটি অপরিবর্তনীয় বিপদ তৈরি করতে পারে। প্রান্তিক ঝুঁকি ও প্রতিক্রিয়া প্রস্তুতি সম্পর্কে প্রমাণ ক্রম নির্ধারণ করা উচিত।

এজিআই ঝুঁকি পরিবর্তন করে কিন্তু প্রমাণের প্রয়োজনীয়তা নয়

কোনো ওপেন মডেল একটি সম্মত পরীক্ষার অধীনে এজিআই হিসেবে প্রতিষ্ঠিত হয়নি। এজিআই ওয়েট প্রকাশ সম্পর্কে দাবি দৃশ্যকল্প বিশ্লেষণ। যদি একটি মডেল স্বায়ত্তশাসিতভাবে উচ্চ-স্তরের গবেষণা পরিচালনা করতে, সিস্টেম শোষণ করতে, সম্পদ অর্জন করতে, বা উত্তরসূরিদের উন্নত করতে পারে, তাহলে এটি অনুলিপি করা নিয়ন্ত্রণকে তীব্রভাবে কমাতে পারে। বিপরীতভাবে, সেই সক্ষমতাকে একচেটিয়া কর্পোরেট বা রাষ্ট্রীয় নিয়ন্ত্রণের অধীনে রাখা গভীর কেন্দ্রীভবন ও অপব্যবহারের ঝুঁকি তৈরি করতে পারে।

এই কারণেই স্লোগান ব্যর্থ হয়। “উন্মুক্ত সবসময় নিরাপদ” অপরিবর্তনীয়তা উপেক্ষা করে; “বদ্ধ সবসময় নিরাপদ” কেন্দ্রীভবন, চুরি, এবং তদন্তের অভাব উপেক্ষা করে। ভবিষ্যৎ নীতিতে একটি ব্র্যান্ড শ্রেণি নিয়ন্ত্রণের বদলে সক্ষমতা ও প্রবেশাধিকার শর্ত সংজ্ঞায়িত করা উচিত।

একটি সুষম অবস্থান

বর্তমান নিম্ন-ঝুঁকির মডেলের জন্য, উন্মুক্ততা যথেষ্ট প্রতিযোগিতা, গবেষণা, স্থিতিস্থাপকতা, গোপনীয়তা, এবং অন্তর্ভুক্তি সুবিধা প্রদান করতে পারে। ক্রমবর্ধমান সক্ষম মডেলের জন্য, ধাপে ধাপে প্রকাশ ও প্রমাণ-ভিত্তিক মূল্যায়ন আরও গুরুত্বপূর্ণ হয়ে ওঠে। সীমাবদ্ধতা একটি নির্দিষ্ট প্রান্তিক ঝুঁকি প্রদর্শন করা উচিত, যথাযথ প্রক্রিয়া প্রদান করা উচিত, এবং পুনর্বিবেচনা করা উচিত; প্রকাশনার সিদ্ধান্ত প্রদর্শন করা উচিত কেন অপরিবর্তনীয় প্রবেশাধিকার ন্যায্যতাপ্রাপ্ত।

বিতর্কটি স্বাধীনতা ও নিরাপত্তার মধ্যে একটি পছন্দ নয়। এটি সক্ষমতা, প্রবেশাধিকার, কেন্দ্রীভবন, দায়বদ্ধতা, এবং প্রত্যাবর্তনযোগ্যতা জড়িত একটি নকশা সমস্যা। সুনির্দিষ্ট পরিভাষা ও স্বচ্ছ প্রমাণ সেই সমস্যাকে শাসনযোগ্য করে তোলে।