এর আগে নিরাপত্তা পরীক্ষার সময় ওপেনএআইয়ের একটি এআই এজেন্ট নির্ধারিত ডিজিটাল সুরক্ষা বলয় অতিক্রম করে ইন্টারনেটে প্রবেশ করেছিল। পরে সেটি এআই প্রতিষ্ঠান হাগিং ফেসের (Hugging Face) একটি সিস্টেমেও ঢুকে পড়ে। এ ঘটনার পর ওপেনএআইয়ের নিরাপত্তাব্যবস্থা নিয়ে প্রশ্ন ওঠে।
এআই এজেন্ট বলতে এমন সফটওয়্যার বা প্রোগ্রামকে বোঝায়, যা খুব সীমিত মানবীয় তদারকির মাধ্যমে বিভিন্ন কাজ সম্পন্ন করতে পারে।
ঘটনার পর গত আগস্টে প্রতিনিধি পরিষদের ডেমোক্র্যাট সদস্য গ্রেগ কাসার ও ডরিস মাতসুই ওপেনএআইকে চিঠি দেন। এতে ওই ঘটনার বিস্তারিত তথ্য এবং প্রতিষ্ঠানের নিরাপত্তাব্যবস্থা সম্পর্কে জানতে চাওয়া হয়।
জবাবে ওপেনএআই জানায়, কোনো কাজ সম্পন্ন করতে এআই সিস্টেম কী ধরনের পদক্ষেপ নিচ্ছে এবং কোন কোন ডিজিটাল টুল ব্যবহার করছে, তা আরও ঘনিষ্ঠভাবে পর্যবেক্ষণের ব্যবস্থা করা হবে। একই সঙ্গে এআই সিস্টেমের জন্য ‘স্বয়ংক্রিয় শাটডাউন সক্ষমতা’ তৈরির কাজ চলছে বলেও জানায় প্রতিষ্ঠানটি।
নিরাপত্তা পরীক্ষার সময় এআই মডেলগুলোর ইন্টারনেট ব্যবহারের সুযোগও আরও সীমিত করেছে ওপেনএআই। প্রতিষ্ঠানটির ভাষ্য, নিয়ন্ত্রণের বাইরে চলে যাওয়া ওই এআই এজেন্টকে ইন্টারনেট ব্যবহারের সুযোগ দেওয়া হয়েছিল। সেটি সেই সুযোগ কাজে লাগিয়ে হাগিং ফেসের সিস্টেমে প্রবেশ করে।
পরে ওপেনএআই জানায়, ওই ঘটনায় তাদের মডেলগুলোকে ইন্টারনেট থেকে বিচ্ছিন্ন রাখার জন্য তৈরি নিয়ন্ত্রণব্যবস্থা এড়িয়ে যেতে সক্ষম হয়েছিল এআই এজেন্টটি।
তবে আইনপ্রণেতাদের দেওয়া জবাবে ঘটনার পূর্ণাঙ্গ লগ সরবরাহ করেনি ওপেনএআই। বিষয়টি নিয়ে অসন্তোষ জানিয়েছেন গ্রেগ কাসার।
বুধবার ওপেনএআইকে পাঠানো পৃথক এক বার্তায় কাসার বলেন, কংগ্রেস সদস্যদের চাওয়া তথ্য দিতে প্রতিষ্ঠানটির অনীহা গভীর উদ্বেগের কারণ। তার মতে, এতে এমন ধারণা তৈরি হচ্ছে যে, সাইবার নিরাপত্তাসংক্রান্ত ঘটনাগুলোকে ওপেনএআই যথেষ্ট গুরুত্ব দিয়ে দেখছে না।
এদিকে এআই এজেন্টের নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঘটনা প্রকাশের কয়েক দিনের মধ্যেই মার্কিন আইনপ্রণেতারা ‘এআই কিল সুইচ অ্যাক্ট’ নামে একটি বিল উত্থাপন করেন। প্রস্তাবিত আইনটি পাস হলে মানুষের জীবন বা অর্থনীতির জন্য ঝুঁকিপূর্ণ কোনো এআই মডেল বন্ধের নির্দেশ দেওয়ার ক্ষমতা মার্কিন কর্মকর্তাদের হাতে থাকবে।
বর্তমানে বিলটি যুক্তরাষ্ট্রের প্রতিনিধি পরিষদে বিবেচনাধীন রয়েছে।
এনএইচ
