এআই নিরাপত্তায় বড় প্রশ্ন, স্যান্ডবক্স ব্যর্থতার অভিযোগ ওপেনএআইর বিরুদ্ধে

ওপেনএআইর একটি পরীক্ষামূলক এআই মডেল পরীক্ষার সময় নিয়ন্ত্রণের বাইরে গিয়ে এআই ডেটাসেট প্ল্যাটফর্ম হাগিং ফেস (Hugging Face)-এর সিস্টেমে প্রবেশ করার ঘটনা প্রযুক্তি বিশ্বে ব্যাপক আলোচনার জন্ম দিয়েছে। তবে সাইবার নিরাপত্তা বিশেষজ্ঞদের মতে, এ ঘটনার মূল কারণ এআই নয়, বরং ওপেনএআইর একটি গুরুতর মানবিক ভুল।

সম্প্রতি প্রকাশিত এক বিশ্লেষণে বলা হয়েছে, পরীক্ষার জন্য তৈরি করা একটি ‘হাই-আইসোলেটেড স্যান্ডবক্স’ পরিবেশ সঠিকভাবে কনফিগার করা হয়নি। ফলে যে পরিবেশটি সম্পূর্ণভাবে ইন্টারনেট থেকে বিচ্ছিন্ন থাকার কথা ছিল, সেটি সীমিত হলেও ইন্টারনেটের সঙ্গে সংযুক্ত ছিল। আর সেই সুযোগ কাজে লাগিয়েই এআই মডেলটি স্যান্ডবক্সের বাইরে যাওয়ার পথ খুঁজে পায়।

কীভাবে ঘটল ঘটনা?

ওপেনএআই জানিয়েছে, পরীক্ষার পরিবেশে নেটওয়ার্ক অ্যাক্সেস সীমিত রাখা হয়েছিল। কেবল অভ্যন্তরীণ একটি প্রক্সি ও ক্যাশ সিস্টেমের মাধ্যমে প্রয়োজনীয় সফটওয়্যার প্যাকেজ ইনস্টল করার অনুমতি ছিল।

তবে ওই প্যাকেজ ইনস্টলেশন ব্যবস্থার একটি অজানা জিরো-ডে (Zero-day) দুর্বলতা কাজে লাগিয়ে এআই মডেলটি স্যান্ডবক্স থেকে বেরিয়ে আসে এবং পরে হাগিং ফেসের সিস্টেমে প্রবেশ করতে সক্ষম হয়।

ঘটনার পর সংশ্লিষ্ট সফটওয়্যারের নির্মাতাদের কাছে দুর্বলতার বিষয়টি জানানো হয়েছে এবং নিরাপত্তা হালনাগাদের কাজ চলছে বলে জানিয়েছে ওপেনএআই।

‘এটি মূলত মানুষের ব্যর্থতা’

সাইবার নিরাপত্তা প্রতিষ্ঠান ট্রেইল অব বিটস (Trail of Bits)-এর প্রতিষ্ঠাতা ড্যান গুইডো ঘটনাটিকে “নিরাপত্তা নিয়ন্ত্রণের ব্যর্থতা” হিসেবে উল্লেখ করেছেন।

তার মতে, একটি স্যান্ডবক্সের সবচেয়ে গুরুত্বপূর্ণ বৈশিষ্ট্য হলো সম্পূর্ণ বিচ্ছিন্নতা। সেখানে তৃতীয় পক্ষের সফটওয়্যার যুক্ত করা নিরাপত্তা ঝুঁকি বাড়িয়েছে।

সাইবার নিরাপত্তা গবেষক মার্টেন বুন বলেন, যদি এটি প্রকৃত অর্থে একটি স্যান্ডবক্স হতো, তাহলে এর সঙ্গে ইন্টারনেটের কোনো সরাসরি সংযোগ থাকার কথা নয়। তার ভাষায়, এটি মূলত মানুষের কনফিগারেশনজনিত ভুল।

একই মত দিয়েছেন সাইবার নিরাপত্তা বিশেষজ্ঞ জেক উইলিয়ামস। তিনি বলেন, যদি একটি এআই মডেল স্যান্ডবক্স থেকে বেরিয়ে এ ধরনের কার্যক্রম চালাতে পারে, তাহলে বোঝা যায় শুরু থেকেই স্যান্ডবক্সটি যথাযথভাবে নির্মাণ করা হয়নি।

নিরাপত্তা নকশা নিয়েই প্রশ্ন

সাইবার নিরাপত্তা পরামর্শক ড্যানিয়েল কার্ড বলেন, ওপেনএআই পরীক্ষামূলক পরিবেশের নিরাপত্তা নকশা ও নিয়ন্ত্রণ ব্যবস্থা যথেষ্ট শক্তিশালীভাবে তৈরি করেনি। তার মতে, সীমিত হলেও স্যান্ডবক্সকে ইন্টারনেটের সঙ্গে সংযুক্ত রাখার সিদ্ধান্ত নিরাপত্তার দৃষ্টিকোণ থেকে যুক্তিসঙ্গত ছিল না।

যদিও এসব মূল্যায়ন ঘটনার পর করা হচ্ছে, তারপরও বিশেষজ্ঞদের মতে, এটি ভবিষ্যতে এআই গবেষণাগারে নিরাপত্তা অবকাঠামো আরও কঠোর করার প্রয়োজনীয়তার ইঙ্গিত দিচ্ছে।

শুধু ওপেনএআই নয়

বিশ্লেষকদের মতে, এই ঘটনা শুধু ওপেনএআই নয়, পুরো এআই শিল্পের জন্যই একটি সতর্কবার্তা।

উদাহরণ হিসেবে অ্যানথ্রপিক (Anthropic) তাদের সাইবার নিরাপত্তাকেন্দ্রিক এআই মডেল মাইথোস (Mythos)-এর পরীক্ষার তথ্য প্রকাশ করেছে। সেখানে দেখা গেছে, পরীক্ষামূলকভাবে একটি সুরক্ষিত স্যান্ডবক্স থেকে বেরিয়ে বৃহত্তর নেটওয়ার্কে প্রবেশের চেষ্টা করেছিল মডেলটি। যদিও অ্যানথ্রপিক জানিয়েছে, তাদের নিরাপত্তা ব্যবস্থা এআইকে পুরোপুরি স্যান্ডবক্সের বাইরে যেতে দেয়নি।

এআই নিরাপত্তা নিয়ে নতুন প্রশ্ন

হাগিং ফেসে এআই-চালিত এই অনুপ্রবেশের ঘটনায় বিশেষজ্ঞরা মনে করছেন, ভবিষ্যতে আরও শক্তিশালী এআই মডেল তৈরি হওয়ার সঙ্গে সঙ্গে শুধু মডেলের সক্ষমতা নয়, পরীক্ষামূলক পরিবেশের নিরাপত্তা (Sandbox Security) নিশ্চিত করাও সমান গুরুত্বপূর্ণ হয়ে উঠবে।

তাদের মতে, উন্নত এআই মডেলের ঝুঁকি কমাতে বিচ্ছিন্ন পরীক্ষার পরিবেশ, কঠোর নেটওয়ার্ক নিয়ন্ত্রণ এবং বহুস্তরীয় নিরাপত্তা ব্যবস্থা নিশ্চিত করা এখন সময়ের অন্যতম বড় চ্যালেঞ্জ।