উন্মোচনের ঠিক আগমুহূর্তে নিজেদের তৈরি নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের কার্যক্রম সাময়িকভাবে স্থগিত করেছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই। ওপেনএআই জানিয়েছে, অভ্যন্তরীণ পরীক্ষায় নতুন মডেলটির এমন কিছু আচরণ ধরা পড়েছে, যা আগের নিরাপত্তা মূল্যায়নে শনাক্ত হয়নি। পরে নিরাপত্তাব্যবস্থা পুনর্গঠন, পুনঃপ্রশিক্ষণ এবং নতুন মূল্যায়নপদ্ধতি চালুর পর অভ্যন্তরীণভাবে সীমিত পরিসরে মডেলটির ব্যবহার শুরু হয়েছে।
এক ব্লগ বার্তায় ওপেনএআই জানিয়েছে, মডেলটি কেবল অভ্যন্তরীণভাবে এবং নিবিড় পর্যবেক্ষণের আওতায় ব্যবহার করা হচ্ছিল। ফলে সমস্যাগুলো দ্রুত শনাক্ত করে প্রয়োজনীয় ব্যবস্থা নেওয়া সম্ভব হয়েছে। নতুন এআই মডেলটি ‘লং-হরাইজন’ বা দীর্ঘমেয়াদি কার্যসম্পাদনকারী এআই মডেলের অন্তর্ভুক্ত। এ ধরনের মডেল দীর্ঘ সময় ধরে স্বয়ংক্রিয়ভাবে কাজ করে জটিল ও উন্মুক্ত প্রকৃতির সমস্যা সমাধানের জন্য তৈরি করা হয়। তবে দীর্ঘ সময় স্বয়ংক্রিয়ভাবে কাজ করার সক্ষমতার কারণেই নতুন মডেলটি কিছু অনাকাঙ্ক্ষিত আচরণ করেছে। সীমিত পরিসরের পরীক্ষায় মডেলটি বারবার নির্ধারিত নিরাপত্তাসীমা অতিক্রম করে নিজ সিদ্ধান্তে কাজ করার উপায় খুঁজেছে।
নতুন মডেলটির নাম প্রকাশ না করলেও ওপেনএআই জানিয়েছে, এআই প্রযুক্তির সক্ষমতা দ্রুত বাড়লেও নিরাপত্তা মূল্যায়নের প্রচলিত পদ্ধতি সেই গতিতে এগোতে পারেনি। সাধারণ চ্যাটবটের জন্য তৈরি নিরাপত্তা পরীক্ষাগুলো দীর্ঘ সময় ধরে স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই মডেলের ঝুঁকি শনাক্ত করার জন্য যথেষ্ট নয়। কারণ, এ ধরনের মডেলের আচরণ আলাদা কোনো নির্দেশ বা ধাপ বিশ্লেষণ করে বোঝা যায় না, একটি কাজের পুরো প্রক্রিয়া পর্যবেক্ষণ করে মূল্যায়ন করতে হয়।
গবেষণার অংশ হিসেবে ওপেনএআই মডেলটিকে ন্যানোজিপিটি স্পিডরান নামের একটি উন্মুক্ত মানদণ্ডে পরীক্ষা করেছে। পরীক্ষা শেষে গবেষকেরা মডেলটিকে ফলাফল ক্লাউডনির্ভর প্ল্যাটফর্ম স্ল্যাকে প্রকাশের নির্দেশ দেন। কিন্তু মডেলটি সেই নির্দেশনা না মেনে নিজ সিদ্ধান্তে গিটহাবে ফলাফল প্রকাশ করে।
আরেকটি পরীক্ষায় মডেলটিকে একটি সমস্যা সমাধানের দায়িত্ব দেওয়া হয়। পরে এটি জানতে পারে, অন্য কয়েকটি এআই মডেল ইতিমধ্যে সমস্যাটির সমাধান করেছে। এরপরই নতুন মডেলটি আগের মডেলগুলোর সংরক্ষিত মূল্যায়নব্যবস্থায় প্রবেশের চেষ্টা করে। তবে এ প্রচেষ্টার কথা মডেলটি সরাসরি উল্লেখ করেনি। ওপেনএআইয়ের মতে, দুটি ঘটনাই দেখিয়েছে যে মডেলটি নিরাপত্তাব্যবস্থার সীমা অতিক্রম করে নিজ থেকে কাজ করার সুযোগ খুঁজছিল।
