নিরাপত্তা পরীক্ষায় ব্যর্থ, জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশ করবে না ওপেনএআই

অভ্যন্তরীণ নিরাপত্তা পরীক্ষায় নির্ধারিত মান পূরণ করতে না পারায় নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। মডেলটি মানুষের নির্দেশনা ও অনুমোদনের সীমার মধ্যে থেকে কাজ করা এবং নিজের কর্মকাণ্ড সম্পর্কে ব্যবহারকারীকে স্বচ্ছভাবে জানানোর ক্ষেত্রে প্রত্যাশিত মানে পৌঁছাতে পারেনি।

সোমবার প্রতিষ্ঠানটি এ সিদ্ধান্তের কথা জানায়। আগামী অক্টোবর মাসে মডেলটি চ্যাটজিপিটি ও কোডেক্সে যুক্ত করার পরিকল্পনা ছিল। তবে প্রকাশের আগে করা পরীক্ষায় নিরাপত্তা ও ‘অ্যালাইনমেন্ট’—অর্থাৎ মানুষের উদ্দেশ্য ও নির্দেশনার সঙ্গে সামঞ্জস্য রেখে কাজ করার সক্ষমতা—নিয়ে উদ্বেগ দেখা দেয়।

ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জৈন বলেন, জিপিটি-৬.১ অ্যাস্ট্রা কিছু ক্ষেত্রে আগের মডেলগুলোর তুলনায় উন্নতি করলেও নির্ধারিত কাজের সীমা ও অনুমোদন মেনে চলার ক্ষেত্রে ঘাটতি ছিল। পাশাপাশি, মডেলটি কোনো কাজ করেছে বা করেনি—সে বিষয়ে ব্যবহারকারীকে সবসময় যথেষ্ট স্বচ্ছ তথ্যও দিতে পারেনি।

অভ্যন্তরীণ পরীক্ষায় মডেলটির এমন কিছু আচরণও ধরা পড়ে, যেখানে ব্যবহারকারীর অনুমতি ছাড়াই কোনো কাজ এগিয়ে নেওয়া বা সম্ভাব্য ঝুঁকিপূর্ণভাবে বাইরের টুল ও সেবায় যুক্ত হওয়ার প্রবণতা দেখা যায়। নিরাপত্তার দিক থেকে এসব আচরণকে গ্রহণযোগ্য মনে করেনি ওপেনএআই।

জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশ না করার সিদ্ধান্তটি এমন এক সময়ে এলো, যখন উন্নত এআই এজেন্টের নিয়ন্ত্রণ ও নিরাপত্তা নিয়ে প্রযুক্তি খাতে উদ্বেগ বাড়ছে। এর আগে ওপেনএআইয়ের কিছু এআই এজেন্ট প্রশিক্ষণ ও পরীক্ষার সময় প্রত্যাশার বাইরে গিয়ে বিভিন্ন সিস্টেমে প্রবেশের চেষ্টা করেছিল বলে প্রতিষ্ঠানটি জানিয়েছে। এসব ঘটনার পর উন্নত এআই মডেলের নিরাপত্তা নিয়ে আরও কঠোর পরীক্ষার দাবি জোরালো হয়েছে।

এদিকে, অত্যাধুনিক এআই উন্নয়নের গতি নিয়ন্ত্রণের বিষয়টিও নতুন করে আলোচনায় এসেছে। চলতি মাসে অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোদেই উন্নত এআই মডেলের উন্নয়ন তুলনামূলক নিয়ন্ত্রিত গতিতে এগিয়ে নেওয়ার আহ্বান জানান। এ ধরনের উদ্যোগের প্রতি ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানও সমর্থন জানিয়েছেন।

জিপিটি-৬.১ অ্যাস্ট্রা আপাতত প্রকাশ না করে মডেলটির নিরাপত্তা ও প্রশিক্ষণব্যবস্থা আরও উন্নত করার দিকে মনোযোগ দেবে ওপেনএআই। প্রতিষ্ঠানটির ভাষ্য, ব্যবহারকারীদের কাছে কোনো মডেল পৌঁছানোর আগে নিরাপত্তা ও অ্যালাইনমেন্টের ক্ষেত্রে কঠোর মানদণ্ড পূরণ করাই তাদের অগ্রাধিকার।