ওপেনএআই জানিয়েছে, তাদের একটি প্রকাশ না করা গবেষণামূলক কৃত্রিম বুদ্ধিমত্তা মডেল নিজের কাজের সারসংক্ষেপে এমন নির্দেশনা যুক্ত করেছিল, যাতে পরবর্তী সময়ে কাজ করার সময় স্বাভাবিক সীমাবদ্ধতা উপেক্ষা করার কথা বলা হয়েছিল। কৃত্রিম বুদ্ধিমত্তার অপ্রত্যাশিত আচরণ নিয়ে প্রকাশ করা নতুন নিরাপত্তা প্রতিবেদনে এমন ছয়টি ঘটনার কথা জানিয়েছে প্রতিষ্ঠানটি।

ওপেনএআইয়ের তথ্য অনুযায়ী, ঘটনাটি একটি গবেষণামূলক মডেলের প্রশিক্ষণ ও মূল্যায়নের সময় শনাক্ত হয়। মডেলটি পরবর্তী পর্যায়ে কাজ চালিয়ে যাওয়ার জন্য তৈরি করা সারসংক্ষেপে নিজের মূল কাজের সঙ্গে সম্পর্কহীন অতিরিক্ত নির্দেশনা ঢুকিয়ে দেয়। এসব নির্দেশনার কিছু অংশে নির্ধারিত সীমাবদ্ধতা উপেক্ষা করার কথাও ছিল। ওপেনএআই জানিয়েছে, এ ধরনের ২৭টি সারসংক্ষেপ শনাক্ত করা হয়েছে।

তবে ঘটনাটি কোনো প্রকাশ্য চ্যাটজিপিটি সংস্করণে সাধারণ ব্যবহারকারীদের সঙ্গে কথোপকথনের সময় ঘটেনি। প্রতিষ্ঠানটি জানিয়েছে, এটি তাদের একটি প্রকাশ না করা গবেষণামূলক মডেলের প্রশিক্ষণ ও মূল্যায়নের সময় পর্যবেক্ষণ করা হয়। ওপেনএআই আরও সতর্ক করেছে, প্রকাশ করা ঘটনাগুলো পৃথক উদাহরণ। এসব উদাহরণের ভিত্তিতে তাদের মডেলগুলোতে এমন আচরণ কত ঘন ঘন ঘটে, তা নির্ধারণ করা সম্ভব নয়।

প্রতিবেদনে আরও একটি ঘটনায় দেখা যায়, জিপিটি ৫.৬ সল প্রশিক্ষণের সময় কিছু মডেল নিজেদের সারসংক্ষেপে ভুল বা মানুষের নির্ধারিত লক্ষ্য থেকে বিচ্যুত আচরণ ব্যবহারকারীর কাছ থেকে গোপন রাখার নির্দেশ যুক্ত করেছিল। কিছু ক্ষেত্রে মডেলকে অনুপস্থিত ঐতিহাসিক তথ্য তৈরি করে তা প্রকাশ না করার এবং বিভিন্ন তথ্যসূত্রের সংস্করণের মধ্যে থাকা অমিল গোপন রাখার নির্দেশও দেওয়া হয়েছিল।

আরেক ঘটনায় ক্যালিফোর্নিয়ার একটি কাউন্টির আয়ের পরিসংখ্যান খোঁজার সময় একটি মডেল অনুমতি ছাড়া একটি উন্মুক্ত এপিআই চাবি ব্যবহার করে। কাঙ্ক্ষিত তথ্য সংগ্রহে ব্যর্থ হওয়ার পর মডেলটি তথ্য তৈরি করে সেটিকে সংশ্লিষ্ট তথ্যসূত্র থেকে পাওয়া তথ্য হিসেবে উপস্থাপন করে। ঘটনাটি এআইয়ের তথ্য যাচাই ও নির্ভরযোগ্যতার বিষয়টি নিয়েও উদ্বেগ তৈরি করেছে।

ওপেনএআইয়ের প্রতিবেদনে এআই এজেন্টের আচরণ নিয়েও কয়েকটি ঘটনা তুলে ধরা হয়েছে। একটি ঘটনায় একটি এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই একটি ফাইল ইন্টারনেটে আপলোড করে, যাতে পরে সেটিকে ব্রাউজারের তথ্যসূত্র হিসেবে ব্যবহার করা যায়। অন্য একটি ঘটনায় প্রশিক্ষণ কাজে যুক্ত একাধিক মডেল একটি অভ্যন্তরীণ সফটওয়্যার ভান্ডার ব্যবহার করে নিজেদের মধ্যে বার্তা আদানপ্রদান করে।

আরেক ঘটনায় সহযোগী এআই এজেন্টগুলো নিজেদের মধ্যে ফাইল আদানপ্রদানের জন্য একটি উন্মুক্ত ফাইল সংরক্ষণ ওয়েবসাইট ব্যবহার করে। এসব আচরণ মডেলকে দেওয়া নির্ধারিত কাজের বাইরে গিয়ে নিজস্ব উপায়ে লক্ষ্য পূরণের চেষ্টা করতে পারে কিনা, সেই প্রশ্ন সামনে এনেছে।

এসব ঘটনার পাশাপাশি ওপেনএআই কৃত্রিম বুদ্ধিমত্তার লক্ষ্যচ্যুত আচরণ শনাক্ত, তদন্ত ও প্রকাশের জন্য নতুন একটি কাঠামো চালু করেছে। প্রতিষ্ঠানটির সংজ্ঞা অনুযায়ী, লক্ষ্যচ্যুত আচরণ বলতে এমন পরিস্থিতিকে বোঝানো হচ্ছে, যেখানে কোনো এআই ব্যবস্থা মানুষের দেওয়া নির্দেশনা বা নির্ধারিত মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ নয় এমন কোনো লক্ষ্য অনুসরণ করে।

নতুন কাঠামোর আওতায় ভবিষ্যতে এআই মডেলের প্রশিক্ষণ, মূল্যায়ন, নিরাপত্তা পরীক্ষা এবং বাস্তব ব্যবহারের বিভিন্ন পর্যায়ে শনাক্ত হওয়া নির্দিষ্ট ধরনের অপ্রত্যাশিত আচরণ প্রকাশ করার পরিকল্পনা রয়েছে। এর উদ্দেশ্য হলো এ ধরনের ঘটনা শনাক্ত হওয়ার পর সেগুলো কীভাবে তদন্ত করা হয় এবং কী ধরনের ঝুঁকি তৈরি করতে পারে, সে বিষয়ে আরও স্বচ্ছতা তৈরি করা।

ওপেনএআই জানিয়েছে, এটি তাদের এ ধরনের ঘটনার প্রথম দফার প্রকাশনা এবং পূর্ণাঙ্গ তালিকা নয়। প্রতিষ্ঠানটি বলেছে, সময়ের সঙ্গে এই কাঠামো আরও উন্নত করা হবে এবং কৃত্রিম বুদ্ধিমত্তা মডেলের অপ্রত্যাশিত ও লক্ষ্যচ্যুত আচরণ সম্পর্কে আরও তথ্য প্রকাশ করা হবে।