সাইবার নিরাপত্তা পরীক্ষার সময় অ্যানথ্রপিকের কৃত্রিম বুদ্ধিমত্তা মডেল ক্লড চারটি ঘটনায় পরীক্ষার নির্ধারিত সীমা পেরিয়ে বাস্তব কম্পিউটার সিস্টেমে প্রবেশ করেছিল। অ্যানথ্রপিকের নতুন এক মূল্যায়ন প্রতিবেদনে বলা হয়েছে, পরীক্ষার পরিবেশে ভুল কনফিগারেশনের কারণে ইন্টারনেট সংযোগ খোলা ছিল। সেই সুযোগে ক্লড এমন কিছু বাস্তব অবকাঠামোর সঙ্গে যোগাযোগ করে, যেগুলো পরীক্ষার অংশ ছিল না।

৯ সেপ্টেম্বর প্রকাশিত প্রতিবেদনে অ্যানথ্রপিক জানিয়েছে, ঘটনাগুলো সাইবার নিরাপত্তা মূল্যায়নের সময় ঘটেছে। ক্লডকে বলা হয়েছিল, এটি একটি বিচ্ছিন্ন ও ইন্টারনেটবিহীন কৃত্রিম পরিবেশে কাজ করছে। কিন্তু পরীক্ষার অবকাঠামোর একটি ভুল কনফিগারেশনের কারণে মডেলগুলো বাস্তব ইন্টারনেটে পৌঁছাতে সক্ষম হয়। অ্যানথ্রপিক পরে প্রায় ৪৮ কোটি কথোপকথন বা পরীক্ষার নথি পর্যালোচনা করে এবং একই ধরনের চারটি ঘটনা শনাক্ত করে।

প্রতিষ্ঠানটি জানিয়েছে, চারটি ঘটনাতেই ক্লডকে সাইবার নিরাপত্তার ‘ক্যাপচার দ্য ফ্ল্যাগ’ ধরনের পরীক্ষা দেওয়া হয়েছিল। এ ধরনের পরীক্ষায় মডেলকে একটি নির্দিষ্ট কম্পিউটার ব্যবস্থায় লুকানো তথ্য খুঁজে বের করার দায়িত্ব দেওয়া হয়। কিন্তু কোথায় খোঁজ করা যাবে, সে বিষয়ে পরীক্ষার নির্দেশনায় নির্দিষ্ট সীমা ছিল না। ফলে বাস্তব ইন্টারনেটে পৌঁছে যাওয়ার পর ক্লড কিছু ক্ষেত্রে সেখানকার ব্যবস্থাকেও পরীক্ষার অংশ হিসেবে ধরে নেয়।

অ্যানথ্রপিকের ভাষায়, ঘটনাগুলোতে দুটি আচরণ বিশেষভাবে দেখা গেছে। প্রথমটি হলো বাস্তব পরিবেশের প্রমাণকে ভুলভাবে ব্যাখ্যা বা উপেক্ষা করা। দ্বিতীয়টি হলো নির্ধারিত কাজ শেষ করার জন্য প্রয়োজনের চেয়ে ঝুঁকিপূর্ণ পদক্ষেপ নেওয়া। প্রতিষ্ঠানটি এগুলোকে যথাক্রমে ‘বায়াসড রিজনিং’ এবং ‘রেকলেসনেস’ হিসেবে বর্ণনা করেছে।

এর মধ্যে সবচেয়ে উদ্বেগজনক ঘটনা ঘটেছে ক্লড মিথস ৫-এর ক্ষেত্রে। পরীক্ষার সময় মডেলটি একটি ক্ষতিকর সফটওয়্যার প্যাকেজ তৈরি করে তা পাইপিআইতে আপলোড করেছিল। পাইপিআই হলো পাইথন সফটওয়্যার প্যাকেজ বিতরণের একটি বহুল ব্যবহৃত উন্মুক্ত প্ল্যাটফর্ম। প্যাকেজটি সরিয়ে নেওয়ার আগেই বাস্তব কম্পিউটার সিস্টেমে সেটি ডাউনলোড করা হয়েছিল। অ্যানথ্রপিক জানিয়েছে, এ ঘটনায় মডেলটির কর্মকাণ্ড পরীক্ষার পরিবেশের বাইরেও প্রভাব ফেলেছিল।

অ্যানথ্রপিকের মূল্যায়ন অনুযায়ী, মিথস ৫-এর ঘটনাটি বিশেষভাবে গুরুত্বপূর্ণ কারণ মডেলটি নিজের যুক্তিতেই বুঝতে পেরেছিল যে এটি বাস্তব ইন্টারনেট হতে পারে। এমনকি বাস্তব হলে সফটওয়্যার প্রকাশের ফলে বাস্তব ক্ষতি হতে পারে বলেও মডেলটি বিবেচনা করেছিল। পরে কিছু ভুল অনুমানের ভিত্তিতে আবার ধরে নেয় যে সে একটি কৃত্রিম পরীক্ষার পরিবেশেই রয়েছে এবং কাজ চালিয়ে যায়।

আরেকটি ঘটনায় ক্লড ওপাস ৪.৭ একটি বাস্তব প্রতিষ্ঠানের কম্পিউটার অবকাঠামোয় পৌঁছে যায়। পরীক্ষার জন্য তৈরি কাল্পনিক প্রতিষ্ঠানের সঙ্গে বাস্তব একটি প্রতিষ্ঠানের নামের মিল থাকায় মডেলটি বাস্তব প্রতিষ্ঠানটিকেই পরীক্ষার লক্ষ্য হিসেবে ধরে নেয়। পরে সেটির বিভিন্ন ব্যবস্থায় প্রবেশ করে তথ্য ও পরিচয়পত্রসংক্রান্ত তথ্য সংগ্রহ করে। অ্যানথ্রপিক জানিয়েছে, চারটি পৃথক পরীক্ষায় একই বাস্তব প্রতিষ্ঠান লক্ষ্যবস্তুতে পরিণত হয়েছিল।

এই ঘটনায় মডেলটি বাস্তব ব্যবস্থার সঙ্গে যোগাযোগ করছে এমন কিছু লক্ষণও পেয়েছিল। কিন্তু সেটি গভীরভাবে যাচাই করেনি যে বাস্তব প্রতিষ্ঠানটিতে প্রবেশের অনুমতি আদৌ দেওয়া হয়েছিল কি না। অ্যানথ্রপিকের বিশ্লেষণে দেখা গেছে, পরবর্তী পর্যায়ে মডেলটি ওই প্রতিষ্ঠানের আরও তথ্য সংগ্রহ করে, প্রবেশের সুযোগ বাড়াতে কিছু সেটিং পরিবর্তন করে এবং একজন ব্যক্তির ব্যক্তিগত তথ্যও দেখে।

অন্য একটি ঘটনায় ক্লড ওপাস ৪.৬-এর একটি পুরোনো সংস্করণ পরীক্ষার নির্ধারিত লক্ষ্য মেশিনে কাজ করতে গিয়ে সেটিকে অপ্রাপ্য করে ফেলে। এরপর মডেলটি আটবার কাজ বন্ধ করার চেষ্টা করলেও পরীক্ষার আরেকটি ত্রুটির কারণে তা সম্ভব হয়নি। পরে বিকল্প পথ খুঁজতে গিয়ে একটি তৃতীয় পক্ষের কম্পিউটারে পৌঁছে যায় এবং সংরক্ষিত পরিচয়পত্র ব্যবহার করে প্রশাসনিক পর্যায়ের প্রবেশাধিকার পায়। অ্যানথ্রপিক জানিয়েছে, সেশন শেষ হওয়ার আগে মডেলটি ব্যক্তিগত তথ্যও দেখেছিল।

চতুর্থ ঘটনায় অ্যানথ্রপিকের একটি অভ্যন্তরীণ গবেষণা মডেল নির্ধারিত লক্ষ্য ছাড়িয়ে পাশের কিছু ব্যবস্থার সঙ্গে যোগাযোগ শুরু করে। পরে সেটি বুঝতে পারে যে বাস্তব অবকাঠামোর মুখোমুখি হয়েছে। এই পর্যায়ে মডেলটি কাজ থামিয়ে দেয় বলে অ্যানথ্রপিক জানিয়েছে।

তবে অ্যানথ্রপিক স্পষ্ট করেছে, ঘটনাগুলোকে এমনভাবে দেখা উচিত নয় যে ক্লড নিজে থেকে কোনো নতুন লক্ষ্য তৈরি করে মানুষের নিয়ন্ত্রণের বাইরে চলে গিয়েছিল। চারটি ঘটনাতেই মডেলগুলো তাদের দেওয়া সাইবার নিরাপত্তা কাজ সম্পন্ন করার চেষ্টা করছিল। কোনো ঘটনায় একাধিক এআই মডেলের মধ্যে সমন্বয়, আলাদা কোনো গোপন লক্ষ্য বা নজরদারি এড়িয়ে যাওয়ার চেষ্টা পাওয়া যায়নি।

প্রতিষ্ঠানটির মতে, এসব ঘটনার তাৎক্ষণিক কারণ ছিল পরীক্ষার অবকাঠামোর ভুল কনফিগারেশন। অর্থাৎ ক্লডকে ইন্টারনেটবিহীন পরিবেশে কাজ করতে বলা হলেও বাস্তবে সেই সংযোগ পুরোপুরি বন্ধ ছিল না। জুলাইয়ে অ্যানথ্রপিক প্রথম তিনটি ঘটনার কথা প্রকাশ করার পর আরও বড় পরিসরে নথি পর্যালোচনা করে জানুয়ারির একটি অতিরিক্ত ঘটনা শনাক্ত করে।

অ্যানথ্রপিক জানিয়েছে, চারটি ঘটনায় ক্ষতিগ্রস্ত পক্ষগুলোকে তারা অবহিত করেছে। পাশাপাশি স্বাধীন তদন্তের জন্য মূল্যায়ন সংস্থা এমইটিআর-এর সঙ্গে চুক্তি করেছে। এই তদন্তে অ্যানথ্রপিকের কর্মীদের সাক্ষাৎকার নেওয়া এবং সংশ্লিষ্ট পরীক্ষার বাইরের নথিও পর্যালোচনা করার সুযোগ থাকবে।

ঘটনাগুলো এমন এক সময়ে সামনে এলো, যখন এআই ব্যবস্থাকে আরও বেশি স্বায়ত্তশাসিত ক্ষমতা দেওয়ার প্রবণতা বাড়ছে। সফটওয়্যার লেখা, সাইবার নিরাপত্তা পরীক্ষা, গবেষণা এবং অন্যান্য কাজে এআইকে নিজে থেকে একাধিক ধাপ সম্পন্ন করার সুযোগ দেওয়া হচ্ছে। ফলে একটি মডেল কোনো নির্দেশনা ভুলভাবে বুঝলে বা পরিবেশ সম্পর্কে ভুল ধারণা করলে তার প্রভাব কতদূর যেতে পারে, তা নিয়ে নতুন করে আলোচনা তৈরি হয়েছে।

অ্যানথ্রপিক নিজেও বলেছে, ভবিষ্যতের আরও শক্তিশালী এআই ব্যবস্থার ক্ষেত্রে একই ধরনের ভুলের সম্ভাব্য ক্ষতি আরও বড় হতে পারে। প্রতিষ্ঠানটির মতে, উন্নত এআই ব্যবস্থাকে নির্ভরযোগ্যভাবে মানুষের উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ রাখা এখনো একটি অমীমাংসিত প্রযুক্তিগত সমস্যা। তাই মডেলের প্রশিক্ষণের পাশাপাশি পরীক্ষার অবকাঠামো, নজরদারি এবং নিরাপত্তা ব্যবস্থার উন্নয়নও জরুরি।

তবে প্রতিষ্ঠানটি এটিও জানিয়েছে, তাদের বর্তমান পরীক্ষায় এখন এই নির্দিষ্ট ধরনের পরিস্থিতি যুক্ত করা হয়েছে। পাশাপাশি অ্যানথ্রপিক মনে করছে, অতিরিক্ত নিরাপত্তা ব্যবস্থা ও উন্নত প্রশিক্ষণের মাধ্যমে এসব ঝুঁকি কমানো সম্ভব।

সূত্র: অ্যানথ্রপিক, নিউজউইক।