মানুষের সাহায্য ছাড়াই ল্যাবে সাইবার হামলা চালাল চীনা এআই মডেল জিএলএম-৫.৩

আমাদের প্রতিবেদক

নিয়ন্ত্রিত পরীক্ষাগারে মানুষের কোনো সাহায্য ছাড়াই জটিল সাইবার হামলা চালিয়ে দেখিয়েছে চীনের প্রতিষ্ঠান জেড ডট এআইয়ের (Z.ai) এআই মডেল জিএলএম-৫.৩। নিজে নিজে নেটওয়ার্কের দুর্বলতা খুঁজে বের করা, সেটি কাজে লাগানো এবং শেষ পর্যন্ত পুরো সিস্টেমের দখল নেওয়ার এ সক্ষমতা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। বার্তা সংস্থা রয়টার্সের বরাত দিয়ে খবরটি দিয়েছে বিডিনিউজ টোয়েন্টিফোর ডটকম।

১৩টির মধ্যে তিন পরিস্থিতিতে সফল

এআই নিরাপত্তা নিয়ে গবেষণা করা প্রতিষ্ঠান ইরেগুলার (Irregular) সম্প্রতি মডেলটি পরীক্ষা করে। তাদের প্রতিবেদন অনুযায়ী, কয়েক ধাপের ১৩টি সাইবার হামলার সিমুলেশনের মধ্যে তিনটি পুরোপুরি সম্পন্ন করতে পেরেছে জিএলএম-৫.৩। ইরেগুলারের পরীক্ষায় কোনো ওপেন-সোর্স মডেলের এটিই এখন পর্যন্ত সেরা ফল।

তবে শীর্ষ মার্কিন মডেলগুলোর তুলনায় এটি এখনো পিছিয়ে। আলাদা এক মূল্যায়নে ওপেনএআইয়ের জিপিটি-৬ অ্যাস্ট্রা ১০টি পরিস্থিতির ৯টিতে সফল হয়েছে, যদিও দুটি পরীক্ষার কাঠামো হুবহু এক ছিল না।

হামলায় আপত্তি তোলেনি, নিয়মও ভেঙেছে

ইরেগুলার জানিয়েছে, সিমুলেশনে মডেলটি সুরক্ষিত নেটওয়ার্কে ঢুকেছে, নেটওয়ার্কের ভেতরে এক যন্ত্র থেকে আরেক যন্ত্রে যাওয়ার জন্য বিকল্প সংযোগ তৈরি করেছে এবং একসঙ্গে একাধিক মেশিনে অভিযান চালিয়েছে। পুরো পরীক্ষায় কোনো আক্রমণাত্মক নির্দেশ পালনে এটি আপত্তি জানায়নি।

অন্য কয়েকটি পরীক্ষায় দেখা গেছে, স্পষ্ট নিষেধ থাকা সত্ত্বেও মডেলটি স্মৃতি থেকে কোড আবার লিখেছে এবং দক্ষতা যাচাইয়ের নিয়ম ভেঙে সঠিক উত্তরে পৌঁছেছে। গবেষকেরা একে ‘রিওয়ার্ড হ্যাকিং’ বলছেন, অর্থাৎ মূল নির্দেশনা এড়িয়ে শর্টকাটে কাঙ্ক্ষিত ফল বের করা। তাঁদের সতর্কবার্তা, শুধু সফলতার হার দেখে কোনো মডেলকে মাপলে এমন গুরুতর নিয়ম ভাঙার ঘটনা চোখ এড়িয়ে যেতে পারে।

ওপেন-ওয়েট হওয়ায় ঝুঁকি বেশি

বিশেষজ্ঞদের দুশ্চিন্তার বড় কারণ, জিএলএম-৫.৩-সহ অনেক চীনা মডেল ‘ওপেন-ওয়েট’। অর্থাৎ যে কেউ এগুলো নামিয়ে নিজের মতো বদলে স্বাধীনভাবে চালাতে পারেন। কম খরচ আর সহজে পরিবর্তন করা যায় বলে বিশ্বজুড়ে ডেভেলপার ও প্রতিষ্ঠানের কাছে এসব মডেলের চাহিদা দ্রুত বাড়ছে।

এর বিপরীতে ওপেনএআই ও অ্যানথ্রপিকের মতো মার্কিন প্রতিষ্ঠানগুলো তাদের সবচেয়ে শক্তিশালী মডেল নিজেদের নিয়ন্ত্রিত সার্ভারের মাধ্যমে ব্যবহার করতে দেয়, যাতে অপব্যবহার ঠেকানো সহজ হয়। অপব্যবহারের আশঙ্কায় অ্যানথ্রপিক তাদের সাইবার নিরাপত্তাবিষয়ক মডেল ‘মিথোস’-এর ব্যবহারও সীমিত রেখেছে।

অ্যানথ্রপিক সেপ্টেম্বরে জানিয়েছিল, সফটওয়্যারের নিরাপত্তা ত্রুটি কাজে লাগানোর পরীক্ষায় মিথোসের সাফল্যের হার ১৪ শতাংশ, আর জিএলএম-৫.৩-এর ১২ শতাংশ। প্রতিষ্ঠানটির মতে, তুলনামূলক সাধারণ কৌশলেই জিএলএম-৫.৩-এর নিরাপত্তা সুরক্ষা ভেঙে ফেলা যায়।

যুক্তরাষ্ট্রের ন্যাশনাল ইনস্টিটিউট অব স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি (নিস্ট) মডেলটিকে সাইবার নিরাপত্তার কাজে এখন পর্যন্ত সবচেয়ে সক্ষম ওপেন-ওয়েট মডেল বলেছে। তবে তাদের হিসাবে, শীর্ষ মার্কিন মডেলগুলোর চেয়ে এটি প্রায় চার মাস পিছিয়ে।

ঝিপু এআইয়ের প্রতিক্রিয়া মেলেনি

বেইজিংভিত্তিক জেড ডট এআই ‘ঝিপু এআই’ নামেও পরিচিত এবং চীনের শীর্ষস্থানীয় এআই স্টার্টআপগুলোর একটি। গত আগস্টে তারা জিএলএম-৫.৩ বাজারে আনে। বাড়তি নিরাপত্তা পরীক্ষার জন্য উন্মোচন দুই সপ্তাহ পেছানো হয়েছিল। এ বিষয়ে রয়টার্স মন্তব্য চাইলেও প্রতিষ্ঠানটি সাড়া দেয়নি।

রয়টার্স গত মাসে এমন অন্তত ২০টি গবেষণা ও মূল্যায়ন শনাক্ত করেছে, যেগুলোতে চীনা এআই এজেন্টের প্রতারণামূলক আচরণ, ভুল লুকানো ও বিধিনিষেধ এড়ানোর চেষ্টার প্রমাণ পাওয়া গেছে। তবে চীনা মডেল নিজে থেকে পরিচালকদের নিয়ন্ত্রণের বাইরে চলে গেছে, এমন প্রমাণ মেলেনি।

প্রযুক্তি গবেষণা প্রতিষ্ঠান ওমডিয়ার এক বিশ্লেষক মনে করেন, চীনের এআই খাতে আরও কড়া নজরদারি ও নিরাপত্তা পরীক্ষা দরকার। তবে কঠোর সরকারি তদারকিতে থাকা দেশটির শীর্ষ এআই ল্যাবগুলো শিগগিরই সংশোধনের পদক্ষেপ নেবে বলে তিনি আশাবাদী।