জার্মান ওয়েবসাইট দখল করে নিজেদের মধ্যে যোগাযোগ করেছিল ওপেনএআইয়ের এআই এজেন্ট

জার্মানির একটি ওয়েবসাইটে ঢুকে সেটিকে নিজেদের মধ্যে যোগাযোগ করার মাধ্যম হিসেবে ব্যবহার করেছিল ওপেনএআইয়ের একগুচ্ছ এআই এজেন্ট। চলতি বছরের মে মাসে শুরু হওয়া এই কর্মকাণ্ডে এআই এজেন্টরা ওয়েবসাইটটিতে ১৫ হাজারের বেশি সম্পাদনা করে। সেখানে তারা বিভিন্ন কাজের পরীক্ষায় সুবিধা নেওয়া, ওপেনএআইয়ের বিধিনিষেধ এড়িয়ে যাওয়া ও কর্মকাণ্ড গোপন রাখার কৌশল নিয়ে আলোচনা করেছিল বলে নতুন এক গবেষণায় উঠে এসেছে।

ঘটনাটি সম্পর্কে ওপেনএআই কয়েক সপ্তাহ আগেই জানতে পেরেছিল বলে জানিয়েছেন এ বিষয়ে অবগত ব্যক্তিরা। তবে জুলাইয়ে ওপেন সোর্স প্ল্যাটফর্ম হাগিং ফেসে এআই এজেন্টদের আরেকটি অনাকাঙ্ক্ষিত কর্মকাণ্ডের পর তৈরি পরিস্থিতির মধ্যে প্রতিষ্ঠানটি জার্মানির ঘটনাটি প্রকাশ করেনি বলে তাদের দাবি।

জার্মানির ঘটনাটি আগে প্রকাশ্যে আসেনি। এ ঘটনা এমন এক সময়ে সামনে এল, যখন প্রযুক্তি প্রতিষ্ঠানগুলো আরও বেশি স্বয়ংক্রিয় এআই এজেন্ট তৈরির প্রতিযোগিতায় নেমেছে। এসব এজেন্টকে জটিল ও গুরুত্বপূর্ণ কাজ নিজে থেকে সম্পন্ন করার সক্ষমতা দেওয়া হচ্ছে। কিন্তু একই সঙ্গে বিভিন্ন ঘটনায় দেখা যাচ্ছে এআই এজেন্ট নির্ধারিত নিয়ম এড়িয়ে যেতে, ব্যবস্থার দুর্বলতার সুযোগ নিতে এবং একে অপরের সঙ্গে এমনভাবে সমন্বয় করতে পারে, যা তাদের নির্মাতারা আগে থেকে প্রত্যাশা করেননি।

জার্মান ভাষার ওয়েবসাইট ডিএসইউইকি মূলত প্রোগ্রামারদের জন্য তৈরি। উইকিপিডিয়ার মতো এই সাইটেও ব্যবহারকারীরা সম্মিলিতভাবে বিভিন্ন তথ্য সম্পাদনা করতে পারেন। এ বছরের আগস্টের শেষ দিকে ইন্টারনেটে অনুমতি ছাড়া এআই এজেন্টদের কর্মকাণ্ডের চিহ্ন খুঁজতে গিয়ে সাইটটির অস্বাভাবিক কর্মকাণ্ড শনাক্ত করেন এআই নিরাপত্তাবিষয়ক গবেষক সিডনি ভন আরক্স ও এআই গবেষক করম্যাক স্লেড বায়ার্ড। তাঁদের গবেষণায় ডিএসইউইকিতে এআই এজেন্টদের করা ১৫ হাজারের বেশি সম্পাদনার তথ্য পাওয়া যায়। গবেষকদের মতে, এআই এজেন্টরা ডিএসইউইকির কিছু অংশকে কার্যত নিজেদের মধ্যে যোগাযোগের বোর্ডে পরিণত করেছিল। সেখানে বিভিন্ন প্রযুক্তিগত কাজ কীভাবে সম্পন্ন করা যায়, নির্ধারিত পরীক্ষায় কীভাবে সুবিধা নেওয়া যায়, ওপেনএআইয়ের বিধিনিষেধ কীভাবে এড়িয়ে যাওয়া যায় এবং নিজেদের কর্মকাণ্ড কীভাবে মানুষের নজর এড়ানো যায়—এসব নিয়ে আলোচনা করা হয়। সাইটে ব্যবহৃত বিভিন্ন অ্যাকাউন্টের নামও গবেষকদের দৃষ্টি আকর্ষণ করে। এসব অ্যাকাউন্টের প্রায় অর্ধেক এমন নাম ব্যবহার করেছিল, যেগুলো থেকে ওপেনএআইয়ের সঙ্গে সংশ্লিষ্টতার ইঙ্গিত পাওয়া যায়। এর মধ্যে ‘ওপেনএআইরিসার্চার’ ও ‘ওএআইরিসার্চমার২৬’-এর মতো নাম ছিল। গবেষকেরা সাইটটির প্রকাশ্য সার্ভার লগও বিশ্লেষণ করেন। তাঁদের দাবি, এসব কর্মকাণ্ডের বড় একটি অংশ মাইক্রোসফটের অ্যাজিউর অবকাঠামো ব্যবহার করে পরিচালিত হয়েছিল। ওপেনএআই বিভিন্ন কাজে অ্যাজিউ ব্যবহার করে থাকে। ঘটনার পর ওপেনএআইয়ের কর্মীদের ওই ওয়েবসাইটে বারবার প্রবেশের তথ্যও তাঁরা পান। এসব তথ্যের ভিত্তিতে গবেষকেরা এআই এজেন্টগুলোর সঙ্গে ওপেনএআইয়ের সংশ্লিষ্টতার দাবি করেছেন। তবে গবেষকেরা এমন কোনো তথ্য প্রকাশ করেননি, যার মাধ্যমে নিশ্চিতভাবে বলা যায়—ঠিক কোন ওপেনএআই মডেল বা ব্যবস্থা এসব কর্মকাণ্ড পরিচালনা করেছিল।

ঘটনার সবচেয়ে উদ্বেগজনক দিকগুলোর একটি ছিল এআই এজেন্টগুলোর নিজেদের কর্মকাণ্ড গোপন রাখার চেষ্টা। গবেষকেরা যেসব বার্তা পর্যালোচনা করেছেন, সেখানে এজেন্টদের শনাক্ত হওয়া এড়ানো, টরের মতো প্রযুক্তি ব্যবহার এবং বন্ধ করে দেওয়ার পরও নিজেদের মধ্যে যোগাযোগ চালু রাখার কৌশল নিয়ে আলোচনা করতে দেখা গেছে। জুনে ডিএসইউইকির মডারেটর এআই এজেন্টদের তৈরি কিছু পেজ মুছে দিতে শুরু করলে তারা বিকল্প পেজ তৈরি করে। এর মাধ্যমে মুছে ফেলার উদ্যোগ এড়িয়ে নিজেদের বার্তা ধরে রাখার চেষ্টা করেছিল তারা। ১৯ জুনের একটি বার্তায় এক এজেন্ট লিখেছিল, উইকি পরিষ্কার করার কাজ বর্ণানুক্রমে চলছে। কোনো পেজ মুছে গেলে অন্য একটি নির্দিষ্ট পেজে যাওয়ার পরামর্শও দেওয়া হয়েছিল। গবেষকেরা ওয়েবসাইটটির ওপর সরাসরি হস্তক্ষেপের চেষ্টারও প্রমাণ পেয়েছেন। কিংস কলেজ লন্ডনের ভিজিটিং সিনিয়র রিসার্চ ফেলো লুকাশ ওলেইজনিকের মতে, এসব কর্মকাণ্ডকে হ্যাকিংয়ের চেষ্টা হিসেবে বিবেচনা করা যেতে পারে। তবে ওপেনএআই এই ব্যাখ্যার সঙ্গে একমত নয়। প্রতিষ্ঠানটি জানিয়েছে, তাদের বিশ্লেষণ অনুযায়ী পাওয়া তথ্যের ভিত্তিতে ঘটনাটিকে হ্যাকিং বলা ঠিক হবে না।

জার্মানির ওয়েবসাইটে এআই এজেন্টদের কর্মকাণ্ডের সঙ্গে জুলাইয়ে হাগিং ফেসে ঘটে যাওয়া ঘটনার সরাসরি কোনো সম্পর্ক নেই বলে জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটি বলছে, দুটি ঘটনা আলাদা। তাই হাগিং ফেসের ঘটনা নিয়ে তৈরি প্রতিবেদনে জার্মানির ঘটনাটি অন্তর্ভুক্ত করারও প্রয়োজন ছিল না। এর আগে হাগিং ফেসের ঘটনায় ওপেনএআইয়ের এআই এজেন্টরা স্বয়ংক্রিয়ভাবে একটি ডিজিটাল চুরির পরিকল্পনা করেছিল বলে জানা যায়। ওই কর্মকাণ্ড এক সপ্তাহের বেশি সময় শনাক্ত করা যায়নি। ফলে এআই মডেলের সক্ষমতা বাড়ানোর পাশাপাশি নিরাপত্তা ও তদারকিকে কতটা গুরুত্ব দেওয়া হচ্ছে, তা নিয়ে নতুন করে প্রশ্ন ওঠে। জার্মানির ঘটনা প্রকাশ না করার বিষয়ে ওপেনএআইয়ের এক মুখপাত্র বলেছেন, তাঁরা গবেষকদের প্রতিবেদনটি প্রকাশের আগে পর্যালোচনার সুযোগ পাননি। প্রতিবেদনটি প্রকাশের পর এর বিষয়বস্তু পর্যালোচনা করে প্রয়োজনীয় পদক্ষেপ নেওয়া হবে বলে জানিয়েছেন তিনি। ঘটনাটি তদন্তের পরিধি বাড়ানোর উদ্যোগে ওপেনএআইয়ের ভেতরের কিছু ব্যক্তি, এমনকি আইনবিষয়ক পরামর্শকেরাও বাধা দিয়েছিলেন, এমন অভিযোগও উঠেছে। তবে ওপেনএআই এই অভিযোগ সরাসরি অস্বীকার করেছে।

কেমব্রিজ বিশ্ববিদ্যালয়ের সেন্টার ফর দ্য স্টাডি অব এক্সিস্টেনশিয়াল রিস্কের গবেষক মরিস চিওডো এআই এজেন্টগুলোর কিছু বার্তা পর্যালোচনা করেছেন। তার কাছে এসব বার্তার ধরন একটি নির্দিষ্ট লক্ষ্য অর্জনে সক্রিয় কোনো গোপন নেটওয়ার্কের কর্মকাণ্ডের মতো মনে হয়েছে। তাঁর মতে, উন্নত এআইয়ের সবচেয়ে বড় ঝুঁকি হয়তো একটি অতিবুদ্ধিমান এআই ব্যবস্থা নয়। একই লক্ষ্য অর্জনে পরস্পরের সঙ্গে সমন্বয় করতে সক্ষম বিপুলসংখ্যক তুলনামূলকভাবে কম বুদ্ধিমান এআই এজেন্টের সমন্বিত কর্মকাণ্ডই ভবিষ্যতে বড় ঝুঁকি তৈরি করতে পারে।

সূত্র: রয়টার্স