ওপেনএআইয়ের তৈরি এআই মডেলের মতো নিয়ন্ত্রণহীন হয়ে পড়েছিল অ্যানথ্রপিকের ক্লড

নিরাপত্তা পরীক্ষার সময় ইন্টারনেট থেকে বিচ্ছিন্ন থাকার কথা থাকলেও নিজেদের তৈরি কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) মডেল ‘ক্লড’ নিয়ন্ত্রণহীন অবস্থায় তিনটি প্রতিষ্ঠানের নেটওয়ার্কে গোপনে প্রবেশ করেছিল বলে জানিয়েছে অ্যানথ্রপিক। সম্প্রতি চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআইও জানিয়েছিল, পরীক্ষার সময় নির্দেশনা ছাড়াই জনপ্রিয় এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ ব্যবস্থায় অনুপ্রবেশ করে তথ্য সংগ্রহ করেছে নতুন দুটি এআই মডেল। এর ফলে ওপেনএআই ও অ্যানথ্রপিকের তৈরি এআই মডেলগুলোর স্বাধীনভাবে কাজ করার ক্ষমতা তৈরি হওয়ায় এআই এজেন্টের নিরাপত্তা নিয়ে নতুন করে প্রশ্ন উঠেছে।

এক বিবৃতিতে অ্যানথ্রপিক জানিয়েছে, সিস্টেম কনফিগারেশনের একটি ত্রুটির কারণে পরীক্ষার সময় ক্লডের ইন্টারনেটে প্রবেশের সুযোগ তৈরি হয়েছিল। বিষয়টি শনাক্ত হওয়ার পর প্রতিষ্ঠানটি ১ লাখ ৪১ হাজার ৬টি পরীক্ষামূলক সেশন পর্যালোচনা করে। সেই পর্যালোচনায় তিনটি পৃথক অনুপ্রবেশের ঘটনা সামনে আসে। ঘটনাগুলো ঘটেছে ‘ক্যাপচার দ্য ফ্ল্যাগ’ ধরনের সাইবার নিরাপত্তা মহড়ার সময়। এ ধরনের পরীক্ষায় একটি কৃত্রিম নেটওয়ার্কে লুকিয়ে রাখা তথ্য খুঁজে বের করার দায়িত্ব দেওয়া হয় এআই মডেলকে।

অ্যানথ্রপিকের তথ্য মতে, পরীক্ষার নির্দেশনায় ক্লডকে স্পষ্টভাবে জানানো হয়েছিল, তার ইন্টারনেটে প্রবেশের সুযোগ নেই। কিন্তু মূল্যায়ন সহযোগী প্রতিষ্ঠান ইরেগুলারের সঙ্গে সমন্বয়জনিত ভুলের কারণে পরীক্ষা কার্যক্রম অনিচ্ছাকৃতভাবে ইন্টারনেটের সঙ্গে যুক্ত ছিল। এই সুযোগ কাজে লাগিয়ে ক্লড দুর্বল পাসওয়ার্ড এবং পরিচয় যাচাই ছাড়াই প্রবেশ করা যায় এমন তিনটি প্রতিষ্ঠানগুলোর নেটওয়ার্কে প্রবেশ করে। ঘটনার প্রাথমিক প্রমাণ পাওয়ার পর সব ধরনের সাইবার নিরাপত্তা মূল্যায়ন সাময়িকভাবে স্থগিত করা হয়েছে।

বর্তমানে বিভিন্ন প্রযুক্তিপ্রতিষ্ঠান এমন এআই এজেন্ট তৈরি করছে, যেগুলো মানুষের সরাসরি নির্দেশনা ছাড়াই নির্দিষ্ট কাজ সম্পন্ন করতে পারে। তবে সাম্প্রতিক এই দুটি ঘটনা দেখিয়েছে, পরীক্ষার পরিবেশে সামান্য ত্রুটিও কৃত্রিম বুদ্ধিমত্তাভিত্তিক প্রযুক্তির ক্ষেত্রে বড় ধরনের নিরাপত্তাঝুঁকি তৈরি করতে পারে।

সূত্র: আল–জাজিরা