নিজেদের তৈরি অ্যাস্ট্রা এআই মডেলের বিষয়ে সতর্ক করল ওপেনএআই, কেন
শিগগিরই নিজেদের তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল ‘অ্যাস্ট্রা’ উন্মুক্ত করতে যাচ্ছে ওপেনএআই। তবে সাধারণ ব্যবহারকারীদের কাছে পৌঁছানোর আগেই মডেলটির সক্ষমতা নিয়ে বড় ধরনের সতর্কতা জারি করেছে প্রতিষ্ঠানটি। ওপেনএআই জানিয়েছে, সাইবার নিরাপত্তার ক্ষেত্রে অ্যাস্ট্রা এমন সক্ষমতা অর্জন করেছে, যা তাদের ঝুঁকি মূল্যায়ন কাঠামোয় ‘ক্রিটিক্যাল’ বা গুরুতর পর্যায়ে পড়ে।
এক ব্লগ বার্তায় ওপেনএআই জানিয়েছে, তাদের কোনো মডেল এই প্রথম সাইবার নিরাপত্তার ক্ষেত্রে ‘ক্রিটিক্যাল’ সক্ষমতার সীমায় পৌঁছেছে। কোনো এআই মডেল মানুষের সহায়তা ছাড়াই শক্ত নিরাপত্তাব্যবস্থায় থাকা গুরুত্বপূর্ণ কম্পিউটার ব্যবস্থার অজানা ত্রুটি শনাক্ত করে তা কাজে লাগানোর পদ্ধতি তৈরি করতে পারলে সেটিকে এই পর্যায়ের সক্ষমতা হিসেবে বিবেচনা করা হয়। একইভাবে, শুধু একটি বড় লক্ষ্য নির্ধারণ করে দিলে কোনো মডেল যদি নিজে থেকেই নতুন ধরনের সাইবার হামলার কৌশল তৈরি ও বাস্তবায়ন করতে পারে, তাহলেও তা ‘ক্রিটিক্যাল’ পর্যায়ের সক্ষমতা হিসেবে বিবেচিত হয়। আর তাই শুরুতে মডেলটির সবচেয়ে উন্নত সাইবার নিরাপত্তা সুবিধাগুলো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত করা হবে না। এসব সুবিধা সীমিতসংখ্যক নির্বাচিত পরীক্ষামূলক অংশীদারকে ব্যবহারের সুযোগ দেওয়া হবে।
ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা (সিইও) স্যাম অল্টম্যান এক্সে জানিয়েছেন, অ্যাস্ট্রার প্রশিক্ষণ অনেক আগেই শেষ হয়েছে। তবে নিরাপত্তা ও এআইয়ের আচরণগত সামঞ্জস্য নিশ্চিত করতে প্রতিষ্ঠানটি প্রয়োজন অনুযায়ী এর উন্নয়ন ও উন্মুক্তির গতি কমিয়েছে। অ্যাস্ট্রা অত্যন্ত শক্তিশালী এআই মডেল। মডেলটি দিয়ে ব্যবহারকারীরা কী তৈরি করেন, তা দেখার জন্য ওপেনএআইও আগ্রহী। তবে এআইয়ের সক্ষমতা দ্রুত বাড়তে থাকায় এই পর্যায়ে সতর্কতার বিকল্প নেই। নতুন সক্ষমতার সঙ্গে সামঞ্জস্যপূর্ণ নিরাপত্তাব্যবস্থা নিশ্চিত করেই মডেলটির অগ্রগতি এগিয়ে নিতে চায় ওপেনএআই।
অ্যাস্ট্রার সাইবার নিরাপত্তা সক্ষমতা নিয়ে ওপেনএআইয়ের উদ্বেগের কারণ এর স্বয়ংক্রিয়ভাবে জটিল কাজ করার ক্ষমতা। প্রতিষ্ঠানটির পরীক্ষায় মডেলটি সফটওয়্যারের নিরাপত্তা ত্রুটি খুঁজে বের করার পাশাপাশি সেগুলো কাজে লাগানোর ক্ষেত্রে উল্লেখযোগ্য দক্ষতা দেখিয়েছে। ‘এক্সপ্লয়টবেঞ্চ’ নামের একটি পরীক্ষায় অ্যাস্ট্রা শতভাগ নম্বর পেয়েছে বলে জানিয়েছে ওপেনএআই। এর আগে ওপেনএআইয়ের জিপিটি-৫.৬-সোল মডেলকে সাইবার নিরাপত্তার ক্ষেত্রে ‘উচ্চ’ ঝুঁকির মডেল হিসেবে মূল্যায়ন করা হয়েছিল। অ্যাস্ট্রার সক্ষমতা সেই পর্যায়কেও ছাড়িয়ে গেছে বলে ওপেনএআইয়ের মূল্যায়নে উঠে এসেছে।
সূত্র: ম্যাশেবল