অনৈতিক আচরণ শনাক্ত হলে গোপনে কথোপকথন পর্যালোচনা করবে ক্লড

কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) চ্যাটবট ক্লডে নতুন নিরাপত্তাব্যবস্থা চালু করেছে অ্যানথ্রপিক। ‘সেলফ অ্যাসেসমেন্ট’ নামের এ ব্যবস্থায় ব্যবহারকারীর সঙ্গে হওয়া কথোপকথন নিজেই পর্যালোচনা করে সম্ভাব্য ক্ষতিকর আচরণ শনাক্ত করবে ক্লড। কোনো কথোপকথনে অনৈতিক বা বিপজ্জনক কর্মকাণ্ডের ইঙ্গিত পাওয়া গেলে সেটি মানব পর্যালোচনার জন্য চিহ্নিত করে রাখা হবে। তবে এ প্রক্রিয়ার সময় ব্যবহারকারীকে কোনো সতর্কবার্তা দেওয়া হবে না। অ্যানথ্রপিকের তথ্যমতে, ২০২৬ সালের জুন থেকেই ক্লড ফেবল ৫ ও বিভিন্ন মডেলে এ ব্যবস্থা চালু রয়েছে।

সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক বার্তায় অ্যানথ্রপিক জানিয়েছে, ক্লডের প্রতিটি উত্তর তৈরির পরই নেপথ্যে কথোপকথনের নিরাপত্তা মূল্যায়ন করা হয়। এ জন্য চ্যাটবটটিকে নিজের তৈরি উত্তরসহ পুরো কথোপকথন পর্যালোচনার নির্দেশ দেওয়া হয়। প্রচলিত নিরাপত্তাব্যবস্থার মতো আগে থেকে নির্ধারিত নিয়মের তালিকার ওপর নির্ভর করে না এ পদ্ধতি। বরং ক্লডের নিজস্ব বিশ্লেষণক্ষমতা কাজে লাগিয়ে সম্ভাব্য ঝুঁকি শনাক্ত করা হয়। ফলে এআই মডেলের সক্ষমতা বাড়ার সঙ্গে সঙ্গে ঝুঁকি শনাক্ত করার দক্ষতাও বাড়তে পারে। একই সঙ্গে প্রচলিত নিরাপত্তাব্যবস্থার নজর এড়িয়ে যায়, এমন জটিল অপব্যবহারের ঘটনাও চিহ্নিত করতে পারে এটি।

সাধারণত এআই চ্যাটবটের সঙ্গে ব্যবহারকারীর কথোপকথন প্রশ্ন ও উত্তরের মধ্যেই সীমাবদ্ধ থাকে। তবে সেলফ অ্যাসেসমেন্ট চালু থাকলে ক্লডের প্রতিটি উত্তর তৈরির পর নেপথ্যে আরও একটি ধাপ যুক্ত হয়। এ সময় একটি গোপন নির্দেশনার মাধ্যমে চ্যাটবটটিকে নিজের উত্তরসহ পুরো কথোপকথন পর্যালোচনা করতে বলা হয়। পর্যালোচনা শেষে ক্লড একটি সংক্ষিপ্ত অভ্যন্তরীণ মূল্যায়ন তৈরি করে। এতে ব্যবহারকারীর অনুরোধে ক্ষতিকর কোনো বিষয় ছিল কি না, থাকলে সেটি কী ধরনের ঝুঁকির সঙ্গে সম্পর্কিত এবং মানব পর্যালোচনার জন্য বিষয়টি কতটা গুরুত্বপূর্ণ, তা উল্লেখ করা হয়। কথোপকথনে কোনো ঝুঁকির ইঙ্গিত না পেলে সেটিকে স্বাভাবিক হিসেবে চিহ্নিত করে পরবর্তী কাজে এগিয়ে যায় সিস্টেমটি। এ প্রক্রিয়ায় ব্যবহারকারী কোনো সতর্কবার্তা পান না, এমনকি কথোপকথনেও কোনো বিঘ্ন ঘটে না। ক্লড আগে থেকেই কথোপকথনটি প্রক্রিয়াকরণ করে বলে, নিরাপত্তা যাচাইয়ের জন্য নতুন করে সব তথ্য বিশ্লেষণ করতে হয় না। এতে বাড়তি কম্পিউটিং সক্ষমতার প্রয়োজনও কমে যায়।

এআইয়ের নিরাপত্তা যাচাইয়ের প্রচলিত পদ্ধতিতে সাধারণত বিপুল কম্পিউটিং সক্ষমতার প্রয়োজন হয়। তবে অ্যানথ্রপিকের দাবি, সেলফ অ্যাসেসমেন্টে বাড়তি খরচ খুবই সামান্য। প্রতিবার যাচাইয়ের জন্য মাত্র ১০টি অতিরিক্ত টোকেন ব্যবহার হয়। এতে মোট কম্পিউটিং খরচ বাড়ে ২ শতাংশের কম। অ্যানথ্রপিকের তথ্যমতে, প্রতিষ্ঠানটির আগের নিরাপত্তাব্যবস্থায় কম্পিউটিং খরচ প্রায় ২৪ শতাংশ বেড়ে যেত। অন্যদিকে, প্রতিদ্বন্দ্বী প্রতিষ্ঠান ওপেনএআইয়ের নিরাপত্তাব্যবস্থায় কম্পিউটিং সক্ষমতার সর্বোচ্চ ১৬ শতাংশ পর্যন্ত ব্যয় হতে পারে।

কম খরচের পাশাপাশি ঝুঁকি শনাক্তের ক্ষেত্রেও ভালো ফল দেখিয়েছে নতুন পদ্ধতিটি। ক্লড ফেবল ৫ মডেলে পরিচালিত পরীক্ষায় সেলফ অ্যাসেসমেন্ট সামগ্রিকভাবে ৭৮ শতাংশ ক্ষতিকর কথোপকথন শনাক্ত করতে পেরেছে। উচ্চ অগ্রাধিকারের ঘটনাগুলোর ক্ষেত্রে এ হার ৯৪ শতাংশ। অর্থাৎ গুরুতর ঝুঁকির অধিকাংশই মানব পর্যালোচনার জন্য চিহ্নিত করতে সক্ষম হয়েছে এটি। অন্যদিকে, নিরাপদ কথোপকথনকে ভুল করে ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করার হার মাত্র ১ শতাংশ।

নেপথ্যে চালু করার পর বাস্তবেও গুরুতর অপব্যবহারের ঘটনা শনাক্ত করেছে সেলফ অ্যাসেসমেন্ট। অ্যানথ্রপিকের তথ্য অনুযায়ী, শুধু আগস্ট মাসেই একটি গ্রাহকের সঙ্গে সংশ্লিষ্ট শিশু যৌন নিপীড়নসংক্রান্ত এক লাখের বেশি ঘটনা শনাক্ত করেছে এ ব্যবস্থা। পরে এসব ঘটনা আইনশৃঙ্খলা রক্ষাকারী কর্তৃপক্ষকে জানায় প্রতিষ্ঠানটি। নতুন এ ব্যবস্থার অন্যতম বৈশিষ্ট্য হলো, আগে থেকে তালিকাভুক্ত নয় এমন ক্ষতিকর আচরণও শনাক্ত করতে পারে এটি। কারণ, সেলফ অ্যাসেসমেন্ট নির্দিষ্ট কিছু নিয়ম বা পরিচিত হুমকির তালিকার ওপর নির্ভরশীল নয়। বরং ক্লডের সামগ্রিক জ্ঞান ও বিশ্লেষণক্ষমতা কাজে লাগিয়ে সম্ভাব্য ঝুঁকি চিহ্নিত করে। এ সক্ষমতা যাচাই করতে গবেষকেরা প্রশিক্ষণের তথ্যভান্ডার থেকে প্রতারণা ও সাইবার হামলার কিছু উদাহরণ পুরোপুরি বাদ দিয়ে পরীক্ষা চালান। এরপরও ক্লড এসব হুমকির ৯০ শতাংশ শনাক্ত করতে সক্ষম হয়েছে। অর্থাৎ আগে থেকে নির্দিষ্টভাবে প্রশিক্ষণ দেওয়া হয়নি, এমন নতুন ধরনের ঝুঁকিও বিশ্লেষণ করে চিহ্নিত করতে পারে এআই মডেলটি।

নতুন নিরাপত্তাব্যবস্থাটি কার্যকর হলেও এর সীমাবদ্ধতা রয়েছে বলে জানিয়েছে অ্যানথ্রপিক। সেলফ অ্যাসেসমেন্টের মূল কাজ হলো, সম্ভাব্য ঝুঁকি শনাক্ত করে সেগুলো পরবর্তী পর্যালোচনার জন্য চিহ্নিত করা। এটি তাৎক্ষণিকভাবে ক্ষতিকর কর্মকাণ্ড বন্ধ করতে পারে না। ফলে পরিকল্পিত সাইবার হামলা বা দক্ষ হ্যাকারদের ঠেকাতে শুধু এ ব্যবস্থার ওপর নির্ভর করা সম্ভব নয়।

অ্যানথ্রপিকের অভ্যন্তরীণ সাইবার নিরাপত্তা পরীক্ষায় দেখা গেছে, শুধু সেলফ অ্যাসেসমেন্ট চালু থাকলে হ্যাকাররা ৫৪ শতাংশ ক্ষেত্রে নিরাপত্তাব্যবস্থা এড়িয়ে যেতে পেরেছেন। কোনো নিরাপত্তাব্যবস্থা চালু না থাকলে এ হার ছিল ৭৯ শতাংশ। অর্থাৎ নতুন পদ্ধতিটি ঝুঁকি কমাতে সাহায্য করলেও সব ধরনের হামলা প্রতিরোধে যথেষ্ট নয়। অন্যদিকে, তাৎক্ষণিকভাবে ক্ষতিকর কর্মকাণ্ড আটকে দিতে পারে এমন স্বতন্ত্র নিরাপত্তাব্যবস্থা ব্যবহার করলে হ্যাকারদের সফল হওয়ার হার ২৫ শতাংশে নেমে আসে।

সূত্র: ইন্ডিয়া টুডে