এআই কি প্রতারণায় দক্ষ হয়ে উঠছে
কৃত্রিম বুদ্ধিমত্তা বা আর্টিফিশিয়াল ইনটেলিজেন্স (এআই) এখন দ্রুত উন্নত হচ্ছে। বুদ্ধির খেলায় বোর্ড গেমে মানুষকে হারিয়ে দিচ্ছে, প্রোটিনের গঠনরহস্য বের করে আনছে, এমনকি মানুষের সঙ্গে বুদ্ধিদীপ্ত কথাবার্তাও চালিয়ে যাচ্ছে এআই। কিন্তু এআই যত উন্নত ও জটিল হচ্ছে, এ নিয়ে দুশ্চিন্তাও তত বাড়ছে।
বিজ্ঞানীরা সতর্ক করে বলছেন, এআই জটিলতর হওয়ার সঙ্গে সঙ্গে এর প্রতারণার সক্ষমতাও তরতর করে বেড়ে যাচ্ছে।
যুক্তরাষ্ট্রের ম্যাসাচুসেটস ইনস্টিটিউট অব টেকনোলজির (এমআইটি) গবেষকেরা সম্প্রতি এআইয়ের সক্ষমতা নিয়ে একটি গবেষণা চালিয়েছেন। তাঁদের গবেষণায় এআই কীভাবে দুই প্রতিপক্ষের কাছে দুই রকম আচরণ করতে পারে, কীভাবে ধোঁকা দিতে পারে এবং কীভাবে মানুষ হওয়ার ভান ধরতে পারে, তার বিস্তৃত উদাহরণ উঠে এসেছে। বিশ্লেষকেরা এআই নিয়ে কয়েকটি নিরাপত্তা পরীক্ষা চালান। তাতে দেখা যায়, একটি এআই সিস্টেম তার পুরো আচরণ পাল্টে ফেলেছে। এআই এ ধরনের আচরণ করলে অনেক সময় নিরাপত্তা সম্পর্কে ভুল ধারণা পাওয়া যায়।
গবেষণা নিবন্ধের লেখক ও এমআইটির এআই গবেষক পিটার পার্ক বলেন, এআইয়ের উন্নতির সঙ্গে সঙ্গে এর প্রতারণামূলক সক্ষমতা যত বাড়ছে, ততই সমাজের জন্য বিপদের ঝুঁকিও ক্রমে বাড়ছে।
গবেষক পার্ক দাবি করেছেন, তাঁরা ফেসবুকের মূল প্রতিষ্ঠান মেটার তৈরি ‘সিসেরো’ এআই প্রোগ্রাম নিয়ে গবেষণা করেন। প্রোগ্রামটি ব্যবহার করে স্ট্র্যাটেজি গেম ‘ডিপ্লোমেসি’ খেলা হয়।
মেটার দাবি, সিসেরো প্রোগ্রামটিকে এমনভাবে প্রশিক্ষণ দেওয়া হয়েছে, যা প্রতারণা করে না। এটি অনেক সাহায্য করে থাকে। তবে গবেষক পার্ক বলছেন ভিন্ন কথা। তাঁর মতে, এতে যে ভাষা ব্যবহার করা হয়েছে, তা সন্দেহজনক। কারণ, এ খেলায় প্রতারণা একটি গুরুত্বপূর্ণ বিষয়।
পার্ক ও সহকর্মীরা দেখেছেন, সিসেরো প্রোগ্রামটি আগে থেকে ঠিক করে রাখা মিথ্যা বলে। এ ছাড়া অন্য খেলোয়াড়দের টেনে আনতে প্রতারণার আশ্রয় নেয়। পার্ক বলেন, ‘আমরা দেখেছি, মেটার এআই প্রতারণার বিষয়টি বিশেষভাবে শিখে গেছে।’
এমআইটির গবেষকেরা অন্য সিস্টেমের ক্ষেত্রেও একই ধরনের চিত্র দেখতে পান। এর মধ্যে টেক্সাস হোল্ডএম পোকারে পেশাদার খেলোয়াড়দের সঙ্গে প্রতারণা করতে দেখেছেন।
পার্ক বলেন, এআই সিস্টেমগুলো যে ধরনের প্রতারণা শিখছে, তা বেশ উদ্বেগের। কোনো এআই সিস্টেম পরীক্ষায় নিরাপদ দেখা গেলেও তা আসলে নিরাপদ কি না, তা বোঝার উপায় থাকে না। অনেক সময় এটি কেবল পরীক্ষার সময় নিরাপদ হওয়ার ভান ধরে।
গবেষণা-সংক্রান্ত নিবন্ধ প্রকাশিত হয়েছে ‘প্যাটার্নস’ সাময়িকীতে। গবেষকেরা তাঁদের পর্যালোচনার ভিত্তিতে সম্ভাব্য এআই প্রতারণা নিয়ে সরকারকে এআই নিরাপত্তা আইন করার প্রস্তাব করেন। তাঁরা বলেন, অসৎ এআই সিস্টেমের ঝুঁকির মধ্যে রয়েছে প্রতারণা, নির্বাচনের ফল কারচুপির মতো নানা বিষয়।
গবেষকেরা সতর্ক করে বলেন, এআই পদ্ধতি যদি প্রতারণার ক্ষেত্রে পুরোপুরি সক্ষমতা অর্জন করে ফেলে, তবে মানুষ এর ওপর থেকে নিয়ন্ত্রণ হারাবে।
ইউনিভার্সিটি অব লিডস এবং অ্যালান টুরিং ইনস্টিটিউটের অটোমেটেড রিজনিং বিষয়ের অধ্যাপক অ্যান্টনি কোহন বলেছেন, গবেষণাটি সময়োপযোগী। তিনি একে স্বাগত জানান। তিনি বলেন, যে এআই সিস্টেমের জন্য পছন্দসই এবং অবাঞ্ছিত আচরণগুলো কীভাবে সংজ্ঞায়িত করা যায়, সে বিষয়ে উল্লেখযোগ্য চ্যালেঞ্জ রয়েছে।
এআই সিস্টেমের ক্ষেত্রে পছন্দসই আচরণের মধ্যে রয়েছে সততা, সহযোগিতার মনোভাব, ক্ষতিকর হয়—এমন কিছু না করার মতো বিষয়। কিন্তু এ ধরনের গুণ আবার অনেক ক্ষেত্রে বিপদ ডেকে আনতে পারে।
অনেক সময় সততা দেখাতে গেলে কারও অনুভূতিতে আঘাত আসতে পারে। আবার কীভাবে বোমা তৈরি করতে হয়, এমন প্রশ্নের উত্তরে সহযোগিতা দেখালে তা ক্ষতির কারণ হতে পারে। তাই অনেক সময় এআই সিস্টেমের জন্য প্রতারণার বিষয়টিও প্রয়োজন হতে পারে।
গবেষকেরা বিষয়টি নিয়ে আরও গবেষণার আহ্বান জানান। তাঁরা বলেন, এতে এআই সিস্টেমের ক্ষতিকর প্রভাবগুলো কমানো যাবে।
মেটার এক মুখপাত্র বলেছেন, ‘আমাদের সিসেরো প্রোগ্রামটি মূলত গবেষণা প্রকল্প। গবেষকেরা যে মডেল তৈরি করেছেন, তা মূলত গেম খেলার জন্য প্রশিক্ষণ দেওয়া হয়েছে। মেটার পক্ষ থেকে গবেষণার ফল নিয়মিত জানানো হয়। আমাদের এই গবেষণার ফল মেটার অন্য কোনো পণ্যে ব্যবহারের পরিকল্পনা নেই।’
তথ্যসূত্র: দ্য গার্ডিয়ান