এআইকে অন্ধভাবে বিশ্বাস করার বিষয়ে সতর্ক করলেন সত্য নাদেলা, কেন...
কৃত্রিম বুদ্ধিমত্তা (এআই) এখন শুধু প্রশ্নের উত্তর দেওয়া, ই–মেইল লেখা কিংবা ছবি তৈরির মধ্যে সীমাবদ্ধ নেই। এআই এজেন্টের সাহায্যে প্রতিষ্ঠানের গোপন তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং মানুষের সরাসরি হস্তক্ষেপ ছাড়াই বিভিন্ন কাজ করা সম্ভব হচ্ছে। তবে এআইয়ের সক্ষমতা বাড়ার সঙ্গে সঙ্গে এর ওপর অন্ধভাবে নির্ভর করার ঝুঁকিও বাড়ছে। এ বিষয়ে সবাইকে সতর্ক করে মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা জানিয়েছেন, এআইকে অন্ধভাবে বিশ্বাস করবেন না, এটি অভ্যন্তরীণ ঝুঁকির কারণ হতে পারে। এআইকে কাজে লাগানোর পাশাপাশি এর কার্যক্রম নিয়ন্ত্রণের জন্য কার্যকর সুরক্ষা ব্যবস্থা গড়ে তোলাও জরুরি বলে মনে করেন তিনি।
সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে সত্য নাদেলা জানান, এআই মডেলকে নিরাপদ মনে করলেও পুরোপুরি নির্ভর করা উচিত নয়। বিশেষ করে, এআই এজেন্ট যখন প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায় এবং নিজে থেকেই গুরুত্বপূর্ণ কাজ সম্পন্ন করতে পারে, তখন বাড়তি সতর্কতা প্রয়োজন। পোস্টে নাদেলা কৃত্রিম বুদ্ধিমত্তাকে ‘সুপার ইন্টেলিজেন্স’ হিসেবে উল্লেখ করেছেন।
নাদেলার মতে, এআই মডেল নির্মাতা প্রতিষ্ঠানগুলোর দেওয়া নিরাপত্তার আশ্বাসের ওপর নির্ভর করা যথেষ্ট নয়। কোনো এআই মডেলকে নিরাপদ হিসেবে তৈরি করা হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই। মডেলটি অপ্রত্যাশিত সিদ্ধান্ত নিতে পারে বা এর নিরাপত্তাব্যবস্থা ক্ষতিগ্রস্ত হতে পারে। এআইয়ের কাছ থেকে বিশ্লেষণ ও পরামর্শ নেওয়া গেলেও সেটি কোন কোন তথ্য ব্যবহার করতে পারবে এবং কী ধরনের কাজ সম্পন্ন করতে পারবে, তা নির্ধারণ করতে হবে পৃথক নিয়ন্ত্রণব্যবস্থার মাধ্যমে।
একটি এআই মডেল দিয়ে অন্য একটি মডেলের কাজ যাচাই করার ক্ষেত্রেও সতর্ক করেছেন নাদেলা। তাঁর মতে, স্বাধীন যাচাইয়ের ব্যবস্থা না থাকলে একটি মডেল অন্যটির ভুল শনাক্ত করতে ব্যর্থ হতে পারে। ফলে একাধিক মডেল ব্যবহার করেও ভুল সিদ্ধান্ত কিংবা নিরাপত্তাঝুঁকি এড়ানো সম্ভব না–ও হতে পারে। এ জন্য এআইয়ের আচরণ পর্যবেক্ষণ, কাজের অনুমতি সীমিত এবং নির্ধারিত সীমা অতিক্রম করার না পারার ব্যবস্থা গড়ে তুলতে হবে। পাশাপাশি, কোনো এআই ব্যবস্থা ব্যর্থ হলে বা এর নিরাপত্তা বিঘ্নিত হলে দ্রুত সেই তথ্য প্রকাশ করতে হবে। এতে অন্য প্রতিষ্ঠানগুলোও এসব ঘটনা থেকে শিক্ষা নিয়ে নিজেদের সুরক্ষাব্যবস্থা উন্নত করতে পারবে।
বর্তমানে বিভিন্ন প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার বাড়ছে। এসব এজেন্টকে তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং বিভিন্ন কাজ সম্পন্ন করার দায়িত্ব দেওয়া হচ্ছে। এতে সময় ও শ্রম সাশ্রয়ের পাশাপাশি কাজের গতি বাড়ছে। তবে এআই ভুল সিদ্ধান্ত নিলে কিংবা অনাকাঙ্ক্ষিত কোনো পদক্ষেপ নিলে তার পরিণতি কী হতে পারে, সেই প্রশ্নও গুরুত্বপূর্ণ হয়ে উঠেছে। প্রচলিত সফটওয়্যারে কোনো ত্রুটি দেখা দিলে সাধারণত সংশ্লিষ্ট কোড পরীক্ষা করে সমস্যার কারণ শনাক্ত করা যায়। কিন্তু এআই মডেল কেন একটি নির্দিষ্ট উত্তর দিল বা কোনো বিশেষ পদক্ষেপ নিল, তা সব সময় সহজে বোঝা যায় না। ফলে মডেলের সিদ্ধান্তের পেছনের কারণ অনুসন্ধান করা এবং সম্ভাব্য ঝুঁকি মোকাবিলা করা কঠিন হয়ে উঠতে পারে।
সূত্র: ইন্ডিয়া টুডে