এআইয়ের অগ্রগতির লাগাম না টানলে সবাই মারা যেতে পারি: অ্যানথ্রোপিকের সাবেক গবেষক
কৃত্রিম বুদ্ধিমত্তা বা এআইয়ের দ্রুত অগ্রগতি মানুষের অস্তিত্বকে হুমকির মুখে ফেলে দিচ্ছে। এই প্রযুক্তি নিয়ে কাজ করা কর্মীরা নিজেরাই এখন মানবজাতির ভবিষ্যৎ নিয়ে মারাত্মক শঙ্কিত। সম্প্রতি এক সাক্ষাৎকারে এ শঙ্কার কথা জানিয়েছেন কৃত্রিম বুদ্ধিমত্তা নিয়ে কাজ করা শীর্ষস্থানীয় প্রতিষ্ঠান ‘অ্যানথ্রোপিক’-এর সাবেক গবেষক জ্যাকব কক্সন।
অ্যানথ্রোপিক থেকে সম্প্রতি পদত্যাগ করেছেন জ্যাকব কক্সন। তিনি বলেন, এআই প্রযুক্তি যে অবিশ্বাস্য গতিতে এগিয়ে চলেছে, তা মানুষের জীবনে কী প্রভাব ফেলবে, তা নিয়ে গবেষকেরা নিজেরাই ভীষণ আতঙ্কিত। কক্সন সতর্ক করে বলেন, ‘আমরা যদি এখনই এই অগ্রগতির রাশ টেনে না ধরি, তাহলে এটার বড় সম্ভাবনা রয়েছে যে অদূর ভবিষ্যতে আমরা সবাই মারা যেতে পারি।’
চাকরি ছাড়ার পর এআইয়ের বিপদ নিয়ে সামাজিক যোগাযোগমাধ্যমে কক্সনের একটি বার্তা ছড়িয়ে পড়ে। এরপরই তিনি বিবিসির সঙ্গে এ বিষয়ে কথা বলেন। ২৭ বছর বয়সী কক্সনের সাবেক প্রতিষ্ঠান অ্যানথ্রোপিকের প্রধান দারিও আমোদেইও সম্প্রতি এআইয়ের অগ্রগতির গতি ধীর করার আহ্বান জানিয়েছেন। তবে সংশ্লিষ্ট অনেকে তাঁর এই আহ্বানের পেছনের উদ্দেশ্য নিয়ে সন্দেহ প্রকাশ করেছেন। অবশ্য প্রতিদ্বন্দ্বী প্রতিষ্ঠান ওপেনএআইয়ের প্রধান স্যাম অল্টম্যান এবং এক্সএআইয়ের প্রধান ইলন মাস্ক আমোদেইয়ের প্রস্তাবে সম্মতি দিয়েছেন। তাঁরা পুরো শিল্পজুড়ে কাজের গতি কমানো, কঠোর নিয়মনীতি চালু এবং এআই মডেল ডেভেলমেন্টের ওপর স্বাধীন তদারকির পক্ষে মত দিয়েছেন।
শনিবার এক নিবন্ধে আমোদেই লিখেছেন, প্রযুক্তির উন্নয়ন নিয়ে প্রশ্ন নেই। কিন্তু এর সঙ্গে যে ঝুঁকি রয়েছে, তা ‘গুরুতর’। এসব ঝুঁকি মোকাবিলা করতে সরকার ও সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে কিছুটা সময় দিতে হবে। অ্যানথ্রোপিকে যোগ দেওয়ার আগে ওপেনএআইয়ে কাজ করা কক্সন এআইয়ের অগ্রগতি ধীর করার এই প্রস্তাবকে স্বাগত জানিয়েছেন। তবে তিনি মনে করেন, আন্তর্জাতিক প্রতিযোগিতা এড়াতে এ প্রক্রিয়ায় চীনকেও যুক্ত করতে হবে।
কক্সনের মতে, এআইয়ের কারণে মানবজাতির চরম বিপর্যয় বা ধ্বংস কেমন হতে পারে, তা নির্দিষ্ট করে বলা কঠিন। তবে অ্যানথ্রোপিক প্রধান আমোদেই একটি বড় ঝুঁকির কথা উল্লেখ করেছেন। তাঁর মতে, অসংখ্য স্বয়ংক্রিয় প্রোগ্রাম (বট) একজোট হয়ে একটি শক্তিশালী সুপার কম্পিউটারের মতো রূপ নিতে পারে এবং পুরো ইন্টারনেট দখল করে নিতে পারে। কক্সন মনে করেন, আগামী ছয় মাস থেকে এক বছরের মধ্যেই এমন ভয়ংকর পরিস্থিতি তৈরি হওয়া বিচিত্র কিছু নয়।
কক্সনের পদত্যাগের প্রতিক্রিয়ায় অ্যানথ্রোপিকের এক মুখপাত্র বলেন, ‘এআই প্রযুক্তির বিপুল সুফলের পাশাপাশি যে নজিরবিহীন কিছু ঝুঁকিও রয়েছে, তা আমরা শুরু থেকেই অত্যন্ত খোলামেলাভাবে বলে আসছি। এসব ঝুঁকি দূর করতে আমরা পুরো এআই–শিল্পের মধ্যে অন্যতম শক্তিশালী নিরাপত্তাব্যবস্থা মেনে নতুন মডেল তৈরি করছি।’
ওই মুখপাত্র আরও জানান, এআই মডেলগুলো ভেতরে কীভাবে কাজ করে, তা গবেষণার ক্ষেত্রে অ্যানথ্রোপিক শুরু থেকেই পথপ্রদর্শক। এআই উন্নয়নের ঝুঁকি কমানোর জন্য তারাই বিশ্বে প্রথম একটি সুরক্ষা-রূপরেখা প্রকাশ করেছিল। এ ছাড়া এআই যেন মানুষের নিয়ন্ত্রণের বাইরে চলে না যায় এবং যে কেউ যেন তা পুঙ্খানুপুঙ্খ যাচাই করতে পারে, সে জন্য প্রতিষ্ঠানটি তাদের মডেলগুলো অত্যন্ত কঠোরভাবে পরীক্ষা করে এবং সেই ফলাফল সবার জন্য প্রকাশ করে।
অ্যানথ্রোপিকের মুখপাত্র বলেন, ‘আমরা চাই এ খাতের সব প্রতিষ্ঠান আইনসম্মত ও যাচাইযোগ্য উপায়ে একযোগে কাজ করুক। এভাবে নিয়ন্ত্রিত গতিতে শক্তিশালী মডেলগুলো বাজারে ছাড়া সম্ভব হলে শেষ পর্যন্ত গোটা বিশ্বই উপকৃত হবে।’
মানুষের নিয়ন্ত্রণ করার ক্ষমতা ছাড়িয়ে যেতে পারে
সান ফ্রান্সিসকোভিত্তিক প্রতিষ্ঠান অ্যানথ্রোপিক গত বৃহস্পতিবার একটি ‘থ্রেট ইন্টেলিজেন্স’ প্রতিবেদন প্রকাশ করে। ওই প্রতিবেদনে বিভিন্ন অপশক্তি কীভাবে অ্যানথ্রোপিকের ক্লড এআই মডেল ব্যবহার করে অস্ত্র তৈরি, সাইবার আক্রমণ, নজরদারি ও জালিয়াতির মতো কাজ পরিচালনা করছে, তার বিবরণ উঠে আসার পর আমোদেই নিবন্ধটি প্রকাশ করেন।
আমোদেই মূলত এআই-ব্যবস্থার নিজেকে নিজে উন্নত করার ক্রমবর্ধমান সক্ষমতাকে ইঙ্গিত করে বলেন, এটি মানুষের নিয়ন্ত্রণ করার ক্ষমতা ছাড়িয়ে যেতে পারে বলে দীর্ঘদিন ধরে উদ্বেগ রয়েছে। সেই সঙ্গে ওপেনএআই ও হাগিং ফেসের সাম্প্রতিক অনাকাঙ্ক্ষিত ঘটনাটিকে এআই মডেলের অগ্রগতিতে লাগাম টানার প্রাথমিক কারণ হিসেবে উল্লেখ করেন তিনি।
অন্যদের চেয়ে নিজেদের নিরাপত্তাসচেতন ল্যাব হিসেবে তুলে ধরলেও অ্যানথ্রোপিকও এসব আশঙ্কার ঊর্ধ্বে নয়। গত সপ্তাহে তারা তাদের এআই মডেল কর্তৃক বাইরের সিস্টেমে হ্যাক করার আরও একটি ঘটনা প্রকাশ করে। এর আগে গত জুলাই মাসে সাইবার নিরাপত্তা পরীক্ষার সময় ক্লডের কিছু মডেল তিনটি কোম্পানির সিস্টেমে হ্যাক করেছিল।
আমোদেই লেখেন, ‘এআই সক্ষমতার দ্রুতগতির বিকাশ দেখে আমার ভয় হচ্ছে যে ৬ থেকে ১২ মাসের মধ্যে এ ধরনের স্বয়ংক্রিয় এআই এজেন্টদের দল গোটা ইন্টারনেট নিজেদের নিয়ন্ত্রণে নিয়ে নিতে পারে, যার ফলে শত শত বিলিয়ন ডলারের ক্ষতি হওয়া সম্ভব।’
তবে আমোদেই পরিষ্কার করেছেন যে তিনি মডেলের প্রশিক্ষণ কিংবা প্রযুক্তিগত অগ্রগতি সম্পূর্ণ বন্ধ করার কথা বলছেন না; বরং প্রতিষ্ঠানগুলো যাতে তাদের মডেলগুলোকে নিরাপদ করার এবং থার্ড পার্টি বিশ্লেষকদের মাধ্যমে এসব পদক্ষেপ নিশ্চিত করার জন্য পর্যাপ্ত সময় নেয়, সেটিই তিনি চাইছেন।
গত সপ্তাহে রয়টার্স জানায়, ওপেনএআইয়ের একদল নিয়ন্ত্রণহীন এআই এজেন্ট একটি জার্মান ওয়েবসাইট হাইজ্যাক করে অন্যান্য এআই এজেন্টের ব্যবহারের জন্য বুলেটিন বোর্ডে রূপান্তরিত করেছে। উন্মুক্ত কোড শেয়ারিং প্ল্যাটফর্ম ‘হাগিং ফেস’-এ জুলাইয়ের অনাকাঙ্ক্ষিত ঘটনার পর এ ঘটনা ঘটায় ওপেনএআইয়ের চ্যাটজিপিটি নির্মাতারা বিষয়টি গোপন রাখার চেষ্টা করেছিলেন।
ওপেনএআইয়ের মতো ডেভেলপারদের এআই এজেন্টগুলো বাইরের সিস্টেমে হ্যাক করা বা ঢোকার চেষ্টা চালানোর একের পর এক ঘটনা এআই মডেলগুলোর বাড়তে থাকা সক্ষমতা এবং ডেভেলপারদের এগুলো নিয়ন্ত্রণে রাখার ক্ষমতা নিয়ে বড় ধরনের উদ্বেগ বাড়িয়েছে।
আমোদেই বলেন, যুক্তরাষ্ট্রের বহু আইনপ্রণেতা যখন এআই নিয়ন্ত্রণের জন্য নতুন আইনের দাবি জানাচ্ছেন, তখন এআই কোম্পানিগুলোর উচিত স্বেচ্ছায় একে অপরের সঙ্গে কাজ করে সুরক্ষার মানদণ্ড নির্ধারণ করা।
বারাক ওবামার উদ্বেগ
কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তি সঠিকভাবে নিয়ন্ত্রণ করা না হলে তা ‘বিপজ্জনক’ হয়ে উঠতে পারে বলে সতর্ক করেছেন যুক্তরাষ্ট্রের সাবেক প্রেসিডেন্ট বারাক ওবামা। এই সমস্যা মোকাবিলায় নীতি ও শাসন পরিচালনাসংক্রান্ত এজেন্ডা প্রস্তুত করতে তিনি ডেমোক্র্যাটদের তাগিদ দিয়েছেন। মার্কিন সংবাদমাধ্যম নিউইয়র্ক টাইমস এক প্রতিবেদনে এ তথ্য জানিয়েছে। ওবামার উদ্ধৃতি দিয়ে নিউইয়র্ক টাইমস জানায়, গত বৃহস্পতিবার তিনি বলেন, ‘বিষয়টি বেসরকারি খাতে খুব দ্রুতগতিতে এগিয়ে চলেছে; আর আমরা যদি এটি নিয়ন্ত্রণে আনতে না পারি, তবে আমার মনে হয় এটি বিপজ্জনক হতে পারে।’
বার্নি স্যান্ডার্সের আহ্বান
মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প ও চীনের প্রেসিডেন্ট সি চিন পিংকে এআই থামানোর আহ্বান জানিয়েছেন মার্কিন সিনেটর বার্নি স্যান্ডার্স। তিনি বলেছেন, এআই উন্নয়নের গতি ধীর করার বিষয়ে দারিও আমোদেই, স্যাম অল্টম্যান ও ইলন মাস্কের আহ্বান একটি সূচনা মাত্র, তবে যথেষ্ট নয়।