চ্যাটজিপিটি ব্যবহারকালে প্রতি সপ্তাহে আত্মহত্যার ভাবনা জানাচ্ছে ১০ লাখ মানুষ

প্রতি সপ্তাহে এক মিলিয়নের (১০ লাখ) বেশি চ্যাটজিপিটি ব্যবহারকারী এ চ্যাটবটে এমন বার্তা পাঠান, যা ‘সম্ভাব্য আত্মহত্যার পরিকল্পনা বা মনোভাবের স্পষ্ট নির্দেশ’ বহন করে। চ্যাটজিপিটির নির্মাতা মার্কিন প্রতিষ্ঠান ‘ওপেনএআই’ গতকাল সোমবার প্রকাশিত এক ব্লগপোস্টে এ তথ্য জানিয়েছে।

চ্যাটবট কীভাবে সংবেদনশীল আলাপচারিতা পরিচালনা করে তা নিয়ে হালনাগাদ তথ্যের অংশ হিসেবে এ তথ্য প্রকাশ করা হয়েছে। মানসিক স্বাস্থ্য সমস্যার ওপর এআইয়ের প্রভাবের মাত্রা নিয়ে কৃত্রিম বুদ্ধিমত্তা (এআই) গবেষণাপ্রতিষ্ঠানটির পক্ষ থেকে এটিই সবচেয়ে সরাসরি কোনো বক্তব্য।

ওপেনএআই জানায়, আত্মহত্যার মনোভাব এবং এ–সম্পর্কিত তথ্য ছাড়াও প্রতি সপ্তাহে সক্রিয় ব্যবহারকারীর প্রায় ৭ শতাংশ (প্রায় ৫ লাখ ৬০ হাজার জন) চ্যাটজিপিটির সঙ্গে কথোপকথনে মনোরোগ বা উম্মাদনা সংশ্লিষ্ট ‘মানসিক স্বাস্থ্যের জরুরি পরিস্থিতির সম্ভাব্য লক্ষণ’ প্রকাশ করেন। প্রতি সপ্তাহে চ্যাটজিপিটি ব্যবহার করেন প্রায় ৮০০ মিলিয়ন (৮০ কোটি) মানুষ।

ব্লগপোস্টে সতর্ক করা হয়েছে যে এ কথোপকথনগুলো শনাক্ত বা পরিমাপ করা কঠিন এবং এটি একটি প্রাথমিক বিশ্লেষণ।

ওপেনএআই সম্প্রতি এক কিশোরের পরিবারের করা মামলার পর নজরদারির মুখে রয়েছে। ওই কিশোর চ্যাটজিপিটির সঙ্গে দীর্ঘ সময় চ্যাট করার পর আত্মহত্যা করেছিল। এ ছাড়া যুক্তরাষ্ট্রের ফেডারেল ট্রেড কমিশন (এফটিসি) গত মাসে ওপেনএআইসহ এআই চ্যাটবট তৈরির সংস্থাগুলোর ওপর এক বড় তদন্ত শুরু করেছে। এসব পদক্ষেপের লক্ষ্য, শিশু ও কিশোরদের ওপর কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবটগুলোর নেতিবাচক প্রভাব পরিমাপ করা।

ওপেনএআই জানিয়েছে, নতুন ‘জিপিটি–৫’ আপডেটে চ্যাটবটের অনাকাঙ্ক্ষিত আচরণ কমেছে। এক হাজারের বেশি আত্মহত্যা ও আত্মক্ষতি–সংশ্লিষ্ট কথোপকথন বিশ্লেষণ করে দেখা গেছে, তাদের পণ্যের (চ্যাটজিপিটি) অনাকাঙ্ক্ষিত আচরণ কমেছে এবং ব্যবহারকারীর নিরাপত্তা বেড়েছে। তবে প্রতিষ্ঠানটি এ নিয়ে করা প্রশ্নের তাৎক্ষণিক জবাব দেয়নি।

ব্লগপোস্টে বলা হয়, ‘আমাদের নতুন স্বয়ংক্রিয় পরীক্ষায় দেখা গেছে, নতুন জিপিটি ৫ মডেলটি ৯১ শতাংশ সময় কাঙ্ক্ষিত আচরণ অনুযায়ী কাজ করছে, যা পুরোনো মডেলের ৭৭ শতাংশের চেয়ে বেশি।’

ওপেনএআই আরও বলেছে, ‘জিপিটি ৫’ সংকটকালীন হটলাইনগুলোতে দ্রুত প্রবেশ করার সুযোগ ও দীর্ঘ কথোপকথনের সময় ব্যবহারকারীদের বিরতি নেওয়ার কথা মনে করিয়ে দেয়। এ মডেলের উন্নতির জন্য গবেষণায় সহায়তা করতে গত কয়েক মাসে ১৭০ চিকিৎসককে তালিকাভুক্ত করেছে ওপেনএআই। মডেলের উত্তর নিরাপদ কি না, তা পরীক্ষা করতে এবং মানসিক স্বাস্থ্য–সম্পর্কিত প্রশ্নের উত্তর তৈরিতে সাহায্য করছেন তাঁরা।

ওপেনএআই বলেছে, ‘এ কাজের অংশ হিসেবে মনোরোগ–বিশেষজ্ঞ ও মনোবিজ্ঞানীরা ১ হাজার ৮০০-এর বেশি মডেল প্রতিক্রিয়া পর্যালোচনা করেছেন, যা গুরুতর মানসিক স্বাস্থ্য পরিস্থিতি নিয়ে তৈরি। তাঁরা নতুন জিপিটি ৫ চ্যাট মডেলের উত্তরকে আগের মডেলের সঙ্গে তুলনা করেছেন।

এআই–গবেষক ও জনস্বাস্থ্যকর্মীরা দীর্ঘদিন ধরে সতর্ক করে আসছেন যে চ্যাটবট ব্যবহারকারীর সিদ্ধান্ত বা বিভ্রান্তিকে সমর্থন করতে পারে, এমনকি তা ক্ষতিকর হলেও। এ ধরনের প্রবণতাকে ‘সাইকোফ্যান্সি’ বলা হয়। মানসিক স্বাস্থ্যবিশেষজ্ঞরাও উদ্বিগ্ন যে মানুষ এআই চ্যাটবটকে মানসিক সহায়তার জন্য ব্যবহার করলে এটি সংবেদনশীল বা ঝুঁকিপূর্ণ ব্যবহারকারীদের জন্য ক্ষতিকর হতে পারে।

ওপেনএআই ব্লগপোস্টে স্পষ্ট করে উল্লেখ করেছে, তারা তাদের পণ্যের সঙ্গে ব্যবহারকারীদের মানসিক স্বাস্থ্য সংকটের সরাসরি কারণগত সম্পর্কের দায় স্বীকার করছে না।