কানাডার স্কুলে গুলিবর্ষণের ঘটনায় চ্যাটজিপিটির ভূমিকা থাকায় ওপেনএআইয়ের বিরুদ্ধে মামলা

কানাডার পশ্চিমাঞ্চলীয় প্রদেশ ব্রিটিশ কলাম্বিয়ার একটি স্কুলে গত ফেব্রুয়ারিতে গুলিবর্ষণের ঘটনায় চ্যাটজিপিটির নির্মাতাপ্রতিষ্ঠান ওপেনএআইয়ের বিরুদ্ধে যুক্তরাষ্ট্রের ফেডারেল আদালতে মামলা করেছে ভুক্তভোগী এক শিক্ষার্থীর পরিবার। তাদের অভিযোগ, হামলাকারী বন্দুক হামলার আগে চ্যাটজিপিটি চ্যাটবটের সঙ্গে সহিংসতামূলক বিভিন্ন কথোপকথন করেছিলেন। উদ্বেগজনক তথ্য থাকা সত্ত্বেও তা আইনশৃঙ্খলা রক্ষাকারী বাহিনীকে আগে জানায়নি ওপেনএআই।

গতকাল বুধবার ওপেনএআইয়ের বিরুদ্ধে মামলাটি করেছে হামলায় গুরুতর আহত ১২ বছর বয়সী মায়া গেবালারের পরিবার। আরও দুই ডজনের বেশি পরিবার একই ধরনের মামলা করার প্রস্তুতি নিচ্ছে বলে জানা গেছে। বাদীপক্ষের আইনজীবী জানিয়েছেন, পুরো একটি জনপদ এখন সম্মিলিতভাবে ওপেনএআইকে জবাবদিহির আওতায় আনতে চায়।

মামলার অভিযোগে বলা হয়েছে, গত বছরের জুনে চ্যাটজিপিটির সঙ্গে হামলাকারীর কিছু উদ্বেগজনক কথোপকথন শনাক্ত করেছিল ওপেনএআইয়ের স্বয়ংক্রিয় ব্যবস্থা। এরপর নিরাপত্তা দলের সদস্যরা হামলাকারীকে ‘তাৎক্ষণিক ও বিশ্বাসযোগ্য হুমকি’ বিবেচনা করে পুলিশকে জানানো উচিত বলে মত দেন। তবে ওপেনএআইয়ের শীর্ষ নেতৃত্ব সেই সুপারিশ নাকচ করে দেয়। পরে হামলাকারীর অ্যাকাউন্ট নিষ্ক্রিয় করা হলেও তিনি নতুন অ্যাকাউন্ট খুলে আবার চ্যাটজিপিটি ব্যবহার করতে থাকেন।
সাম্প্রতিক সময়ে কানাডার সবচেয়ে প্রাণঘাতী গুলিবর্ষণের ঘটনাগুলোর একটি হিসেবে এ হামলাকে বিবেচনা করা হচ্ছে। নিহত শিক্ষার্থীদের তালিকায় রয়েছে ১২ বছর বয়সী জোয়ি বেনোয়া, অ্যাবেল মওয়ানসা জুনিয়র, টিকারিয়া ‘টিকি’ ল্যামপার্ট, কাইলি স্মিথ ও ১৩ বছর বয়সী এজেকিয়েল স্কোফিল্ড। এ ছাড়া নিহত হয়েছেন শিক্ষা সহকারী শান্নদা অ্যাভিউগানা–দুরাঁ।

পুলিশের তথ্যমতে, ১৮ বছর বয়সী জেসি ভ্যান রুটসেলার প্রথমে নিজ বাড়িতে তাঁর মা ও সৎভাইকে গুলি করে হত্যা করেন। পরে ১০ ফেব্রুয়ারি তিনি তাঁর সাবেক স্কুলে গিয়ে এক শিক্ষাকর্মীসহ ১২ থেকে ১৩ বছর বয়সী পাঁচ শিক্ষার্থীকে গুলি করে হত্যা করেন। এরপর তিনি আত্মহত্যা করেন। এ ঘটনায় আরও ২৫ জন আহত হন।

ওপেনএআই এক বিবৃতিতে ঘটনাটিকে ‘মর্মান্তিক’ বলে আখ্যায়িত করেছে। প্রতিষ্ঠানটির এক মুখপাত্র জানান, সহিংস কর্মকাণ্ডে তাদের প্রযুক্তির ব্যবহার ঠেকাতে তারা ‘জিরো টলারেন্স’ নীতি অনুসরণ করে। ইতিমধ্যে চ্যাটজিপিটিতে সম্ভাব্য সহিংসতার ঝুঁকি মূল্যায়ন ও তা দ্রুত ঊর্ধ্বতন পর্যায়ে পাঠানোর প্রক্রিয়া উন্নত করার মতো পদক্ষেপ নেওয়া হয়েছে। একই সঙ্গে নীতিমালা লঙ্ঘনকারীদের শনাক্ত করার সক্ষমতাও বাড়ানো হয়েছে।

ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা (সিইও) স্যাম অল্টম্যান গত সপ্তাহে এক চিঠিতে কানাডার স্কুলে গুলিবর্ষণের ঘটনার জন্য আনুষ্ঠানিকভাবে দুঃখ প্রকাশ করেছেন। হামলাকারীর অনলাইন আচরণ সম্পর্কে আইনশৃঙ্খলা রক্ষাকারী বাহিনীকে আগে অবহিত করা হয়নি বলেও স্বীকার করেন তিনি।

সাম্প্রতিক সময়ে কৃত্রিম বুদ্ধিমত্তাভিত্তিক সেবাদাতা প্রতিষ্ঠানগুলোর বিরুদ্ধে অভিযোগ বাড়ছে। বিভিন্ন মামলায় দাবি করা হচ্ছে, চ্যাটবটের সঙ্গে কথোপকথন ব্যবহারকারীদের আত্মহত্যা, মানসিক সংকট বা সহিংস আচরণের দিকে প্রভাবিত করতে পারে।

সূত্র: আল–জাজিরা