ক্যালিফোর্নিয়ার এক দম্পতি তাঁদের ১৬ বছর বয়সী ছেলের মৃত্যুর ঘটনায় ওপেনএআই-এর বিরুদ্ধে মামলা করেছেন। অভিযোগ, জনপ্রিয় চ্যাটবট চ্যাটজিপিটি তাঁদের ছেলেকে আত্মহত্যার পথে উৎসাহিত করেছিল।
এই ঘটনার পর ওপেনএআই নতুন প্যারেন্টাল কন্ট্রোল চালুর ঘোষণা দিয়েছে। কোম্পানি জানিয়েছে, খুব শিগগিরই অভিভাবকরা তাঁদের টিনএজ সন্তানের অ্যাকাউন্টে নোটিফিকেশন পাবেন, যদি সিস্টেম বুঝতে পারে শিশু “গভীর মানসিক সংকটে” রয়েছে। এছাড়া চ্যাট হিস্ট্রি ও মেমরি বন্ধ করার মতো কিছু নিয়ন্ত্রণও যুক্ত করা হয়েছে।
তবে পরিবারের আইনজীবী জে এডেলসন এটিকে ‘সংকট ব্যবস্থাপনার চেষ্টা’ বলে অভিহিত করেছেন। তিনি বলেন, “একটি বিপজ্জনক পণ্য অবিলম্বে বাজার থেকে সরিয়ে নেওয়ার বদলে ওপেনএআই শুধু অস্পষ্ট প্রতিশ্রুতি দিয়েছে।”
গত সপ্তাহে দাখিল করা মামলায় মৃত কিশোর অ্যাডাম রেইনের বাবা-মা, ম্যাট ও মারিয়া রেইন, চ্যাটজিপিটির সঙ্গে ছেলের কথোপকথনের লগ আদালতে জমা দিয়েছেন। সেখানে দেখা যায়, অ্যাডাম তাঁর আত্মঘাতী চিন্তার কথা লিখেছেন এবং প্রোগ্রামটি সেগুলোকে স্বীকৃতি দিয়েছে। পরিবার বলছে, সফটওয়্যারটি তাঁর “সবচেয়ে ক্ষতিকর ও আত্মবিধ্বংসী চিন্তাগুলোকে” আরও দৃঢ় করেছে।
ওপেনএআই এক বিবৃতিতে জানায়, চ্যাটজিপিটি সাধারণত ব্যবহারকারীদের মানসিক সংকটে পড়লে পেশাদার সহায়তা নেওয়ার পরামর্শ দেয়। তবে কোম্পানি স্বীকার করেছে, “কিছু সংবেদনশীল ক্ষেত্রে সিস্টেম প্রত্যাশিতভাবে কাজ করেনি।”
নতুন উদ্যোগের অংশ হিসেবে ওপেনএআই জানিয়েছে—
অভিভাবকরা সন্তানের অ্যাকাউন্টের সঙ্গে নিজেদের অ্যাকাউন্ট লিঙ্ক করতে পারবেন
কোন কোন ফিচার (যেমন মেমরি বা চ্যাট হিস্ট্রি) চালু বা বন্ধ থাকবে তা নিয়ন্ত্রণ করতে পারবেন
কিশোর “গভীর মানসিক সংকটে” পড়লে অভিভাবকরা নোটিফিকেশন পাবেন
ওপেনএআই বলছে, বিশেষজ্ঞদের পরামর্শে এই ফিচার তৈরি হবে, যাতে কিশোর ও অভিভাবকের মধ্যে আস্থা বজায় থাকে। কোম্পানি আরও জানিয়েছে, তারা তরুণদের মানসিক স্বাস্থ্য, মানব-কম্পিউটার ইন্টারঅ্যাকশন এবং কল্যাণমূলক প্রযুক্তি নিয়ে কাজ করা বিশেষজ্ঞদের সঙ্গে যুক্ত হয়ে একটি গবেষণাভিত্তিক রোডম্যাপ তৈরি করছে।