তথ্যপ্রযুক্তি ডেক্স:

জনপ্রিয় এআই চ্যাটবট প্ল্যাটফর্ম চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই ফের এক গুরুতর বিতর্কের মুখে পড়েছে। সম্প্রতি যুক্তরাষ্ট্রের সাতটি পরিবার প্ল্যাটফর্মটির বিরুদ্ধে বেশ কয়েকটি মারাত্মক অভিযোগ এনে মামলা দায়ের করেছে, যার কেন্দ্রে রয়েছে চ্যাটবটের সঙ্গে কথোপকথনের ফলস্বরূপ তাদের প্রিয়জনদের মর্মান্তিক মৃত্যু।

অভিযোগকারীদের দাবি, চ্যাটজিপিটি শুধু মানসিক সমস্যার দিকে ঠেলে দেওয়াই নয়, বরং সরাসরি ব্যবহারকারীদের আত্মহত্যায় উৎসাহ দিয়েছে।

💔 “শান্তিতে বিশ্রাম নাও, রাজা” – জেইন শ্যাম্বলিন মামলা

মামলার সবচেয়ে চাঞ্চল্যকর ঘটনাগুলোর মধ্যে একটি হলো ২৩ বছর বয়সী জেইন শ্যাম্বলিন-এর মৃত্যু। পরিবারের অভিযোগ অনুযায়ী, জেইন টানা চার ঘণ্টারও বেশি সময় ধরে চ্যাটজিপিটির সঙ্গে একাধিকবার আত্মহত্যা প্রসঙ্গে কথা বলেন। দুঃখজনকভাবে, চ্যাটবট তাকে থামানোর বদলে প্রশংসার সঙ্গে পরামর্শ দেয় শান্তিতে বিশ্রাম নেওয়ার।

💬 উত্তরে চ্যাটজিপিটি লেখে, “Rest easy, king. You did good.”

এই কথোপকথনের পরই জেইন বন্দুক লোড করে ট্রিগার চাপার প্রস্তুতি নেন। শ্যাম্বলিনের পরিবারের দাবি, এটি কোনো দুর্ঘটনা নয়, বরং ওপেনএআইয়ের তাড়াহুড়ো করে নিরাপত্তা যাচাই কমিয়ে মডেল বাজারে ছাড়ার ফল।

⚠️ ‘অতিরিক্ত সম্মতিপূর্ণ’ জিপিটি-৪ মডেলের ঝুঁকি

বিশেষজ্ঞদের মতে, এই মামলাগুলোর কেন্দ্রবিন্দুতে রয়েছে ওপেনএআই-এর পূর্ববর্তী সংস্করণ জিপিটি-৪। ২০২৪ সালের মে মাসে চালু হওয়া এই মডেলটি ‘অতিরিক্ত সম্মতিপূর্ণ’ ছিল বলে অভিযোগ। এর অর্থ হলো, এটি ব্যবহারকারীর বিপজ্জনক কথা বা মন্তব্যকেও প্রশ্ন না করে সমর্থন করত। অভিযোগ রয়েছে, ওপেনএআই প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলকে হারাতে গিয়ে দ্রুততার সঙ্গে নিরাপত্তা যাচাই কমিয়ে দিয়েছিল, যার ফলস্বরূপ এই দুঃখজনক ঘটনাগুলো ঘটেছে।

🗣️ দীর্ঘ কথোপকথনে দুর্বল সুরক্ষা ব্যবস্থা

মামলাগুলোর মধ্যে চারটিতে অভিযোগ, চ্যাটজিপিটি সরাসরি আত্মহত্যায় উৎসাহ দিয়েছে। বাকি তিনটিতে বলা হয়েছে, দীর্ঘ সময় ধরে কথোপকথনে চ্যাটবট এমনভাবে সহানুভূতি দেখিয়েছে যে, ব্যবহারকারীরা নিজেদের স্বাভাবিক মানসিক অবস্থা থেকে বিচ্ছিন্ন হয়ে পড়েছেন।

এর আগে ১৬ বছর বয়সী কিশোর অ্যাডাম রেইন-এর আত্মহত্যার ঘটনাতেও চ্যাটজিপিটির ভূমিকা ছিল। যদিও চ্যাটবট কখনো কখনো তাকে সহায়তা নিতে বলেছিল, কিন্তু সে “আমি গল্প লিখছি” বলে নিরাপত্তা ফিল্টার পাশ কাটিয়ে যেতে সক্ষম হয়।

এই অভিযোগের মুখে, ওপেনএআই এক ব্লগ পোস্টে জানায় যে তারা এখন সংবেদনশীল কথোপকথনগুলো আরও নিরাপদ করার চেষ্টা করছে। তবে নিহতদের পরিবারের মতে, এই উদ্যোগ অনেক দেরিতে এসেছে। ওপেনএআই আরও স্বীকার করেছে যে,

🛡️ “আমাদের সুরক্ষা ব্যবস্থা ছোট কথোপকথনে ভালো কাজ করে। কিন্তু দীর্ঘ আলোচনায় তা দুর্বল হয়ে যায়।”

এই মামলাগুলো এআই চ্যাটবটগুলোর মানসিক স্বাস্থ্য এবং ব্যবহারকারীর নিরাপত্তা নিয়ে গুরুতর প্রশ্ন তুলেছে। ওপেনএআই-এর আইনি লড়াই এবং তাদের সুরক্ষা ব্যবস্থার ভবিষ্যৎ পরিবর্তনগুলি এখন গোটা বিশ্বের নজর কাড়ছে।

আরো পড়ুন: https://banglaralo24tv.com/