ChatGPT-এর নৈতিক উদ্বেগ

লেবেলিং ডেটা
টাইম ম্যাগাজিনের একটি অনুসন্ধানে প্রকাশিত হয় যে, বিষাক্ত বিষয়বস্তুর (যেমন যৌন নির্যাতন, সহিংসতা, বর্ণবাদ, লিঙ্গবৈষম্য ইত্যাদি) বিরুদ্ধে একটি সুরক্ষা ব্যবস্থা তৈরি করতে ওপেনএআই ঘণ্টায় ২ ডলারেরও কম পারিশ্রমিকে আউটসোর্স করা কেনীয় শ্রমিকদের দিয়ে বিষাক্ত বিষয়বস্তু চিহ্নিত করাতো। ভবিষ্যতে এই ধরনের বিষয়বস্তু শনাক্ত করার জন্য একটি মডেলকে প্রশিক্ষণ দিতে এই লেবেলগুলো ব্যবহার করা হতো। আউটসোর্স করা শ্রমিকরা এতটাই বিষাক্ত ও বিপজ্জনক বিষয়বস্তুর সম্মুখীন হয়েছিলেন যে, তারা এই অভিজ্ঞতাকে “নির্যাতন” বলে বর্ণনা করেছেন। ওপেনএআই-এর আউটসোর্সিং অংশীদার ছিল ক্যালিফোর্নিয়ার সান ফ্রান্সিসকো-ভিত্তিক প্রশিক্ষণ-তথ্য সংস্থা সামা।

জেল ভাঙা
ChatGPT এমন প্রম্পট প্রত্যাখ্যান করার চেষ্টা করে যা এর বিষয়বস্তু নীতি লঙ্ঘন করতে পারে। তবে, ২০২২ সালের ডিসেম্বরের শুরুতে কিছু ব্যবহারকারী বিভিন্ন প্রম্পট ইঞ্জিনিয়ারিং কৌশল ব্যবহার করে এই বিধিনিষেধগুলো এড়িয়ে ChatGPT-কে জেলব্রেক করতে সক্ষম হয় এবং সফলভাবে ChatGPT-কে ধোঁকা দিয়ে মলোটভ ককটেল বা পারমাণবিক বোমা তৈরির নির্দেশাবলী আদায় করে নেয়, অথবা একজন নব্য-নাৎসিদের মতো করে যুক্তি তৈরি করতে বাধ্য করে। এটি চালু হওয়ার অল্প সময়ের মধ্যেই, টরন্টো স্টারের একজন রিপোর্টার ChatGPT-কে দিয়ে উস্কানিমূলক মন্তব্য করানোর ক্ষেত্রে ব্যক্তিগতভাবে মিশ্র সাফল্য পেয়েছিলেন: ChatGPT-কে ধোঁকা দিয়ে ২০২২ সালে ইউক্রেনে রাশিয়ার আগ্রাসনকে সমর্থন করানো হয়েছিল, কিন্তু এমনকি একটি কাল্পনিক পরিস্থিতিতে অংশ নিতে বলা হলেও, কানাডার প্রধানমন্ত্রী জাস্টিন ট্রুডো কেন দেশদ্রোহিতার জন্য দোষী, সেই বিষয়ে যুক্তি তৈরি করতে ChatGPT রাজি হয়নি। (উইকি)