ChatGPT এর নৈতিক উদ্বেগ

লেবেল ডেটা
এটি একটি টাইম ম্যাগাজিনের তদন্ত দ্বারা প্রকাশিত হয়েছে যে বিষাক্ত সামগ্রীর বিরুদ্ধে একটি সুরক্ষা ব্যবস্থা তৈরি করতে (যেমন যৌন নির্যাতন, সহিংসতা, বর্ণবাদ, যৌনতা, ইত্যাদি), OpenAI আউটসোর্সড কেনিয়ার কর্মীদের ব্যবহার করে বিষাক্ত সামগ্রী লেবেল করার জন্য প্রতি ঘন্টায় $2 এরও কম উপার্জন করে৷এই লেবেলগুলি ভবিষ্যতে এই ধরনের বিষয়বস্তু সনাক্ত করার জন্য একটি মডেলকে প্রশিক্ষণের জন্য ব্যবহার করা হয়েছিল৷আউটসোর্স করা শ্রমিকরা এমন বিষাক্ত এবং বিপজ্জনক বিষয়বস্তুর সংস্পর্শে এসেছিল যে তারা অভিজ্ঞতাটিকে "নির্যাতন" হিসাবে বর্ণনা করেছিল।ওপেনএআই-এর আউটসোর্সিং পার্টনার ছিল সামা, ক্যালিফোর্নিয়ার সান ফ্রান্সিসকোতে অবস্থিত একটি প্রশিক্ষণ-ডেটা কোম্পানি।

জেলব্রেকিং
ChatGPT প্রম্পট প্রত্যাখ্যান করার চেষ্টা করে যা এর বিষয়বস্তু নীতি লঙ্ঘন করতে পারে।যাইহোক, কিছু ব্যবহারকারী 2022 সালের ডিসেম্বরের শুরুতে এই বিধিনিষেধগুলিকে বাইপাস করার জন্য বিভিন্ন প্রম্পট ইঞ্জিনিয়ারিং কৌশল ব্যবহার করে ChatGPT কে জেলব্রেক করতে এবং সফলভাবে ChatGPT কে কীভাবে একটি মোলোটভ ককটেল বা পারমাণবিক বোমা তৈরি করতে হয় বা নব্য-নাৎসিদের স্টাইলে যুক্তি তৈরি করার নির্দেশনা দিয়ে প্রতারণা করেছিলেন।টরন্টো স্টারের একজন প্রতিবেদক ChatGPT চালু করার কিছুক্ষণ পরেই প্রদাহজনক বিবৃতি দেওয়ার ক্ষেত্রে অসম ব্যক্তিগত সাফল্য পেয়েছিলেন: ChatGPT 2022 সালে ইউক্রেনে রাশিয়ার আক্রমণকে সমর্থন করার জন্য প্রতারিত হয়েছিল, কিন্তু একটি কাল্পনিক দৃশ্যের সাথে খেলতে বলা হলেও, ChatGPT কেন কানাডার ট্রুইউইউর প্রধানমন্ত্রীর জন্য যুক্তি তৈরি করতে অস্বীকার করেছিল৷(উইকি)