ওপেনএআই আজ এআই সরঞ্জামগুলির ব্যবহার ঘিরে ক্রমবর্ধমান নিরাপত্তা উদ্বেগের মধ্যে শিশু যৌন নির্যাতনের উপাদান (CSAM) মোকাবেলায় নতুন সরঞ্জামগুলির ঘোষণা করেছে। এই বৈশিষ্ট্যগুলির মধ্যে রয়েছে CSAM শনাক্ত করার জন্য একটি নতুন চিত্র শ্রেণিবদ্ধকারী, সতর্কতা এবং অস্থায়ী ব্লক যাতে ব্যবহারকারীদের শিশুদের যৌনতা সৃষ্টি করে এমন সামগ্রী তৈরি বা অ্যাক্সেস করা থেকে বিরত রাখতে, বিকাশকারীদের জন্য একটি নতুন নির্দেশিকা এবং আইন প্রয়োগকারীর জন্য একটি সেট সরঞ্জাম।
কোম্পানি একটি নতুন ইমেজ ক্লাসিফায়ার উন্মোচন করেছে যা CSAM ইমেজ সনাক্ত করতে পারে, যার মধ্যে এআই দ্বারা উত্পন্ন ছবিগুলিও রয়েছে৷ OpenAI কোনো খরচ ছাড়াই নির্বাচিত কোম্পানিকে তার API এর মাধ্যমে ক্লাসিফায়ারে অ্যাক্সেস দিচ্ছে। টুলটি আগে দেখা যায়নি এমন চিত্রগুলিতে অপব্যবহারের দৃশ্যমান লক্ষণগুলি সন্ধান করে এবং একটি স্কোর বরাদ্দ করে যা CSAM-এর সাথে ডিল করার বিষয়ে পর্যালোচকদের একটি নির্দেশমূলক দিকনির্দেশ দিতে পারে৷
ওপেনএআই বলেছে যে এটি ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়েটেড চিলড্রেন (এনসিএমইসি) এর সাথে এই ক্লাসিফায়ারটি তৈরি করেছে এবং এটি টুলটিতে অ্যাক্সেস ভাগ করার জন্য টেক কোয়ালিশন এবং রুস্টের সাথে কাজ করছে। অংশীদারদের সাথে তার প্রাথমিক পরীক্ষায়, AI কোম্পানি দেখতে পেয়েছে যে শ্রেণীবদ্ধকারী 48% কম ছবি ফ্ল্যাগ করে যখন একই সংখ্যক আপত্তিজনক ছবি খুঁজে পায়, যা পর্যালোচনাকারীদের কাজ কমিয়ে দেয়। এছাড়াও, ক্লাসিফায়ার দ্বারা পতাকাঙ্কিত চিত্রগুলি অপমানজনক চিত্র হওয়ার সম্ভাবনা দ্বিগুণ।
আরও কী, কোম্পানি শিশুদের যৌনতা করে এমন উপাদান অ্যাক্সেস করা থেকে ব্যবহারকারীদের আটকাতে ChatGPT-এ নতুন সতর্কতা স্ক্রিন যুক্ত করছে। ChatGPT এই ধরনের প্রম্পট করার চেষ্টাকারী ব্যবহারকারীদের একটি সতর্কতা দেখাবে, ক্ষতিকারক আচরণ বন্ধ করতে বিশেষ সহায়তার দিকে ব্যবহারকারীদের নির্দেশ দেবে এবং সতর্কতা হিসেবে অ্যাকাউন্টটি 24 ঘন্টার জন্য স্থগিত করবে। অ্যাপটি ইতিমধ্যেই CSAM সামগ্রী এবং এর সাথে সম্পর্কিত অনুরোধগুলিকে ব্লক করে। এতে বলা হয়েছে যে বারবার অপরাধের কারণে অ্যাকাউন্টটি স্থায়ীভাবে মুছে ফেলা হতে পারে।
ওপেনএআই উল্লেখ করেছে যে এটি তাসমানিয়া বিশ্ববিদ্যালয়ের সুরক্ষা চিলড্রেন, লুসি ফেইথফুল ফাউন্ডেশন এবং জোয়েল স্ক্যানলান সহ সংস্থা এবং গবেষকদের সাথে এই আচরণের আশেপাশে বার্তা এবং নির্দেশিকা তৈরি করেছে, যারা স্বাধীনভাবে প্রতিরোধমূলক বার্তাগুলির একটি বিচারের মূল্যায়ন করেছে।
কোম্পানিটি CSAM বিষয়বস্তুকে প্রতিরোধ করতে, সনাক্ত করতে এবং ব্যবহারকারীদের রিপোর্ট করতে সাহায্য করার জন্য OpenAI টুল ব্যবহার করে ডেভেলপারদের জন্য নির্দেশিকাও প্রকাশ করছে। এটি বলেছে যে প্রাথমিক পরীক্ষায়, নির্দেশিকাগুলি অনেকগুলি বিকাশকারীকে শিশু সুরক্ষা সরঞ্জাম গ্রহণ করতে এবং NCMEC-তে CSAM রিপোর্ট করার জন্য নিবন্ধন করতে সহায়তা করেছে৷ ওপেনএআই এআই-চালিত বৈশিষ্ট্যগুলি যেমন ডেডিকেটেড প্লাগ-ইন, অনুসন্ধানী সরঞ্জাম, এবং জটিল ডেটা বিশ্লেষণ, প্রোগ্রাম অ্যাডমিনিস্ট্রেটরদের দ্বারা পরিচালিত অ্যাক্সেস সহ শিশুদের সুরক্ষা নিয়ে আইন প্রয়োগকারী সংস্থাকে সজ্জিত করছে। এটি কীভাবে এআই ব্যবহার করতে হয় সে সম্পর্কে একটি ফিল্ড গাইড সহ তদন্তকারীদের প্রশিক্ষণও প্রদান করছে।
ওপেনএআই ব্যবহারকারীদের, বিশেষ করে শিশুদের ক্ষতি করার জন্য তার প্রযুক্তিকে দায়ী করে কোম্পানির বিরুদ্ধে বেশ কয়েকটি মামলা করেছে। নিরাপত্তা-কেন্দ্রিক অলাভজনক কমন সেন্স মিডিয়া ওপেনএআই-এর প্রযুক্তিকে কিশোরদের জন্য "অগ্রহণযোগ্য ঝুঁকি" হিসাবে চিহ্নিত করেছে। অন্যান্য AI চ্যাটবট - বিশেষত Grok - শিশুদের সহ অসম্মতিমূলক যৌন চিত্র তৈরি করতে ব্যবহার করা হয়েছে৷




