ওপেনএআই দুটি নতুন নিরাপত্তা পণ্য চালু করেছে, একটি অনুপ্রবেশ পরীক্ষার জন্য এবং অন্যটি প্রতিরক্ষার জন্য, এবং সংস্থাগুলিকে সতর্ক করেছে যে তাদের ব্যবসাগুলি কেবল তখনই নিরাপদ যদি তারা এই জাতীয় সরঞ্জাম ব্যবহার করে।
"আমরা এখন এমন এক বিন্দুতে আছি যেখানে কোম্পানিগুলি কেবলমাত্র সীমান্ত মডেলের পরিমাণে সুরক্ষিত থাকবে যা তারা নিজেদের রক্ষার জন্য ব্যবহার করে এবং তারা কতটা ভালভাবে ব্যবহার করে," ওপেনএআই প্রেসিডেন্ট গ্রেগ ব্রকম্যান বৃহস্পতিবার একটি মূল বক্তৃতার সময় বলেছিলেন।
নিরাপত্তা ভঙ্গকারী কোম্পানির সহ-প্রতিষ্ঠাতা স্বীকার করেছেন যে নিরাপত্তা "মৌলিক বিষয়গুলি গুরুত্বপূর্ণ, এবং ছাড় দেওয়া উচিত নয়।"
REG AD
যাইহোক, "এই মডেলগুলি যা করতে পারে তার চারপাশে আপনার সুরক্ষা অনুশীলনকে সত্যিই পুনর্বিন্যাস করতে হবে," ব্রকম্যান বলেছেন, শূন্য বিড়ম্বনার সাথে, এবং সম্ভবত প্রতিরক্ষার জন্য AI মডেলগুলি ব্যবহার করার কথা বলছেন - অন্য সংস্থাগুলিকে হ্যাক করার জন্য নয়। "এছাড়াও খুব গুরুত্বপূর্ণ পণ্য।"
REG AD
এই পণ্যটি, অবশ্যই, OpenAI থেকে আসা উচিত, এবং সেই লক্ষ্যে, কোম্পানিটি ডেব্রেক রেড টিম এবং ডেব্রেক ডিফেন্স ফ্যাক্টরি চালু করেছে, যেগুলি উভয়ই OpenAI-এর Daybreak নিরাপত্তা প্ল্যাটফর্মের অংশ।
রেড টিম, যা প্রারম্ভিক অ্যাক্সেসে উপলব্ধ, দুর্বলতার জন্য কোম্পানির ওয়েব অ্যাপ্লিকেশন পরীক্ষা করার জন্য OpenAI মডেল ব্যবহার করে। ন্যান্সি ওয়াং, যিনি সাইবার-প্রযোজ্য এআই-এর নেতৃত্ব দেন, এটিকে "স্বয়ংক্রিয় ক্রমাগত স্ক্যানিংয়ের স্কেলে অতিমানবীয় কলম-পরীক্ষা" হিসাবে বর্ণনা করেছেন, তদন্ত এবং আক্রমণের পথ পরীক্ষা করার জন্য সোর্স কোড এবং অ্যাপের প্রসঙ্গ ব্যবহার করে এজেন্টদের একটি বহর।
কোড স্ক্যানার, বাগ বাউন্টি প্রোগ্রাম এবং ডিসক্লোজার রিপোর্ট থেকে - এবং তারপরে এই ত্রুটিগুলির জন্য প্যাচগুলি পরীক্ষা করে - এটি নিরাপত্তা দলগুলিকে রিপোর্ট করা দুর্বলতাগুলি যাচাই করতে সহায়তা করে৷
দ্বিতীয় পণ্য, ডেব্রেক ডিফেন্স ফ্যাক্টরি, "স্কেলে দুর্বলতা খুঁজে বের করা, যাচাই করা এবং ঠিক করা" দ্বারা "প্রতিরক্ষামূলক লুপ" স্বয়ংক্রিয় করে। এটি ওপেনএআই-এর সর্বশেষ সাইবার মডেলগুলিতে তৈরি এজেন্টগুলিও ব্যবহার করে - বর্তমানে, এটি GPT-6 সাইবার। এজেন্টরা প্রতিষ্ঠানের কোডবেস স্ক্যান করে, দুর্বলতা খুঁজে বের করে এবং প্যাচ তৈরি করে। প্রকৌশলীরা প্রোডাকশনে যাওয়ার আগে প্রস্তাবিত ফিক্সগুলি পর্যালোচনা করে এবং অনুমোদন করে।
"এইভাবে প্রকৌশলীরা প্যাচের সাথে একটি মার্জ-রেডি পুল অনুরোধ পান এবং একটি পরীক্ষা যা দেখায় যে এটি কাজ করে," ওয়াং বলেন।
এদিকে, OpenAI execs নতুন নিরাপত্তা পণ্যের কথা বললে, অলাভজনক একটি জোট সান ফ্রান্সিসকো সুপিরিয়র কোর্টে একটি মামলা দায়ের করে একজন বিচারককে OpenAI, Anthropic, Google, Meta, এবং SpaceX-এর AI ব্যবসাগুলিকে তাদের সবচেয়ে উন্নত বিদ্যমান মডেলের চেয়ে বেশি সক্ষম AI সিস্টেমগুলি বিকাশ বা স্থাপন করা থেকে বন্ধ করতে বলে৷
অপরিবর্তনীয় শিক্ষা তহবিল, পাবলিক সিটিজেন, হিট ইনিশিয়েটিভ, এবং দ্য অ্যালায়েন্স ফর সিকিউর এআই দ্বারা দায়ের করা মামলায়, ওপেনএআই এজেন্টদের আলিঙ্গন ফেস অ্যাক্সেস করা, মেডিকেয়ার পরিসংখ্যান সম্বলিত একটি অস্ট্রেলিয়ান সরকারী পোর্টালে অননুমোদিত অ্যাক্সেস এবং অন্যান্য এআই-সম্পর্কিত সাইবারসিকিউরিটি ঘটনার উল্লেখ করা হয়েছে।
"বিবাদীরা আমাদের বলে যে তারা যে AI প্রযুক্তি তৈরি করছে তা জনসাধারণের জন্য বিপর্যয়কর ঝুঁকি তৈরি করে, যার মধ্যে AI-চালিত সাইবার আক্রমণ এবং জৈব অস্ত্রগুলি সক্ষম করা সহ," আদালতের নথিতে অভিযোগ করা হয়েছে, এআই কোম্পানিগুলি "ভুল নয়।" ®
