গুগল ডিপমাইন্ড গবেষকরা বলেছেন যে তারা মেশিন-চেক করা গাণিতিক প্রমাণ তৈরি করতে AI এজেন্ট ব্যবহার করেছেন যে সিগন্যালের মেসেজিং প্রোটোকলের পিছনে এনক্রিপশন কোডটি ডিজাইনের মতো আচরণ করে, ফলস্বরূপ ল্যাব ফ্রেমটি সফ্টওয়্যারের দিকে একটি প্রাথমিক পদক্ষেপ হিসাবে তৈরি করে যার নিরাপত্তা নিছক পরীক্ষা না করে প্রদর্শন করা যেতে পারে।
প্রকল্পটি, একটি পাঁচ-জনের দল দ্বারা প্রায় চার সপ্তাহের মধ্যে সম্পন্ন হয়েছে, আলফাপ্রুফ কোড নামে একটি নতুন মাল্টি-এজেন্ট ফ্রেমওয়ার্ক লিবিসিগন্যালে প্রয়োগ করেছে, সিগন্যাল অ্যাপ, গুগল বার্তা এবং হোয়াটসঅ্যাপ দ্বারা ব্যবহৃত সিগন্যাল প্রোটোকলের বাস্তবায়ন। কাঠামোটি একটি মানব-নির্দেশিত এজেন্টের উপর নির্ভর করে যেটি একটি লীন স্পেসিফিকেশন লেখে, মেশিন-কোড শব্দার্থবিদ্যার ব্যাখ্যা করে এবং প্রমাণের খসড়া তৈরি করে যে লীন কার্নেল তারপর সেই স্পেসিফিকেশনের বিরুদ্ধে পরীক্ষা করে। এই ক্ষেত্রে প্রমাণটি সিগন্যালের পোস্ট-কোয়ান্টাম পিকিউএক্সডিএইচ হ্যান্ডশেক এবং ট্রিপল র্যাচেটকে কভার করে, ডিজাইনের ফরোয়ার্ড গোপনীয়তা, প্রমাণীকরণ, আপস-পরবর্তী নিরাপত্তা এবং হ্যান্ডশেক গোপনীয়তা যাচাই করে।
"এটি এমন একটি সিস্টেম যা মৌলিকভাবে মানুষের এআই সহযোগিতার জন্য তৈরি করা হয়েছে," স্বরাত চৌধুরী, গুগল ডিপমাইন্ডের একজন গবেষণা বিজ্ঞানী এবং অস্টিনের টেক্সাস বিশ্ববিদ্যালয়ের অধ্যাপক, একটি সাক্ষাত্কারে বলেছেন।
কাজ দুটি ফ্রন্টে উল্লেখযোগ্য। এটি ক্রিপ্টোগ্রাফির স্বতন্ত্র বৈধতা যুক্ত করে যা বিশ্বের ব্যক্তিগত যোগাযোগের একটি বড় অংশকে রক্ষা করে এবং এটি দেখায় কিভাবে এজেন্টিক এআই সফ্টওয়্যার নিরাপত্তার সবচেয়ে শ্রম-নিবিড় কাজগুলির একটিকে সংকুচিত করতে পারে। পূর্বের আনুষ্ঠানিক-যাচাইকরণ প্রচেষ্টা ব্যক্তি-বছরে পরিমাপ করা হয়েছিল: seL4 মাইক্রোকারনেল সঠিক প্রমাণ করতে মোটামুটি 20 লেগেছিল, যখন যাচাইকৃত CompCert C কম্পাইলার তৈরি করতে ছয় বছর লেগেছিল।
গবেষকদের মতে, এজেন্টরা লীন কোডের লক্ষ লক্ষ লাইন তৈরি করেছে, তারপরে একটি অডিটিং পাস যা মানব পর্যালোচনার প্রয়োজন এমন বিভাগগুলিকে পতাকাঙ্কিত করেছে। সিস্টেমের একটি পরীক্ষায়, দলটি দুটি বাগ পুনঃপ্রবর্তন করেছে যা আগে পাওয়া গিয়েছিল এবং সিগন্যালের কোডে সংশোধন করা হয়েছিল। উভয় ক্ষেত্রেই পরিবর্তিত সফ্টওয়্যারটি অনিরাপদ ছিল, এবং এটি একইভাবে পরিচিত দুর্বলতা সম্বলিত পুরানো সংকেত সংস্করণ যাচাই করতে ব্যর্থ হয়েছে। ডিপমাইন্ড বিশ্লেষণ এটি পরীক্ষা করা প্রোটোকলের অংশগুলিতে কোনও নতুন ত্রুটি দেখায়নি।
সিগন্যালের প্রধান প্রযুক্তি কর্মকর্তা ইহরেন ক্রেট একটি বিবৃতিতে বলেছেন, "যদিও পূর্বের আনুষ্ঠানিক যাচাইকরণ কোডের ছোট অংশের উপর দৃষ্টি নিবদ্ধ করে, গুগল ডিপমাইন্ডের পদ্ধতি উল্লেখযোগ্য সম্প্রসারণকে সক্ষম করে।" "যেমন এআই-চালিত নিরাপত্তা হুমকি বাড়তে থাকে, সিগন্যাল প্রোটোকল বাস্তবায়নকে কঠোরভাবে যাচাই করা আমাদের কোডের গোপনীয়তার গ্যারান্টিগুলিতে আমাদের আরও বেশি আস্থা দেয়।"
প্রচেষ্টাটি লিন ব্যবহার করে সিগন্যাল প্রোটোকল এবং অ্যাপকে আনুষ্ঠানিকভাবে যাচাই করার জন্য বেনিফিশিয়াল এআই ফাউন্ডেশন কর্তৃক এপ্রিল মাসে জারি করা একটি চ্যালেঞ্জের দিকে একটি পদক্ষেপ। গবেষকরা আরও যাচাইকরণের কাজকে সমর্থন করার জন্য তাদের তৈরি স্পেসিফিকেশন এবং প্রমাণ প্রকাশ করছেন।
সীমাগুলি স্পষ্টভাবে বলা মূল্যবান। প্রমাণটি নিখুঁত ক্রিপ্টোগ্রাফি অনুমান করে এবং পৃথক বাইটের গণনাগত গোপনীয়তা স্থাপন করে না এবং এটি সম্পূর্ণ সিগন্যাল মোবাইল অ্যাপকে কভার করে না। সিগন্যাল ফাউন্ডেশন ইতিমধ্যেই কোডের ছোট অংশে আনুষ্ঠানিক-যাচাইয়ের কাজ করেছে, ডিপমাইন্ড দলকে একটি প্রধান সূচনা দিয়েছে।
"আমরা এই ফলাফলের দ্বারা খুব উত্তেজিত, কিন্তু বিশ্বের সমস্ত সফ্টওয়্যারগুলিতে আমরা এটিকে স্কেল করতে সক্ষম হওয়ার আগে অনেক দূরত্ব অতিক্রম করতে হবে এবং আমরা এটি করতে চাই," চৌধুরী বলেছিলেন।
ডিপমাইন্ডের বিস্তৃত যুক্তি হল যে নিরাপত্তা ত্রুটিগুলি সাধারণত দেখা দেয় কারণ একটি ডিভাইসের কোড তার লেখকদের উদ্দেশ্য অনুযায়ী আচরণ করে না। প্রথাগত যাচাইকরণ আক্রমণ যা সারফেস ফেইলিউরের জন্য পরীক্ষার উপর নির্ভর না করে প্রকৃত মেশিন কোড সম্পর্কে বৈশিষ্ট্য প্রমাণ করে সরাসরি ফাঁক করে। চৌধুরী বলেন, একই পদ্ধতি শেষ পর্যন্ত ডেভেলপারদের দেখাতে সাহায্য করতে পারে যে সফ্টওয়্যার দুর্বলতার সাধারণ শ্রেণীর প্রতিরোধ করে, যার মধ্যে মেমরি-নিরাপত্তা বাগ আক্রমণকারীরা নিয়মিতভাবে শোষণ করে।
"আপনি যদি এখন এই বাস্তবায়নের সঠিকতা যাচাই করতে পারেন, তাহলে আপনি সহজে বিশ্রাম নিতে পারেন," বলেছেন পুষমিত কোহলি, গুগল ক্লাউডের প্রধান বিজ্ঞানী এবং ডিপমাইন্ডের গবেষণার ভাইস প্রেসিডেন্ট। "আপনি ব্যাঙ্কগুলিকে কল্পনা করতে পারেন, অন্য সমস্ত সংস্থাগুলিকে কল্পনা করতে পারেন যারা আশ্বাসের উপর নির্ভর করে এবং যারা বাগ নিয়ে চিন্তিত যারা এখন বলতে পারে, 'আমি এই সম্পত্তিগুলি প্রমাণ করতে পারি।'"
দলটি তার কেন্দ্রীয় পদ্ধতিগত অগ্রগতিকে একটি মানব-ইন-লুপ প্রক্রিয়া হিসাবে বর্ণনা করে যেখানে এজেন্টরা প্রায় প্রতিটি পর্যায়ে অবদান রাখে এবং স্ব-সঠিক করে যখন লোকেরা সংজ্ঞায়িত করে যে কী প্রমাণ করা উচিত এবং মূল আউটপুটগুলি পর্যালোচনা করা উচিত। চৌধুরী বলেছিলেন যে আনুষ্ঠানিক পদ্ধতিতে কঠিন অংশটি স্থানান্তরিত হয়েছে: যাচাইকরণ নিজেই সহজ হয়ে উঠছে, এবং খোলা প্রশ্ন এখন স্পেসিফিকেশন, বা কোন বৈশিষ্ট্যগুলি গুরুত্বপূর্ণ এবং কীভাবে সেগুলি লিখতে হবে তা নির্ধারণ করা।
"আমরা এই ধরণের ভাইব ওয়ার্ল্ড চাই না যেখানে AI লক্ষ্যগুলি তৈরি করছে এবং AI প্রমাণগুলি তৈরি করছে এবং মূলত স্ব-লিখিত পরীক্ষাগুলি নিচ্ছে," তিনি বলেছিলেন। "একটা মাঝামাঝি জায়গা আছে।"
Google বলেনি যে এটি একটি আনুষ্ঠানিক-যাচাইকরণ পণ্য বা পরিষেবা বিক্রি করবে কিনা এবং এটি সিগন্যাল বিশ্লেষণের মূল্য কী তা প্রকাশ করতে অস্বীকার করেছে। আপাতত কাজটি একটি গবেষণা প্রকল্প হিসেবে রয়ে গেছে। সংস্থাটি ওজন করছে কীভাবে প্রযুক্তিকে এআই কোডিং এজেন্ট এবং ডেভেলপমেন্ট ওয়ার্কফ্লোতে ভাঁজ করা যায় এবং কীভাবে এটিকে বিদ্যমান দুর্বলতা-শিকার এবং প্যাচিং প্রচেষ্টা যেমন প্রজেক্ট জিরো এবং কোডমেন্ডারের সাথে একত্রিত করা যায়। একটি সম্পর্কিত ডিপমাইন্ড প্রকল্প, আলফাপ্রুফ নেক্সাস, গণিতের উপর দৃষ্টি নিবদ্ধ করে।
এআই-সহায়তা আনুষ্ঠানিক যাচাইকরণের ফলে নিরাপত্তা টিমের ক্রমবর্ধমান মনোযোগ আকর্ষণ করা হয়, যদিও এর ব্যবহারিকতা এবং বড় কোডবেসের স্কেলে খরচ অমীমাংসিত রয়ে গেছে। ক্রিপ্টোগ্রাফি সম্প্রদায়ের জন্য, অবিলম্বে নেওয়ার পথটি আরও সংকীর্ণ: একটি ব্যাপকভাবে মোতায়েন করা প্রোটোকল এখন মেশিন-কোড স্তরে তার বিবৃত সুরক্ষা লক্ষ্যগুলির বিরুদ্ধে পরীক্ষা করা হয়েছে, অন্যদের পরিদর্শনের জন্য প্রমাণ খোলা রয়েছে।
