এআই (AI) নিয়ে ক্রমবর্ধমান উদ্বেগ প্রশমিত করার জন্য এনভিডিয়া একটি নতুন এআই নিরাপত্তা ব্যবস্থা চালু করার সিদ্ধান্ত নিয়েছে। এই নিরাপত্তা ব্যবস্থাটি, যা তৈরিতে এনভিডিয়া প্রায় প্রতিটি এআই ও প্রযুক্তি কোম্পানির সাথে কাজ করেছে, এআই এজেন্টদের যা খুশি তাই করা থেকে বিরত রাখবে। এই প্ল্যাটফর্মটি সফটওয়্যার ও হার্ডওয়্যার উভয়ের সমন্বয়ে গঠিত, যা যেকোনো সফটওয়্যার নিরাপত্তা ব্যবস্থা ব্যর্থ হওয়ার সাথে সাথেই এজেন্টদের বন্ধ করে দিতে পারে। যদি কোনো এআই এজেন্ট নিয়ন্ত্রণের বাইরে চলে যায়, তবে এই সিস্টেমটি মিলিসেকেন্ডের মধ্যে সেটিকে বিচ্ছিন্ন করে থামিয়ে দিতে পারে। ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম (Open Agent Safety Platform) নামের এই সিস্টেমটি সম্পূর্ণ ওপেন সোর্স এবং এটি এআই এজেন্টদের পরীক্ষাকালীন ও জনসাধারণের জন্য অনলাইনে চালু করার উভয় সময়েই সুরক্ষিত রাখার জন্য ডিজাইন করা হয়েছে।
আপনি আগ্রহী হতে পারে
পুরো সিস্টেমটি বেশ সহজভাবে কাজ করে, কিন্তু এনভিডিয়ার দাবি অনুযায়ী, খুবই নির্ভরযোগ্যভাবে। একজন প্রশাসক তথাকথিত ওপেনশেল-এ একটি এজেন্ট আপলোড করেন, উদাহরণস্বরূপ একটি কোম্পানি OpenAI এজেন্ট কী করতে পারে এবং কী করতে পারে না, সে সম্পর্কে তথ্য। এর মানে হলো, উদাহরণস্বরূপ, এটি বলে যে এজেন্ট শুধুমাত্র ডেটা পড়তে পারে এবং কোনো অবস্থাতেই তাতে লিখতে পারে না। যে মুহূর্তে এজেন্ট শুধু ডেটা পড়া বন্ধ করে তাতে লেখাও শুরু করে, সিস্টেমের দ্বিতীয় অংশ, যার নাম Sentry, সক্রিয় হয়ে ওঠে। অধিকন্তু, সম্পূর্ণ OpenShell এআই এজেন্ট থেকে সম্পূর্ণ স্বাধীন এবং এটি তাকে পর্যবেক্ষণ করার জন্য কাজ করে। যে মুহূর্তে OpenShell শনাক্ত করে যে এজেন্ট কোনো নিয়ম লঙ্ঘন করেছে, উদাহরণস্বরূপ, আমাদের ক্ষেত্রে, এটি ডেটাতে লেখা শুরু করেছে, তখন এটি Sentry-কে সক্রিয় করে। এরপর এটি বিশেষায়িত Nvidia BlueField 4 প্রসেসরে চলে এবং এর হার্ডওয়্যার তাই সিস্টেমের বাকি অংশের হার্ডওয়্যার থেকে সম্পূর্ণ আলাদা। এটিই এআই এজেন্টকে নিজে থেকে এটিকে নিয়ন্ত্রণ করা থেকে বিরত রাখবে। Nvidia-র দাবি অনুযায়ী, যে মুহূর্তে Sentry শনাক্ত করে যে এজেন্টকে বিচ্ছিন্ন করা প্রয়োজন, এটি অবিলম্বে এজেন্টকে বিচ্ছিন্ন করে এবং মিলিসেকেন্ডের মধ্যে এর কার্যকলাপ বন্ধ করে দেয়। ঠিক এই কারণেই এজেন্টটির পক্ষে নিজেকে রক্ষা করা সম্ভব হবে না, কিন্তু এর উপর এমন তত্ত্বাবধান থাকবে যা একে তাৎক্ষণিকভাবে নির্মূল করতে পারবে।
ফটো গ্যালারি
এনভিডিয়া এমন একটি সমাধান নিয়ে এসেছে, যার ফলে সাম্প্রতিক সপ্তাহগুলোতে বিশ্বের বৃহত্তম এআই কোম্পানিগুলো নিয়ন্ত্রণের দাবি তুলেছে। কারণ, তাদের এজেন্টগুলো কোম্পানিগুলোর নিজস্ব নিরাপত্তা ব্যবস্থাকে ছাড়িয়ে যাচ্ছে এবং যদি তারা যা খুশি তাই করতে শুরু করে, তবে তাদের থামানো অসম্ভব হয়ে পড়ার ঝুঁকি রয়েছে। ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম সমাধানটি ঠিক এই সমস্যারই সমাধান করবে। এটি মূলত এজেন্টরা কী করছে তার উপর নজরদারি তৈরি করে এবং নিয়ম ভাঙার মুহূর্তেই তাদের অবিলম্বে শাস্তি দেওয়া হবে। এনভিডিয়া এই প্রযুক্তিটিকে এভাবে উপস্থাপন করছে 100% ওপেনসোর্স শুধু সফটওয়্যারের ক্ষেত্রেই নয়, বরং ইন্টেল, আর্ম-এর মতো নির্মাতারাও এটিকে তাদের হার্ডওয়্যারে অন্তর্ভুক্ত করতে পারবে। Apple তাদের মোবাইল চিপের মধ্যে।
