انویدیا تصمیم گرفته است با معرفی یک سیستم امنیتی جدید هوش مصنوعی، نگرانیهای فزاینده در مورد هوش مصنوعی را کاهش دهد. این سیستم امنیتی که انویدیا تقریباً با هر شرکت هوش مصنوعی و فناوری که بتوانید تصور کنید، روی آن کار کرده است، برای جلوگیری از انجام هر کاری که عوامل هوش مصنوعی میخواهند انجام دهند، عمل خواهد کرد. این پلتفرم، نرمافزار و همچنین سختافزار را ترکیب میکند که میتواند عوامل را در لحظهای که هرگونه امنیت نرمافزاری با شکست مواجه میشود، خاموش کند. اگر هر عامل هوش مصنوعی از کنترل خارج شود، این سیستم میتواند آن را در عرض چند میلیثانیه ایزوله و متوقف کند. این سیستم که «پلتفرم ایمنی عامل باز» نامیده میشود، کاملاً متنباز است و برای ایمنسازی عوامل هوش مصنوعی، چه در طول آزمایش آنها و چه زمانی که به صورت آنلاین برای عموم مستقر شدهاند، طراحی شده است.
شما می توانید علاقه مند شوید
کل سیستم کاملاً ساده کار میکند، اما همانطور که انویدیا ادعا میکند، بسیار قابل اعتماد است. یک مدیر، یک عامل را در به اصطلاح OpenShell آپلود میکند، به عنوان مثال یک شرکت OpenAI اطلاعاتی در مورد آنچه عامل میتواند و نمیتواند انجام دهد. به عنوان مثال، این بدان معناست که میگوید عامل فقط میتواند دادهها را بخواند و تحت هیچ شرایطی نمیتواند در آن بنویسد. به محض اینکه عامل فقط خواندن دادهها را متوقف کند، اما شروع به نوشتن در آن کند، بخش دوم سیستم با برچسب Sentry فعال میشود. علاوه بر این، کل OpenShell کاملاً مستقل از عامل هوش مصنوعی است و برای نظارت بر آن عمل میکند. به محض اینکه OpenShell تشخیص دهد که عامل چیزی را نقض کرده است، به عنوان مثال، در مورد ما، شروع به نوشتن در دادهها کرده است، Sentry را فعال میکند. سپس روی پردازندههای تخصصی Nvidia BlueFild 4 اجرا میشود و بنابراین سختافزار آن کاملاً از سختافزار بقیه سیستم جدا است. این همان چیزی است که مانع از کنترل خود عامل هوش مصنوعی توسط خود عامل میشود. به محض اینکه Sentry تشخیص دهد که باید عامل را ایزوله کند، همانطور که Nvidia ادعا میکند، بلافاصله عامل را ایزوله کرده و فعالیتهای آن را در عرض چند میلیثانیه خاتمه میدهد. دقیقاً به همین دلیل است که عامل نمیتواند از خود محافظت کند، اما نظارتی بر آن خواهد داشت که میتواند بلافاصله آن را خاتمه دهد.
گالری عکس
انویدیا راهحلی ارائه داده است که منجر به درخواستهایی برای تنظیم مقررات توسط بزرگترین شرکتهای هوش مصنوعی جهان در هفتههای اخیر شده است، زیرا عوامل آنها از سیستمهای امنیتی خود شرکتها پیشی میگیرند و اگر شروع به انجام هر کاری که میخواهند کنند، این خطر وجود دارد که متوقف کردن آنها غیرممکن باشد. این دقیقاً همان چیزی است که راهحل پلتفرم ایمنی عامل باز باید حل کند. این اساساً نظارت بر آنچه عوامل انجام میدهند را ایجاد میکند و به محض اینکه قوانین را زیر پا بگذارند، بلافاصله مجازات میشوند. انویدیا این فناوری را به عنوان 100% متنباز، نه تنها از نظر نرمافزار، بلکه تولیدکنندگانی مانند اینتل، آرم یا مثلاً، قادر خواهند بود آن را در سختافزار خود نیز بگنجانند. Apple درون تراشههای موبایلشان.
