قررت شركة إنفيديا تبديد المخاوف المتزايدة بشأن الذكاء الاصطناعي، وذلك بإطلاق نظام أمان جديد خاص به. يعمل هذا النظام، الذي طورته إنفيديا بالتعاون مع معظم شركات الذكاء الاصطناعي والتكنولوجيا، على منع برامج الذكاء الاصطناعي من التجاوز. تجمع المنصة بين البرمجيات والأجهزة، ما يُمكّنها من إيقاف البرامج فور حدوث أي خلل في أمان البرمجيات. في حال خروج أي برنامج ذكاء اصطناعي عن السيطرة، يستطيع هذا النظام عزله وإيقافه في أجزاء من الثانية. يُطلق على النظام اسم "منصة أمان البرامج المفتوحة"، وهو مفتوح المصدر بالكامل، ومصمم لحماية برامج الذكاء الاصطناعي أثناء اختبارها وبعد نشرها للجمهور.
يمكن أن تكون مهتمًا بـ
يعمل النظام بأكمله ببساطة شديدة، ولكن كما تدّعي شركة Nvidia، فهو يتمتع بموثوقية عالية. يقوم المسؤول بتحميل برنامج وسيط إلى ما يُسمى OpenShell، على سبيل المثال في شركة ما OpenAI معلومات حول صلاحيات الوكيل وما لا يستطيع فعله. على سبيل المثال، يُحدد النظام أن الوكيل لا يستطيع سوى قراءة البيانات، ولا يمكنه الكتابة إليها تحت أي ظرف. بمجرد أن يتوقف الوكيل عن قراءة البيانات ويبدأ بالكتابة إليها، يتم تفعيل الجزء الثاني من النظام المسمى Sentry. علاوة على ذلك، فإن OpenShell مستقل تمامًا عن وكيل الذكاء الاصطناعي، ووظيفته مراقبته. عندما يكتشف OpenShell أن الوكيل قد انتهك أي شيء، كأن يبدأ بالكتابة إلى البيانات في حالتنا، فإنه يُفعّل Sentry. يعمل Sentry حينها على معالجات Nvidia BlueFild 4 المتخصصة، وبالتالي فإن مكوناته المادية منفصلة تمامًا عن مكونات النظام الأخرى. هذا ما يمنع وكيل الذكاء الاصطناعي من التحكم به. عندما يكتشف Sentry ضرورة عزل الوكيل، كما تدّعي Nvidia، فإنه يعزله فورًا وينهي أنشطته في غضون أجزاء من الثانية. لهذا السبب تحديدًا، لن يكون بإمكان الوكيل حماية نفسه، بل سيخضع لإشراف يُمكّنه من إيقافه فورًا.
معرض الصور
ابتكرت شركة إنفيديا حلاً دفع أكبر شركات الذكاء الاصطناعي في العالم إلى المطالبة بتنظيمه في الأسابيع الأخيرة، وذلك لأن برامجها الذكية تتجاوز قدرة أنظمة الأمان الخاصة بها، وإذا ما بدأت هذه البرامج بالتصرف كيفما تشاء، فسيكون من المستحيل إيقافها. هذا تحديداً ما يهدف إليه حل منصة أمان البرامج الذكية المفتوحة. إذ يوفر هذا الحل إشرافاً على ما تفعله هذه البرامج، وفي حال مخالفتها للقواعد، ستُعاقب فوراً. وتُسوّق إنفيديا هذه التقنية على أنها 100% المصادر المفتوحة، ليس فقط من حيث البرمجيات، ولكن أيضًا سيتمكن المصنعون مثل إنتل وأرم، على سبيل المثال، من تضمينها في أجهزتهم Apple داخل رقائق هواتفهم المحمولة.
