Nvidia ได้ตัดสินใจที่จะคลายความกังวลที่เพิ่มขึ้นเกี่ยวกับ AI โดยการเปิดตัวระบบรักษาความปลอดภัย AI ใหม่ ระบบรักษาความปลอดภัยนี้ ซึ่ง Nvidia ได้ร่วมมือกับบริษัท AI และเทคโนโลยีเกือบทุกแห่งที่คุณนึกออก จะช่วยป้องกันไม่ให้ AI ทำงานตามอำเภอใจ แพลตฟอร์มนี้ผสมผสานซอฟต์แวร์และฮาร์ดแวร์ที่สามารถปิดการทำงานของ AI ได้ทันทีที่ระบบรักษาความปลอดภัยของซอฟต์แวร์ล้มเหลว หาก AI ตัวใดควบคุมไม่ได้ ระบบนี้สามารถแยกและหยุดการทำงานได้ในเวลาเพียงไม่กี่มิลลิวินาที ระบบนี้เรียกว่า Open Agent Safety Platform เป็นโอเพนซอร์สอย่างสมบูรณ์ และได้รับการออกแบบมาเพื่อรักษาความปลอดภัยของ AI ทั้งในระหว่างการทดสอบและเมื่อใช้งานจริงบนระบบออนไลน์แล้ว
คุณอาจจะสนใจ
ระบบโดยรวมทำงานค่อนข้างง่าย แต่ Nvidia อ้างว่ามีความน่าเชื่อถือสูงมาก ผู้ดูแลระบบจะอัปโหลดเอเจนต์เข้าไปในสิ่งที่เรียกว่า OpenShell ตัวอย่างเช่น บริษัทแห่งหนึ่ง OpenAI ข้อมูลเกี่ยวกับสิ่งที่เอเจนต์สามารถทำได้และทำไม่ได้ ตัวอย่างเช่น หมายความว่าเอเจนต์สามารถอ่านข้อมูลได้เท่านั้น และไม่สามารถเขียนข้อมูลได้ไม่ว่าในกรณีใดๆ เมื่อใดก็ตามที่เอเจนต์หยุดอ่านข้อมูลและเริ่มเขียนข้อมูลด้วย ส่วนที่สองของระบบที่เรียกว่า Sentry จะทำงาน ยิ่งไปกว่านั้น OpenShell ทั้งหมดทำงานอย่างอิสระจากเอเจนต์ AI และทำหน้าที่ตรวจสอบ เมื่อใดก็ตามที่ OpenShell ตรวจพบว่าเอเจนต์ละเมิดกฎบางอย่าง เช่น ในกรณีของเรา คือเริ่มเขียนข้อมูล มันจะเปิดใช้งาน Sentry จากนั้นมันจะทำงานบนโปรเซสเซอร์ Nvidia BlueFild 4 เฉพาะทาง และฮาร์ดแวร์ของมันจึงแยกออกจากฮาร์ดแวร์ของส่วนที่เหลือของระบบอย่างสิ้นเชิง นี่คือสิ่งที่ป้องกันไม่ให้เอเจนต์ AI ควบคุมมันได้ เมื่อใดก็ตามที่ Sentry ตรวจพบว่าควรแยกเอเจนต์ออก ตามที่ Nvidia กล่าวอ้าง มันจะแยกเอเจนต์ออกทันทีและยุติกิจกรรมของมันภายในไม่กี่มิลลิวินาที ด้วยเหตุนี้ เอเจนต์จึงไม่สามารถป้องกันตัวเองได้ แต่จะมีผู้ควบคุมดูแลที่สามารถยุติการทำงานได้ทันที
Fotogalerie
Nvidia ได้คิดค้นโซลูชันที่นำไปสู่เสียงเรียกร้องให้มีการออกกฎระเบียบจากบริษัท AI ขนาดใหญ่ที่สุดของโลกในช่วงไม่กี่สัปดาห์ที่ผ่านมา เนื่องจากเอเจนต์ของบริษัทเหล่านี้กำลังเติบโตเกินกว่าระบบรักษาความปลอดภัยของบริษัทเอง และหากพวกมันเริ่มทำอะไรตามใจชอบ ก็มีความเสี่ยงที่จะหยุดยั้งได้ยาก นี่คือสิ่งที่แพลตฟอร์ม Open Agent Safety Platform ควรจะแก้ไขได้ โดยพื้นฐานแล้วแพลตฟอร์มนี้จะสร้างการกำกับดูแลสิ่งที่เอเจนต์ทำ และเมื่อใดก็ตามที่พวกมันฝ่าฝืนกฎ พวกมันจะถูกลงโทษทันที Nvidia กำลังวางตำแหน่งเทคโนโลยีนี้ในฐานะ... 100% โอเพนซอร์ส ไม่เพียงแต่ในแง่ของซอฟต์แวร์เท่านั้น แต่ผู้ผลิตอย่าง Intel, Arm หรือบริษัทอื่นๆ ก็จะสามารถนำไปรวมไว้ในฮาร์ดแวร์ของตนได้เช่นกัน Apple ภายในชิปมือถือของพวกเขา
