Nvidia đã quyết định xoa dịu những lo ngại ngày càng tăng về trí tuệ nhân tạo (AI) bằng cách giới thiệu một hệ thống bảo mật AI mới. Hệ thống bảo mật này, được Nvidia hợp tác với hầu hết các công ty công nghệ và AI hàng đầu, sẽ hoạt động để ngăn chặn các tác nhân AI thực hiện bất cứ điều gì chúng muốn. Nền tảng này kết hợp cả phần mềm và phần cứng, có thể tắt các tác nhân ngay khi bất kỳ lỗi bảo mật phần mềm nào xảy ra. Nếu bất kỳ tác nhân AI nào vượt khỏi tầm kiểm soát, hệ thống này có thể cô lập và dừng nó trong vòng mili giây. Hệ thống này, được gọi là Nền tảng An toàn Tác nhân Mở (Open Agent Safety Platform), hoàn toàn là mã nguồn mở và được thiết kế để bảo mật các tác nhân AI cả trong quá trình thử nghiệm và khi chúng đã được triển khai trực tuyến cho công chúng.
Bạn có thể quan tâm đến
Toàn bộ hệ thống hoạt động khá đơn giản, nhưng theo như Nvidia khẳng định, rất đáng tin cậy. Ví dụ, quản trị viên tải một tác nhân lên cái gọi là OpenShell, chẳng hạn như của một công ty. OpenAI Thông tin về những gì tác nhân có thể và không thể làm. Điều này có nghĩa là, ví dụ, tác nhân chỉ có thể đọc dữ liệu và không thể ghi vào dữ liệu trong bất kỳ trường hợp nào. Ngay khi tác nhân ngừng chỉ đọc dữ liệu mà bắt đầu ghi vào dữ liệu, phần thứ hai của hệ thống có tên Sentry sẽ được kích hoạt. Hơn nữa, toàn bộ OpenShell hoàn toàn độc lập với tác nhân AI và có chức năng giám sát nó. Ngay khi OpenShell phát hiện ra rằng tác nhân đã vi phạm điều gì đó, ví dụ, trong trường hợp của chúng ta, nó bắt đầu ghi vào dữ liệu, nó sẽ kích hoạt Sentry. Sau đó, nó chạy trên bộ xử lý Nvidia BlueFild 4 chuyên dụng và do đó phần cứng của nó hoàn toàn tách biệt với phần cứng của phần còn lại của hệ thống. Đây là điều sẽ ngăn chặn chính tác nhân AI điều khiển nó. Ngay khi Sentry phát hiện ra rằng nó nên cách ly tác nhân, như Nvidia tuyên bố, nó sẽ ngay lập tức cách ly tác nhân và chấm dứt hoạt động của nó trong vòng mili giây. Chính vì điều này, tác nhân sẽ không thể tự bảo vệ mình, nhưng sẽ có sự giám sát có thể chấm dứt nó ngay lập tức.
photo Gallery
Nvidia đã đưa ra một giải pháp dẫn đến những lời kêu gọi quản lý từ các công ty AI lớn nhất thế giới trong những tuần gần đây, bởi vì các tác nhân của họ đang phát triển vượt bậc so với hệ thống bảo mật của chính các công ty và nếu chúng bắt đầu làm bất cứ điều gì chúng muốn, sẽ có nguy cơ không thể ngăn chặn được. Đây chính xác là điều mà giải pháp Nền tảng An toàn Tác nhân Mở (Open Agent Safety Platform) hướng đến giải quyết. Về cơ bản, giải pháp này tạo ra sự giám sát đối với những gì các tác nhân làm và ngay khi chúng vi phạm quy tắc, chúng sẽ bị trừng phạt ngay lập tức. Nvidia đang định vị công nghệ này như một... 100% Mã nguồn mở, không chỉ về phần mềm, mà các nhà sản xuất như Intel, Arm, chẳng hạn, cũng có thể tích hợp nó vào phần cứng của họ. Apple bên trong chip di động của chúng.
