Ngày càng khó phân biệt ảnh thật với ảnh do AI tạo ra. Đó là lý do Meta đã giới thiệu một công cụ web mới có thể cho biết liệu một hình ảnh được tạo ra hay chỉnh sửa bằng công nghệ AI mới nhất của họ. Hệ thống sử dụng một hình mờ kỹ thuật số vô hình mà công ty cho biết sẽ vẫn tồn tại ngay cả khi cắt xén, nén, thay đổi kích thước hoặc tạo ra hình ảnh mới. screenshotu.
Hình mờ vô hình để tiết lộ nguồn gốc hình ảnh
Công nghệ mới này được gọi là Content Seal, và Meta đang sử dụng nó trên nội dung được tạo ra bằng mô hình tạo hình ảnh Muse Image mới. Không giống như một số phiên bản cũ hơn của các công cụ Meta AI, không có logo hoặc dấu hiệu nào khác hiển thị trên hình ảnh kết quả để cho biết nguồn gốc nhân tạo của nó.
Thay vào đó, thông tin do AI tạo ra được ẩn trực tiếp trong hình ảnh thông qua một hình mờ kỹ thuật số vô hình. Người dùng có thể tải tệp lên công cụ trực tuyến mới của công ty và xem hệ thống Content Seal có nhận dạng được dấu hiệu đó hay không.
Meta cho biết công nghệ này được thiết kế để giữ nguyên hình mờ ngay cả sau khi chỉnh sửa ảnh thông thường, vì vậy tính năng nhận diện sẽ hoạt động ngay cả khi ai đó cắt xén, nén, thay đổi độ phân giải hoặc tạo phiên bản mới của tệp gốc. screenshot.
Công cụ này nhận diện việc tạo và chỉnh sửa bằng Meta AI.
Theo công ty, kết quả kiểm tra dương tính có nghĩa là hình ảnh được tạo hoặc chỉnh sửa bằng ứng dụng Meta AI hoặc dịch vụ web meta.ai. Ngược lại, kết quả âm tính có nghĩa là tệp tin có thể không được xử lý bằng các dịch vụ này.
Các thử nghiệm thực tế ban đầu cho thấy hệ thống có thể nhận diện cả hình ảnh được tạo hoàn toàn và ảnh chỉ được chỉnh sửa bằng trí tuệ nhân tạo. Khả năng nhận diện thậm chí còn hoạt động với... screenshotVề nội dung được tạo ra ban đầu, điều này đặc biệt quan trọng trong trường hợp chia sẻ hình ảnh thêm trên mạng xã hội.
Tuy nhiên, tính năng mới này có một hạn chế khá đáng kể. Công cụ phát hiện hiện tại không thể xác định một cách tổng quát liệu bất kỳ hình ảnh nào được tạo ra bởi trí tuệ nhân tạo hay không. Nó chỉ nhận dạng Dấu niêm phong nội dung được sử dụng bởi mô hình Muse Image mới.
Vì vậy, nếu người dùng tải lên hình ảnh được tạo bằng trình tạo khác hoặc thậm chí là phiên bản Meta AI cũ hơn, công cụ có thể không phát hiện được nguồn gốc của nó. Trong quá trình thử nghiệm, nó cũng không thể xác định được một số hình ảnh được tạo trong các cuộc hội thoại Meta AI cũ hơn. Vì vậy, đây không phải là công cụ phát hiện AI toàn diện, mà chủ yếu là cách để xác minh xem nội dung cụ thể có đến từ các công cụ mới nhất của Meta hay không.
Công ty hiện cũng đang nghiên cứu một mô hình tạo sinh mới, Muse Video. Mô hình này sẽ được sử dụng để tạo và chỉnh sửa video bằng trí tuệ nhân tạo và theo Meta, sẽ xuất hiện trong tương lai. Content Seal sẽ được mở rộng dần sang loại nội dung này. Trong tương lai, công cụ phát hiện mới có thể xác minh không chỉ nguồn gốc của hình ảnh mà còn cả video được tạo hoặc chỉnh sửa bằng hệ thống AI của công ty.
Công nghệ này không tương thích với các tiêu chuẩn cạnh tranh.
Một hạn chế khác là Content Seal không tương thích với một số công nghệ khác được sử dụng để gắn nhãn nội dung AI, chẳng hạn như SynthID hoặc tiêu chuẩn C2PA Content Credentials.
Hiện tại, Meta đang sử dụng giải pháp riêng của mình, chủ yếu hoạt động trong hệ sinh thái của họ, điều này có thể làm phức tạp việc tạo ra một hệ thống phổ quát cho phép dễ dàng xác minh nguồn gốc nội dung bất kể công ty hoặc mô hình AI nào tạo ra nó.
Điều đáng ngạc nhiên là tính năng mới này vẫn chưa được tích hợp trực tiếp vào ứng dụng Meta AI. Nếu người dùng cố gắng hỏi trợ lý ảo xem một hình ảnh cụ thể có được tạo ra bởi trí tuệ nhân tạo hay không, ứng dụng có thể không đưa ra được câu trả lời rõ ràng. Hiện tại, tính năng này chỉ có sẵn thông qua một công cụ web riêng biệt. Meta vẫn chưa thông báo liệu và khi nào khả năng kiểm tra hình ảnh sẽ được tích hợp trực tiếp vào ứng dụng của họ.
Công cụ mới này còn có một tính năng khá bất ngờ khác. Meta giới hạn số lượng lượt kiểm tra mà người dùng có thể thực hiện trong một ngày. Sau khi tải lên một số hình ảnh, một cảnh báo có thể xuất hiện cho biết đã đạt đến giới hạn hàng ngày.
Hiện chưa rõ lý do tại sao công ty lại giới hạn số lần xác minh hoặc giới hạn chính xác cho từng người dùng là bao nhiêu. Vì đây là công cụ được thiết kế để xác minh độ tin cậy của nội dung, nên giới hạn này có thể khá khó chịu nếu được sử dụng thường xuyên.
Meta phản hồi những lời chỉ trích về việc gắn nhãn nội dung bằng AI.
Công ty này từng bị chỉ trích về cách thức gắn nhãn nội dung do AI tạo ra trên các nền tảng của mình. Hội đồng giám sát của Meta đã cảnh báo hồi đầu năm nay rằng họ tin công ty này chưa đủ nhất quán trong việc sử dụng dấu bản quyền kỹ thuật số trên nội dung AI của chính mình.
Content Seal và công cụ phát hiện mới có thể là một trong những giải pháp cho lượng nội dung chân thực ngày càng tăng được tạo ra bằng trí tuệ nhân tạo. Khi các mô hình tạo sinh tiếp tục được cải thiện, người dùng thông thường sẽ ngày càng khó phân biệt được đâu là ảnh thật và đâu là hình ảnh do máy tính tạo ra.
Công nghệ mới này chắc chắn chưa phải là giải pháp toàn diện cho vấn đề này. Nhưng nó cho thấy hướng đi mà các công ty công nghệ có thể theo đuổi trong những năm tới. Thay vì cố gắng nhận diện nội dung AI chỉ dựa trên hình thức bên ngoài, họ có thể lưu trữ thông tin ẩn về nguồn gốc của nội dung đó trong các tập tin được tạo ra, và thông tin này có thể được xác minh sau đó.
