Devine din ce în ce mai dificil să distingi o fotografie reală de o imagine generată de inteligența artificială. De aceea, Meta a introdus un nou instrument web care poate spune dacă o imagine a fost creată sau editată folosind cea mai recentă tehnologie de inteligență artificială. Sistemul folosește un filigran digital invizibil despre care compania spune că va supraviețui chiar și decupării, compresiei, redimensionării sau creării de imagini noi. screenshotu.
Filigran invizibil pentru a dezvălui originea imaginii
Noua tehnologie se numește Content Seal, iar Meta o folosește pe conținutul creat folosind noul model generativ Muse Image. Spre deosebire de unele versiuni mai vechi ale instrumentelor Meta AI, nu există niciun logo vizibil sau alt marcaj pe imaginea rezultată care să indice originea sa artificială.
În schimb, informațiile generate de inteligența artificială sunt ascunse direct în imagine prin intermediul unui filigran digital invizibil. Utilizatorii pot încărca fișierul în noul instrument web al companiei și pot vedea dacă sistemul Content Seal poate recunoaște marcajul.
Meta spune că tehnologia este concepută pentru a păstra filigranul chiar și după editarea normală a imaginii, așa că detectarea ar trebui să funcționeze chiar dacă cineva decupează, comprimă, modifică rezoluția sau creează o nouă versiune a fișierului original. screenshot.
Instrumentul recunoaște crearea și editarea folosind Meta AI
Un rezultat pozitiv al verificării, potrivit companiei, înseamnă că imaginea a fost creată sau editată folosind aplicația Meta AI sau serviciul web meta.ai. Un rezultat negativ, pe de altă parte, înseamnă că fișierul probabil nu a fost procesat folosind aceste servicii.
Testele practice inițiale arată că sistemul poate recunoaște atât imagini generate complet, cât și fotografii care au fost editate doar cu ajutorul inteligenței artificiale. Detecția a funcționat chiar și cu screenshota conținutului creat inițial, ceea ce poate fi important mai ales în cazul partajării ulterioare a imaginilor pe rețelele de socializare.
Totuși, noua funcționalitate are o limitare destul de semnificativă. În prezent, instrumentul de detectare nu poate determina, în general, dacă o imagine a fost creată de inteligența artificială. Acesta recunoaște doar Sigiliul de Conținut utilizat de noul model de imagine Muse.
Așadar, dacă un utilizator încarcă o imagine creată folosind un generator diferit sau chiar o versiune mai veche de Meta AI, este posibil ca instrumentul să nu poată detecta originea acesteia. În timpul testelor, nu a putut identifica nici unele imagini create în conversații Meta AI mai vechi. Deci, acesta nu este un detector universal de inteligență artificială, ci în primul rând o modalitate de a verifica dacă un anumit conținut provine din cele mai recente instrumente Meta.
Compania lucrează în prezent și la un nou model generativ, Muse Video. Acesta va fi folosit pentru a crea și edita videoclipuri folosind inteligența artificială și, potrivit Meta, va apărea în viitor. Content Seal urmează să fie extins treptat la acest tip de conținut. În viitor, noul instrument de detectare ar putea verifica nu doar originea imaginilor, ci și videoclipurile create sau editate folosind sistemele de inteligență artificială ale companiei.
Tehnologia nu este compatibilă cu standardele concurente
O altă limitare este că Content Seal nu este compatibil cu alte tehnologii utilizate pentru etichetarea conținutului bazat pe inteligență artificială, cum ar fi SynthID sau standardul C2PA Content Credentials.
Meta folosește în prezent propria soluție care funcționează în principal în cadrul ecosistemului său, ceea ce ar putea complica crearea unui sistem universal care ar permite verificarea ușoară a originii conținutului, indiferent de compania sau modelul de inteligență artificială care l-a creat.
În mod surprinzător, noua funcție nu face încă parte direct din aplicația Meta AI. Dacă un utilizator încearcă să întrebe asistentul dacă o anumită imagine a fost creată de inteligența artificială, este posibil ca aplicația să nu poată oferi un răspuns clar. Detectarea este disponibilă în prezent printr-un instrument web separat. Meta nu a anunțat încă dacă și când va apărea posibilitatea de a verifica imaginile direct în aplicațiile sale.
Noul instrument are o altă caracteristică destul de neașteptată. Meta limitează numărul de verificări pe care un utilizator le poate efectua într-o zi. După încărcarea mai multor imagini, poate apărea un avertisment că limita zilnică a fost atinsă.
Nu este clar de ce compania limitează numărul de verificări sau cât de mare este limita exactă pentru utilizatorii individuali. Având în vedere că acesta este un instrument conceput pentru a verifica credibilitatea conținutului, această limitare ar putea fi destul de enervantă dacă ar fi utilizată mai frecvent.
Meta răspunde criticilor aduse etichetării conținutului bazate pe inteligență artificială
Compania s-a confruntat cu critici în trecut pentru modul în care etichetează conținutul generat de inteligență artificială pe platformele sale. Consiliul de supraveghere al Meta a avertizat anul acesta că este de părere că firma nu a fost suficient de consecventă în utilizarea filigranelor digitale pe propriul conținut bazat pe inteligență artificială.
Content Seal și noul instrument de detectare ar putea fi un răspuns la cantitatea tot mai mare de conținut realist creat cu ajutorul inteligenței artificiale. Pe măsură ce modelele generative continuă să se îmbunătățească, va deveni din ce în ce mai dificil pentru utilizatorii obișnuiți să-și dea seama dacă se uită la o fotografie reală sau la o imagine generată pe computer.
Noua tehnologie cu siguranță nu este încă o soluție universală la această problemă. Dar arată direcția pe care companiile de tehnologie o pot urma în anii următori. În loc să încerce să recunoască conținutul bazat pe inteligență artificială doar pe baza aspectului său, acestea pot stoca informații invizibile despre originea sa în fișierele create, informații care pot fi verificate ulterior.
