최근 몇 달 동안 인공지능이 생성한 이미지와 실제 사진을 구분하는 것이 점점 더 어려워지고 있습니다. AI 생성기의 발전 속도가 너무 빨라서 숙련된 사용자조차도 실제 이미지인지 아니면 생성 모델이 만든 이미지인지 구별하기 어려워하는 경우가 많습니다. 이에 구글은 유사 콘텐츠 감지에 크게 도움이 되는 도구를 일반 사용자에게 공개하기로 했습니다. 이 도구는 SynthID Detector라고 하며, 가장 큰 장점은 구글의 인공지능이 생성한 콘텐츠뿐만 아니라 경쟁사의 도구가 생성한 콘텐츠까지 식별할 수 있다는 점입니다. 그렇다면 팬들을 위한 혜택은 무엇일까요? App특히 흥미로운 점은 캘리포니아에 본사를 둔 이 거대 기업이 조만간 지원 대상 기업에 포함될 것이라는 사실입니다.
당신은 관심을 가질 수 있습니다
사진, 동영상 또는 오디오 파일을 업로드하세요.
SynthID Detector의 작동 원리는 매우 간단합니다. 사용자는 웹사이트에 접속합니다. SynthID.com사용자는 로그인 후 인공지능으로 제작되었는지 확인하고 싶은 이미지, 비디오 또는 오디오 파일을 업로드합니다. 그러면 해당 도구는 콘텐츠 제작 시 삽입되는 특수 디지털 워터마크의 존재 여부를 확인합니다. 기존 워터마크와 달리 이 디지털 워터마크는 육안으로 보이지 않으므로 결과 이미지나 비디오를 왜곡하지 않습니다. Pro 하지만 검증 시스템은 식별 가능합니다.
구글은 2023년에 SynthID 기술을 도입했으며, 이 탐지기는 작년부터 일부 언론인 및 전문가에게 제공되기 시작했습니다. 이제 전 세계 모든 사용자에게 공개되었지만, 현재는 영어로만 제공됩니다. 구글 도구로 제작된 콘텐츠뿐만 아니라 다른 매체에서 제작된 미디어의 관련 워터마크도 인식할 수 있습니다. OpenAI엔비디아나 카카오와 같은 그래픽 카드도 지원할 예정입니다. 또한, 가까운 시일 내에 AI 도구를 사용하여 제작된 콘텐츠에 대한 지원도 추가될 것으로 예상됩니다. App루.
하지만 완벽한 AI 탐지기는 아닙니다.
언뜻 보기에 매우 흥미로운 새로운 기능이지만, 상당한 한계점도 있습니다. SynthID Detector는 인공지능으로 생성된 이미지를 자동으로 인식할 수 없습니다. 호환되는 디지털 워터마크가 포함된 파일만 인식합니다. 따라서 SynthID 기술을 지원하지 않는 도구를 사용하여 가짜 사진을 만든 경우, Detector가 이를 감지하지 못할 수 있습니다. 그러므로 음성 판정이 나왔다고 해서 반드시 진짜 이미지라는 의미는 아닙니다.
또 다른 한계는 해당 도구가 콘텐츠가 AI에 의해 완전히 생성된 것인지 아니면 AI를 사용하여 편집만 한 것인지 구분할 수 없다는 점입니다. 예를 들어, 누군가가 실제 사진을 찍은 후 AI 지원 도구를 사용하여 특정 세부 사항을 변경하는 경우, 탐지기는 AI 사용에 대한 경고를 표시할 수도 있습니다. 따라서 결과를 정확하게 해석해야 합니다. 또한 구글은 로그인을 요구하며, Ars Technica 서버에서 확인한 정보에 따르면 사용자당 하루에 약 10회의 검사를 예상합니다.
하지만 구글이 발표 당시 공개한 수치는 흥미롭습니다. 구글은 SynthID 출시 이후 180억 개 이상의 이미지와 동영상, 그리고 240만 년 분량의 오디오 녹음에 보이지 않는 워터마크를 삽입했다고 밝혔습니다. 이제 구글 검색을 통해서도 콘텐츠 검증이 가능합니다. Gemini 또는 크롬 브라우저의 경우, 매일 백만 건 이상의 검사가 수행됩니다.
당신은 관심을 가질 수 있습니다
제 생각에는 이는 올바른 방향으로 나아가는 한 걸음입니다. 인터넷은 인공지능 콘텐츠로 넘쳐나고 있으며, 의심스러운 사진이나 동영상의 출처를 쉽게 확인할 수 있는 기능은 거의 모든 사람에게 유용할 수 있습니다. 하지만 SynthID Detector는 만능 진위 판별기가 아니라 특정 유형의 디지털 서명을 인식하는 도구일 뿐이라는 점을 기억해야 합니다. 그럼에도 불구하고, 특히 다른 주요 기술 기업들이 점차 지원에 동참한다면 매우 유용한 도구가 될 수 있을 것입니다.
