최근 몇 달 동안 AI가 생성한 이미지가 Google 검색 결과에서 점점 더 지배적이 되어 합법적인 결과가 밀려나고 사용자가 실제로 원하는 것을 찾기가 더 어려워졌습니다. 이에 대해 구글은 화요일에 앞으로 몇 달 안에 AI 생성 및 AI 편집 이미지 검색 결과에 라벨을 붙이기 시작할 것이라고 발표했습니다 .
회사는 이러한 콘텐츠를 '이미지 정보' 창을 통해 표시할 것이며 이는 검색, Google Lens 및 Android의 Circle to Search 기능에 적용됩니다. Google은 또한 이 기술을 광고 서비스에 적용하고 있으며 YouTube 동영상에도 유사한 플래그를 추가하는 것을 고려하고 있지만 발표 게시물에 따르면 "올해 후반에 이에 대한 추가 업데이트가 있을 것"이라고 합니다.
Google은 C2PA(Coalition for Content Provenance and Authenticity) 메타데이터를 사용하여 AI 생성 이미지를 식별합니다. 이는 Google이 올해 초 운영위원회 위원으로 합류한 업계 그룹입니다. 이 "C2PA 메타데이터"는 이미지의 출처를 추적하고 이미지가 생성된 시기와 장소는 물론 이미지 생성에 사용된 장비와 소프트웨어를 식별하는 데 사용됩니다.
지금까지 Amazon, Microsoft, OpenAI 및 Adobe를 포함하여 수많은 업계 거물급 기업이 C2PA에 합류했습니다. 그러나 표준 자체는 하드웨어 제조업체로부터 거의 관심을 받지 못했으며 현재 소수의 Sony 및 Leica 카메라 모델에서만 찾을 수 있습니다. Grok이 이미지 생성에 활용하는 Flux 모델을 만드는 Black Forrest Labs와 같은 몇몇 저명한 AI 생성 도구 개발자도 표준 채택을 거부했습니다.
AI가 생성한 딥페이크를 활용한 온라인 사기 건수는 지난 2년 동안 폭발적으로 증가했습니다. 예를 들어, 지난 2월, 홍콩에 본사를 둔 한 금융가는 화상 전화 회의에서 회사의 CFO로 가장한 사기꾼에게 속아서 2,500만 달러를 송금 했습니다. 지난 5월 검증 제공업체인 Sumsub의 연구에 따르면 딥페이크를 사용한 사기는 2023년에서 2024년 사이 전 세계적으로 245% 증가했으며, 특히 미국에서는 303% 증가한 것으로 나타났습니다.
Netskope의 APAC 최고 정보 책임자이자 최고 보안 책임자인 David Fairman은 지난 5월 CNBC에 "이러한 서비스에 대한 대중의 접근성은 사이버 범죄자의 진입 장벽을 낮췄습니다."라고 말했습니다. “그들은 더 이상 특별한 기술을 보유할 필요가 없습니다.”