최근 위챗 채팅 그룹에서는 사이버 미녀가 샤오홍슈를 사로잡았다는 소식이 급속도로 퍼졌습니다.
그룹 채팅 기록에 따르면 일부 네티즌들은 계정 매트릭스 관리 소프트웨어를 이용해 1,327개의 계정을 통제하고 샤오홍슈를 직접 '살해'한 것으로 드러났다. 결과적으로 푸시 시스템은 이를 인식하지 못하고 대신 스트림 푸시를 도왔습니다.
사용자의 입장에서 생각해보면, 나는 이 아름다운 여성을 오랫동안 바라보았고, 용기를 내어 그녀에게 연락하려고 합니다. 이것이 실제로 AI입니까?
이날은 붕괴였습니다.
이 소식이 퍼지자 여론은 빠르게 두 갈래로 갈라졌습니다.
도립학교에서는 AI 탐지를 피하면서 수천 개의 휴대전화 번호를 관리해야 하는 필요성을 고려하면 아마도 AI 소프트웨어나 매트릭스 소프트웨어를 위한 최고의 부추 수확기일 것이라고 믿고 있다.
다른 그룹은 AI 해커가 거의 모든 소셜 미디어를 방문했다고 믿고 있으며 Xiaohongshu의 탐지 시스템이 따라잡을 수 없다는 것이 합리적입니다.
단지 샤오홍슈의 잘생긴 블로거조차도 언젠가 그의 상대가 육안조차 볼 수 없는 AI가 될 것이라고는 예상하지 못했을 뿐입니다.
사이버 미녀가 샤오홍슈를 붙잡았는데, 누구에게 상처를 주나요?
늘 그렇듯이, 먼저 사진 몇 장을 찍어서 얼마나 많은 단서를 발견할 수 있는지 확인하세요.
솔직히 확대해서 인터페이스를 살펴보지 않았다면 이 사진들의 AI 취향을 거의 감지할 수 없었을 텐데요? 주의 깊게 관찰하더라도 AI 마니아라도 감히 보증할 수 없는 사진도 있습니다.
▲@imxiaohu의 사진
그리고 만약 떠도는 뉴스가 사실이라면 대략 몇 명의 피해자를 특정할 수 있을 것이다──
어둠 속에 갇힌 유저들, 함께한 잘생긴 블로거들, 샤오홍슈 플랫폼 자체, 그리고 야근을 해야 했던 프로그래머들…
압도적인 수의 AI 사진이 대중을 향해 돌진하면 실제로 심사 메커니즘이 형성됩니다.
결국, 날카로운 눈을 가진 사용자는 소수에 불과하고, 더 많은 일반 사람들은 자신의 "원 클릭 3 연결"을 무심코 떠난 다음 AI 사진의 소용돌이 속에서 앞뒤로 순환할 것입니다.
AI는 당신을 수천 번 고문하지만 당신은 AI를 첫사랑처럼 대합니다.
AI 이미지와의 전쟁에서 Xiaohongshu의 검토 메커니즘이 AI를 식별하지 못하는 것은 놀라운 일이 아닙니다.
PS와 같은 사진 편집 소프트웨어의 등장으로 사진의 진정한 모습이 바뀌었고 실제 인물과 가상 인물의 경계가 모호해졌습니다. 뉴턴의 법칙을 위반하는 일부 아름다움의 "속임수"와 비교할 때 AI는 때로는 너무 보수적으로 보입니다.
눈부시게 아름다운 사진을 마주할 때처럼, 우리는 필연적으로 '원본이 그대로 나오는' 사진 찍는 분위기를 그리워하게 될 것입니다. 마찬가지로 우리는 이제 도덕적 우위에서 AI 이미지를 비판합니다.
절대적인 옳고 그름은 없습니다. 우리는 AI 이미지의 존재를 받아들일 수 있습니다. 하지만 사이버 블로거의 나쁜 점은 자신의 행동이 충분히 투명하지 않다는 것입니다. 아무리 나쁜 행동을 하더라도 AI 사진을 보려면 자신의 신원을 밝혀야 합니다.
관심경제 시대에 우리는 AI가 몰래 베는 것을 좋아하지도 기뻐하지도 않는다.
따라서 이번 사건은 이용자들의 민감한 신경을 건드릴 것입니다. 영향을 받을 수 있는 Xiaohongshu 프로그래머에 대해 제가 제안하는 것은 초과 근무를 더 많이 하는 것입니다.
또한, 2단계 이미지 생성 속도와 어떤 장면이든 마음대로 변환할 수 있는 능력으로 인해 일단 초저가 AI 이미지가 플랫폼에 넘쳐나면 Xiaohongshu 뷰티 블로거는 심각한 생존 문제에 직면하게 될 것이며 또한 심각한 결과를 초래할 것입니다. 플랫폼.
AI 뷰티를 사용하여 양모를 수확하는 것은 기술에 달려 있습니다.
아름다운 여성의 AI 사진을 사용하여 양모를 수확하는 것은 당신의 능력에 달려 있습니다.
과거 AI가 생성한 이미지는 비대칭, 그림자 오류, 세부적인 질감 흐릿함 등의 문제가 간헐적으로 발생했고, 캐릭터의 손과 눈, 배경의 반복이 '가장 타격이 큰 영역'이었다.
하지만 아직도 저 형편없는 여섯 손가락 AI 사진을 보고 웃고 있는 동안, AI 사진 생성 기술은 이미 다음 단계에 도달했습니다.
믿기지 않는다면 Midjourney v1과 v6.1의 이미지 생성 효과를 비교해보시는 것도 좋을 것 같습니다.
이것이 직관적이지 않고 충분히 충격적이지 않다면 단 1년 반 만에 v1에서 v6으로의 Midjourney의 반복적 변환을 살펴보십시오.
재미있는 사실은 지난해 12월 v6 버전이 출시됐다는 점이다.
지난달 초를 포함해 구글의 'TED 강연자' 사진은 사실적인 디테일로 수천만 명의 네티즌을 속였고, AI 인식 소프트웨어에서도 아무런 결함을 발견하지 못했다.
고래가 떨어지면 모든 것이 생겨납니다. 유니콘 안정 AI가 '떨어진다'는 예언을 실현하는 듯하자, 도망치는 사람들은 불덩어리처럼 모였다가 하늘의 별처럼 흩어진다.
나중에 밝혀진 바에 따르면 인기 있는 Google "TED Speaker" 사진은 실제로 Flux의 LoRA 실제 버전을 사용하여 제작되었습니다. 저자는 Stable Diffusion 팀의 전 멤버였던 Leo Kadieff이기도 합니다.
지난 2년간 AI 이미지 생성 품질의 향상은 누구에게나 명백하며, 그 이유는 이해하기 어렵지 않습니다.
2014년 Gan의 아버지인 Ian Goodfellow는 이미지 생성 기술의 혁명적인 돌파구로 여겨지는 GAN(Generative Adversarial Networks)을 제안했습니다.
GAN은 생성기와 판별기라는 두 가지 신경망으로 구성됩니다. 생성기는 새로운 이미지를 생성하는 역할을 담당하고, 판별기는 생성된 이미지가 실제인지 확인합니다.
이러한 적대적 접근 방식을 통해 생성기는 점차적으로 개선되고 생성된 이미지는 점점 더 현실감 있게 됩니다.
GAN의 아키텍처는 도입 이후 계속해서 발전해 왔으며 많은 변형과 개선 사항이 나타났습니다.
- 2016년에 컨볼루셔널 네트워크가 도입되면서 GAN은 특히 사람 얼굴, 동물 등의 자연스러운 이미지를 생성할 때 복잡한 고해상도 이미지를 생성하는 데 좋은 성능을 보였습니다.
- 2017년에 NVIDIA는 생성된 이미지를 이미지의 다양한 기능 레이어를 조정하여 스타일에 맞게 사용자 정의할 수 있는 StyleGAN을 제안했습니다. 이를 통해 AI는 다양한 얼굴 특징, 헤어스타일, 배경 등과 같은 특정 스타일의 이미지를 생성할 수 있습니다.
- 2018년 BigGAN은 고해상도의 사실적인 이미지를 생성하는 GAN의 기능을 더욱 향상시켰습니다. 네트워크 규모와 훈련 데이터를 늘려 AI가 생성한 이미지의 품질을 새로운 차원으로 끌어올립니다.
이후 확산모델(Diffusion Models) 등의 알고리즘 제안과 최적화로 영상생성기술의 발전이 크게 촉진되었다. AI의 이미지 생성 능력은 현실감이 뛰어나고 실제 사진과 거의 구별할 수 없는 단계에 진입하기 시작했습니다.
이 기간의 대표적인 돌파구로는 DALL·E(2021)와 Midjourney, Stable Diffusion(2022) 등이 있다.
일반 사용자로서 이제 텍스트 설명만 입력하면 모델이 자동으로 기대에 맞는 고품질 이미지를 생성합니다.
확산 모델의 원리는 복잡해 보이지만 실제로는 매우 직관적입니다.
빈 종이와 색연필 몇 개를 가지고 아름다운 풍경화를 그리고 싶다고 상상해 보세요. 하지만 그냥 낙서하고 무작위로 칠하면 혼란스러운 그림이 될 수도 있습니다. 반대로, 이미 칠해진 그림이 있고, 그림 전체가 흐려질 때까지 천천히 조금씩 색의 일부를 지우면, 그 과정은 마치 "확산"과 같습니다. 질서정연한 그림을 무질서한 소음으로 바꾸는 것입니다.
현재 영상생성 분야에 도입되고 있는 확산모델 원리는 이 과정의 역동작과 같다.
색상이 흐려지거나 임의의 숫자(흰 종이에 엉망이 된 것으로 생각)와 같은 완전히 임의의 시작점에서 시작됩니다. 그런 다음 AI는 예술가와 같으며 이 무작위 "소음"에 세부 사항을 천천히 단계적으로 추가합니다. 추가할 때마다 그림이 생성하려는 그림에 더 질서 있고 가까워집니다.
이 프로세스는 두 가지 주요 단계로 나눌 수 있습니다.
- 전방 확산(소음): 이는 인식할 수 없게 되어 단지 소음 덩어리가 될 때까지 그림 위에 그림을 그리는 것과 같습니다.
- 역확산(노이즈 제거): 이것이 AI의 임무입니다. 이 노이즈로부터 원본 그림을 복원하는 방법을 배워야 합니다. AI는 수많은 그림을 학습해 어떤 노이즈가 어떤 디테일에 해당하는지 파악한 뒤, 노이즈를 단계별로 '삭제'해 점차 선명한 이미지를 복원합니다.
리버스 엔지니어링 과정에서 AI는 신경망이라는 도구를 사용하는데, 이는 노이즈의 패턴을 식별하고 점진적으로 원본 이미지를 복원할 수 있는 복잡한 '스미어 방지' 기계와 같습니다.
최종 결과가 완전히 새로운 AI 생성 그림이 될 때까지 각각의 복원은 추측과 수정을 바탕으로 한 추측입니다.
그렇다면 AI가 생성한 이미지를 한눈에 인식할 수 있는 방법은 없을까?
예, 하지만 일반 사람들이 사용하기에는 신뢰할 수 없거나 너무 번거롭습니다.
예를 들어, 노이즈 분포, 가장자리 선명도 또는 텍스처 패턴을 분석하여 생성된 이미지를 식별할 수 있습니다. 또는 AI가 생성한 일부 사진은 조명, 그림자, 반사 효과 등 세부 사항이 거칠어 현실 세계의 물리적 법칙을 따르지 않을 수도 있습니다.
또 다른 예로, AI 생성 이미지에는 일부 메타데이터가 누락되거나 비정상적인 메타데이터 값이 포함될 수 있습니다. AI 이미지 식별을 전문으로 하는 일부 도구와 알고리즘도 있습니다.
가장 현명한 선택은 AI를 적극적으로 수용해 AI 사진을 마주할 때 불이익을 당하지 않도록 하는 것이다.
현실과 가상의 경계가 점점 모호해지면서 사람들은 시각적 즐거움뿐만 아니라, 진정한 감성 소통을 추구하고 있습니다. 기술의 진보는 다른 사람을 오도하는 도구가 되기보다는 인간 본성의 필요에 부응해야 합니다.
AI가 인간의 지루함을 비난해서는 안 된다
인간의 삶은 이미 AI에 둘러싸여 있습니다.
AI가 시장에 들어오면 사람들은 자신과 아무 상관이 없다고 순진하게 생각할 수도 있다. 모두가 알고 있듯이, 우리가 받아들이든 받아들이지 않든 그것은 조용히 우리 삶에 스며들었습니다.
기술 발전의 역설은 우리는 항상 기술의 궁극적인 형태를 기대하지만, 기술이 성숙하기 전에 항상 누군가는 그 미성숙함과 단점을 감수해야 한다는 것입니다.
정보 차원으로 대표되는 제품을 보면 텍스트는 ChatGPT, 사진은 Flux, 오디오는 Fish Speech, 영상은 Runway 등이 있습니다. 이러한 스타 제품은 눈부시지만 학대의 도구이기도 합니다.
가장 대표적인 예가 AI로 인한 일련의 인터넷 오염 사건이다.
예를 들어, AI 기사가 인터넷에 넘쳐나고, AI 크롤러 훈련 데이터, AI 미인 사진이 감정을 속이고, AI 생성 음악이 로열티를 사취하고, AI 댓글 로봇이 이런 것들을 이전에 본 적이 있을 것입니다.
Fastly Threat Insights Report의 보고서에 따르면 전 세계 인터넷 트래픽의 36%가 로봇에 의해 생성되는 반면 트래픽의 64%만이 인간 사용자에 의해 생성되는 것으로 나타났습니다.
우리는 인터넷에서의 인간 활동이 결국 봇과 AI 생성 콘텐츠로 대체된다는 "죽은 인터넷 이론"이 예측하는 미래에 접근하고 있을 수 있습니다.
몇 년 안에 AI 블로거들이 자신만의 작품을 만들고, AI 로봇이 '원클릭 세 번'을 하고 이를 다른 AI에게 전달해 폐쇄 루프를 이루게 되면서 인간은 완전히 감각을 잃는 상황이 올 수도 있다. 존재의.
몇 년을 기다리지 않아도 일부 AI 블로거들은 이미 뛰어들고 있습니다.
최근 세계 최초의 AI 미인 대회가 막을 내렸습니다. 모로코의 AI 미인 Reili가 그녀의 아름다움과 7개 국어 실력으로 우승을 차지했습니다. 그녀는 IG에서 수십만 명의 실제 팬을 보유하고 있습니다.
뒤에 실제 인물이 있다는 것을 알면서도 팬들은 여전히 이를 끝없이 따라간다.
AI와 사랑에 빠지는 것은 더 이상 이상한 일이 아닙니다. 정서적 요구는 실제적이며 심리적 투사 대상이 인간인지 AI인지는 중요하지 않습니다. 물론 52세 삼촌과 24세 AI 여자친구의 나이 차이는 더 이상 문제가 되지 않는다.
그렇다면 인간은 AI에 완전히 포위될 준비가 되어 있습니까?
대답은 사람마다 다릅니다. 어떤 사람은 '누워 있기'를 선택하고, 어떤 사람은 경계를 늦추지 않고, 어떤 사람은 저항하기 위해 일어섭니다…
예를 들어 AI 미녀 사진을 본 후 '납작하게 눕기'를 선택한 네티즌들은 "AI든 아니든 어차피 내 타입이다"라는 가장 간단한 댓글을 남겼다.
또 다른 예로, 영화 '당신은 어떤 삶을 살고 싶나요'의 제작자들은 미야자키의 순전히 손으로 그린 창작 과정을 공개한 적이 있습니다. AI의 '침략'을 받은 애니메이션 업계에서 미야자키 하야오처럼 여전히 손그림을 고집하는 대가는 이미 희귀종이다.
AI가 가하는 위협에 대해 83세의 애니메이션 대가는 화를 내며 이렇게 말했습니다.
결코 AI가 내 일을 방해하도록 두지 않을 것이다… 세상의 종말이 다가오고 있고 인간은 스스로에 대한 자신감을 잃었다.
도구 자체는 선하지도 악하지도 않지만 인간의 탓으로 돌릴 때가 많습니다.
인간이 교통 패권의 소란 속에서 평정을 유지할 수 없고, AI에 완전히 둘러싸여 '자기 제거'까지 할 때 AI가 더 열심히 일할 필요는 전혀 없습니다.
처음에 언급한 리틀 레드 북(Little Red Book) 사건을 생각해보세요. 똑같은 사진 포즈와 조립 라인 같은 촬영 배경으로 인간은 이런 평범함을 모방하려고 애쓰다가 결국 자신의 개성을 제 손으로 묻습니다.
그리고 AI는 이 유사한 인기 모델을 편리하고 효율적으로 복사했습니다.
요컨대 AI가 인간을 무대에서 밀어낸 것이 아니라, 인간이 작별인사도 하지 않고 자발적으로 자신의 자리를 포기했다는 것이다.
# Aifaner: Aifaner(WeChat ID: ifanr)의 공식 WeChat 공개 계정을 팔로우하신 것을 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo