새해와 새로운 분위기에서는 재물신과 좋은 관계를 유지하는 것 외에도 돈가방을 잘 보관하는 것도 중요합니다.
기술 구현 과정은 포르노 콘텐츠와 사기 행위의 진화 과정인 경우가 많습니다.
연휴 동안 남은 잔액을 활용하여 어르신들에게 새로운 AI 사기에 주의하도록 가르쳐서 '사랑하는 가족' 가족 집단의 '공동 번영'을 이룰 수 있습니다.
AI 블로거를 많이 잡는 것이 '가짜 진동'보다 사람을 속일 수 있다
《서유기》에서는 인간이 인간에게서 태어나고 악마가 악마에게서 태어난다고 하는데, 코드로 만들어낸 AI는 부모가 없지만 살과 피인 척 하여 오해하게 만들고 싶어한다. 인간.
최근 영상 계정에는 '러시아 미녀'가 많이 등장했다. 다들 피부가 하얗고 아름다워 중국어는 유창하지만 문장의 단편화와 발음이 이상하고 억양과 콧소리가 불분명하다. 물론, 그들의 외국인 신분을 고려하면, 억양이 있는 것이 당연할 것이다.
중국 문화에 열광하고 사랑하는 그들은 영상에 '중국의 러시아 소녀들', '중-러 우정'이라는 라벨을 붙이고 시청자들에게 소 힘줄 소시지, 큰 갈비, 염소 분유 등 '고향 특산품'을 가져왔습니다. 그리고 오이절임., 초콜릿, 수제비누.
찡그린 것 같으면서도 찡그린 게 아닌 눈썹, 기쁜 것 같으면서도 기쁘지 않은 눈을 가지고 있으며 물건을 운반하는 것 외에도 자신의 의견을 표현하기도 합니다. 진실.그들은 이곳의 번영을 한탄하며 그들의 부모와 자매와 결혼하고 싶어합니다.또한 발전했습니다.
그들은 오랫동안 헤어진 자매일지도 모릅니다. Yelena와 Elena는 똑같이 생겼고, 그들의 IP는 모두 산둥 출신입니다. 모이면 불덩이 같고 흩어지면 별이 가득한 하늘 같으며 전 세계에 퍼져있습니다. Lina는 상하이 출신, Nina는 안후이 출신, Irene은 허베이 출신, Katya는 랴오닝 출신, Alyssa는 복건성 출신.
이 러시아 미녀는 모두 AI이며 플랫폼은 이들을 신중하게 표시했습니다. 과장되게 흐릿한 배경, 빗지 않은 머리카락, 반복되는 표정과 동작, 지나치게 현실적인 선을 통해 그 차이를 알 수 있다.
하지만 댓글창에 있던 중장년층은 이를 보지 못하고 진심으로 머물기를 바랐고, 이에 '러시안 미녀'들은 오로지 임무에만 관심을 갖고 조용히 소프트 사기를 완수했다.
나이와 상관없이 아름다움에 매료되는 것은 인간의 본성입니다. Xiaohongshu의 AI 미남 블로거는 유행하고 인터넷에 친숙한 캐릭터를 사용하여 남녀노소 모두를 죽입니다. "슈트를 입은 엘리트 남자", "흰 양말을 신은 운동선수", "순수한 욕망의 여신"… 얼핏 보면 그냥 P급을 통과한 실존 인물인 줄 알았어요.
현재로서는 손을 보는 것이 AI인지 여부를 식별할 수 있는 유일한 방법입니다. 얼굴은 상대적으로 평평하고 배우기 쉬운 반면, 손은 3차원 구조로 되어 있어 노동 집약적이기 때문입니다. 말할 필요도 없이 손가락의 개수가 과도하고, 관절이 너무 조심스럽게 뒤틀려 있어서 꼭 필요한 경우가 아니면 손을 보여주지 않는 것이 매우 의심스럽습니다. 마찬가지로 근육, 팔다리, 의복 등과 같은 세부 사항에도 명백한 결함이 있을 수 있습니다.
나머지 식별 방법은 점점 더 형이상학적이고 직관적이 되고 있습니다. 그림 스타일이 기름지고, 카피라이팅이 흐리고, 호흡이 없고, 빛과 그림자 효과가 부자연스럽고, 눈에 생명이 없고, 얼굴이 너무 그렇습니다. 섬세하고 완벽해요 정적인 사진만 있고 영상은 없어요 싱글 사진 한 장만 봐서는 확신하기 어렵지만, 사진 몇 장을 더 보면 모든 자세가 똑같은 표정을 하고 있다는 걸 알 수 있어요…
Xiaohongshu AI 블로거 @cyberAngel_은 직업이 소프트웨어 엔지니어이고 AI 페인팅은 전기를 생산하는 취미입니다. 그는 자신이 AI를 사용한다는 사실을 숨기지 않습니다. 그의 게시물 제목에는 "AI 페인팅"이라고 적혀 있으며 그의 계정 프로필도 다음과 같습니다. "저는 그냥 감정이 없는 로봇이에요."
▲ 사진출처: 小红书@cyberAngel_
동시에 @cyberAngel_은 미래의 AI 그림이 진실과 거짓을 구별하기가 점점 더 어려워질 것이라고 믿습니다. AI 생성과 AI 감지는 서로 진화합니다. 제작자는 AI가 실제 사람과 같지 않은 부분을 더 잘 인식하므로 작업할 것입니다. 예를 들어 AI가 제작한 아름다운 소녀는 너무 완벽하기 때문에 적절하게 흐리게 처리하여 '영화 느낌'을 더할 수 있습니다.
AI 뷰티 블로거가 그다지 현실적이지 않음에도 불구하고 '러시안 뷰티'와 유사한 음모가 등장했다. 해당 플랫폼은 "AI 생성 정보가 포함된 것으로 의심된다"는 점을 분명히 지적했다. 댓글란에 댓글 달고 옷 링크까지 요구하는 등 진실과 거짓의 문제는 필연적으로 정의로서의 아름다움에 자리를 내줄 것 같습니다.
팬 수가 늘어나면 AI 뷰티 블로거는 다양한 방법으로 수익을 창출할 수 있습니다. 일부는 자립하여 광고를 통해 트래픽으로 수익을 창출합니다. 일부는 지식에 대한 비용을 지불하고 강좌를 판매하며 맞춤형 모델을 판매합니다. @cyberAngel_에 따르면 "뉴미디어 새로운 미디어 수익화 방법이 있고, 기술에는 기술 수익화 방법이 있습니다.”
▲실제 모델.
AI '러시아 미녀'와 '잘생긴 블로거'는 이전에 중·장년 여성들의 감정과 돈을 속인 '가짜 진동'과 다소 유사하지만, 더욱 무섭고 상상력이 풍부하다.
'가짜 진동'은 기술적 내용이 없습니다. 연예인과 관련된 영상, 사진을 다운로드 받거나 패키지로 구매합니다. 다정한 목소리는 음성 변환 소프트웨어를 사용하여 위조됩니다. 얼핏 보면 가짜라고 보일 정도로 거칠습니다. AI 레벨이 더 높을 때도 있고, 실제일 때도 있어 구별이 쉽지 않습니다.
우리가 인터넷에서 잘생긴 남자와 아름다운 여자를 볼 때 그들이 실제 사람이라고 가정하지도 않고 너무 진지하지도 않는 것이 가장 좋다고 말할 수 있습니다.인터넷 유명 회사는 실제 KOL에 돈을 쓰고 싶어하지 않으며, 청중은 KOL을 더 빨리 소비하고 아름다움과 저렴함에 대한 견해는 인터넷 통신 법칙과 일치합니다.
AI가 당신의 얼굴을 흉내내고 당신의 마음을 놀라게 한다
AI는 '잘생긴 블로거', '러시아 미녀'를 통해 폭넓은 그물을 던지는 것 외에도 정확하게 타겟팅할 수 있습니다.
즉, AI는 온화한 시골을 엮을 수 있을 뿐만 아니라 PUA 마스터로 변신할 수도 있습니다.
AI 사기의 일반적인 유형은 사기꾼이 발신자 번호와 지인의 음성을 위조하여 전화를 받은 중장년층에게 손주들이 곤경에 처해 있다고 말하는 것입니다. 문제를 해결하지 않으면 위험에 처해 있습니다. 몸값으로 구출하세요.
해외에서도 이와 같은 전화사기 사례가 여러 차례 보고됐는데, 납치, 부상, 음주운전, 추돌사고 등 음모가 유사하다… 유학생들이 부모를 속이는 행위.
루틴 자체는 새로운 것이 아니며 몇 년 동안 인기를 끌었지만 기술 발전으로 인해 컴퓨팅 성능, 샘플 및 기타 측면에 대한 요구 사항이 줄어들고 효과가 더 현실적이며 사기 구현이 더 쉽습니다.
AI 음성 복제 분야의 선두주자인 ElevenLabs는 1달러 1분의 고품질 오디오만 있으면 자신만의 억양, 억양, 리듬을 유지하면서 29개 언어와 다양한 음색을 즉시 마스터할 수 있습니다.
현재의 일레븐랩스는 본인만이 본인의 목소리를 복제할 수 있다는 점을 거듭 보장해 왔고, 그 목소리가 본인의 것임을 증명하는 검증 과정도 있지만 이는 최후의 수단입니다. Taylor Swift와 같은 사람들은 이미 어디든 날아다니고 있었습니다. . AI Taylor Swift가 말하는 것을 나는 결정할 수 없습니다.
그러나 상대방이 발신자 ID와 음성을 위조할 수 있다고 하더라도 당사자가 정신이 맑아서 전화를 끊고 휴대폰 번호를 다시 입력하여 솔선하여 친척에게 연락을 하게 된다면 거짓말은 자기 자신이 되는 경우가 많습니다 -패배.
음성통화에 비해 영상통화는 '보는 것이 곧 믿는 것'이라고 믿는 중·장년층의 삶에 대한 회의감을 더욱 불러일으킬 수 있다.
화면 반대편에 있는 사람이 사람인지 개인지 모른다는 오래된 농담은 결코 유행을 타지 않으며 기술적으로 달성하기 어렵지 않습니다. 보다 일반적인 작업은 가상 카메라 소프트웨어와 AI 얼굴 변경 기능을 통해 상대방과 채팅하는 것입니다.
공안 기관에 기술 지원을 제공하는 CCTV와 인터뷰한 선전의 한 기술 회사는 화상 채팅에서 실시간 얼굴 변경을 수행할 때 아바타이든 친구 서클 사진이든 이미지를 업로드한 후 특징 인식이 약 30초 정도 지나면 AI가 빌드를 시작합니다. 모델링이 완료된 후 실시간으로 모델이 변환됩니다.
일대일 영상은 아직 조심스러우시겠지만, 일대다 '전문팀'은 어떤가요?
최근 한 다국적 기업 홍콩지사가 AI로 인해 2500만달러(약 250억원)의 사기를 당한 사건이 발생했다. 피해자는 금융계 직원으로 영국 본사 'CFO'로부터 이메일을 받고 '비밀거래'가 포함된 화상회의에 초대받았다. 친숙한 "동료"”.
회의에 참여한 동료들은 실제 참석하지 않았으며, 사기꾼은 공개된 영상을 다운로드 받아 딥페이크를 통해 실제 사람의 얼굴과 목소리를 위조한 뒤 이를 화상회의에 적용했다. 비밀이 노출되는 것을 피하기 위해 'CFO'는 일방적으로 지시를 내렸고, '동료'들은 피해자와 연락을 하지 않았고, 영상은 빠르게 끊겼으며, 사기꾼은 이메일 등을 통해 피해자에게 계속 연락을 취했다.
▲ 경찰은 딥페이크를 이용해 다자간 화상회의를 위조하는 방법을 시연했다.
이 문제에 대한 조사 결과가 나오고 있지만 일부 네티즌들은 단순히 내부자일 뿐이라는 의혹을 제기하고 있다. 다국적 기업의 리스크 관리 및 통제 방안은 알려지지 않았지만, 확실한 것은 AI의 얼굴 변경이 포르노 영화의 초기 머리 변경부터 생방송 방에서 상품을 가져오는 가짜 연예인까지 다양한 곳으로 확장될 수 있다는 것입니다.
다행스럽게도 AI는 아직 완벽하지 않으며 식별 방법은 여전히 간단하고 실행 가능합니다.
AI를 통해 얼굴이 바뀌는 영상이라면 카메라 원본 사진이 여러 레이어를 변환할 때 컴퓨팅 파워를 많이 소모하고, 사운드와 사진이 지연되는 경우가 많다. 또한, 상대방에게 입을 벌리고, 머리를 크게 흔들고, 손가락을 얼굴 앞에서 앞뒤로 움직이는 등의 일부 동작을 하도록 안내할 수 있습니다. AI가 얼굴을 바꾸면 "얼굴"이 바뀔 수도 있습니다. 변형되고 결함이 있습니다.
기술적인 버그를 뚫는 것 외에도 매번 시도하고 테스트한 또 다른 트릭이 있습니다. 그것은 당신이 알고, 나도 알고, 그 사람은 모르는 개인 정보 보호 관련 질문을 하거나, 당신이 거짓말을 하고 고의로 거짓말을 할 수 있는 것입니다. 트릭을 사용하여 상대방이 어떻게 반응하는지 확인하십시오.
물론 기술의 부족은 일시적인 어려움을 해결할 수 있을 뿐 전략적으로는 경멸하고 전술적으로는 주의를 기울이는 편이 나을 것이다. .
AI 사기는 새로운 것이 아니지만 새로운 디지털 격차가 나타났습니다.
2023년은 제너레이티브 AI 원년으로 알려져 있지만 기술의 진흥은 뒤처져 있다. 아마도 대부분의 보통 사람들이 더 잘 인식할 수 있는 것은 새롭지 않은 것처럼 보이지만 최근 몇 년간 대중화되고 있는 기술이 일상 생활에 어떤 영향을 미쳤는가일 것이다. .
기술이 양날의 검이라는 것은 누구나 알고 있는 사실입니다. Elevenlabs는 언어 장벽이 있는 사람들이 말할 수 있게 하고, HeyGen은 Swift가 번역 없이 중국어를 립싱크할 수 있게 하며, Miaoya Camera는 집을 떠나지 않고도 세련된 자격증을 취득할 수 있게 해줍니다. 기술의 밝은 면과 어두운 면 사이에는 옳고 그름이 없으며 단지 객관적으로 존재할 뿐입니다.
하지만 많은 중장년층에게 스마트폰과 인터넷이 이해가 안 되는 상황이 많아 이제는 AI가 또다시 문제를 일으키고 있다.
AI시대에는 문자, 소리, 사진, 영상이 가짜일 수도 있고 심지어 복합적으로 나타날 수도 있는데, 사기꾼이 위조한 신원은 더욱 구체적이고, 사기 행위는 더욱 표적화되고 진실성이 높아 중·노년층이 사람들은 속을 가능성이 더 높습니다.
마법으로 싸우고 기술로 기술을 공격하고 방어하는 것은 중장년층이 빨리 소화하지 못할 수도 있는 쫓고 쫓기는 게임이다. – 속이는 노인들.
기술이 아무리 발전해도 많은 사기 수법은 그대로 남아 있습니다. 사생활을 훔치고, 두려움, 탐욕, 감정적 가치를 이용해 이야기를 꾸며내거나, 아는 사람인 척하거나, 신뢰를 얻기 위해 자신을 포장하는 등 돈을 최종 목표로 삼고 있습니다.
AI 패션 교황이 업계에서 나온 후, 1300만 명에 가까운 팬을 보유한 X(구 트위터) 뷔는 “교황님의 다운 재킷이 진짜인 줄 알고 별 생각 없이 살았다. 기술의 미래."
중년과 노년층의 경우, 보는 것이 반드시 진실이 아니며, 사진이 반드시 진실이 아니라는 규칙에 적응하는 것이 더 어렵습니다. 우리는 그들에게 간단하고 전통적이지만 여전히 효과적인 방법을 보여줄 수 있습니다.
그 중 하나는 조심하고 인터넷의 내용을 쉽게 믿지 않는 것, 괴롭히는 전화에 응답하지 않는 것, 낯선 링크를 클릭하지 않는 것, 얼굴, 음성, 지문 등 개인 생체 정보를 과도하게 노출하지 않도록 노력하는 것입니다. 인터넷.
특히 의심스러운 전화나 문자 메시지를 받았을 때 '일방적인 말'을 맹신하지 마세요. 상대방이 누구이든 돈에 관해서는 다양한 관점을 갖고 있습니다. 다양한 방법을 활용해 상대방의 사실을 확인하세요. 상대방이 가족에게 무슨 일이 생겼다고 하면 다시 전화해서 사실인지 확인하세요.
다른 유형은 적극적이고 준비된 유형으로, 중노년층은 자신이 선호하는 미디어가 있고, 가족 구성원은 정부 부처의 위챗 공식 계정 및 기타 소스에서 사기 방지 콘텐츠를 전달할 수 있습니다. 조건이 허락한다면 중년 및 노년층에게 ChatGPT와 같은 AI 도구를 사용하는 방법을 보여줄 수도 있습니다.
물론, 스마트폰을 이해하지 못하는 어르신들께서는 원천적으로 문제를 해결하도록 노력하시고, 은행카드는 위챗이나 알리페이로 묶지 말고 소액의 잔돈만 저축하시는 것이 가장 좋습니다.
AI 사기의 성공은 최종 결과일 뿐이지만, AI 사기 예방은 언제든지 시작할 수 있습니다.
기술은 모든 사람에게 봉사하고, 앞장서고, 우리를 뒤따르는 사람들을 위해 디지털 세계의 등대를 밝히고, 미지의 수중 암초를 탐험해야만 기술을 두려워하지 않고 합리적으로 사용하는 미래를 향해 함께 나아갈 수 있습니다.
# Aifaner: Aifaner(WeChat ID: ifanr)의 공식 WeChat 공개 계정을 팔로우하신 것을 환영합니다. 더 흥미로운 콘텐츠를 최대한 빨리 제공해 드리겠습니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo