안녕 거짓말쟁이, 나는 당신의 악몽입니다.
내 앞에 있는 친절한 할머니는 데이지라고 합니다. 실제 사람의 몸은 없지만 사기방지 AI 마스터입니다.
전통적인 사기 방지 선전과 달리 Daisy는 사기에 주의하도록 진지하게 상기시키지 않고, 출처에서 시작하여 사소한 주제에 대해 사기꾼과 대화를 나누며 사기꾼의 인내심을 지속적으로 약화시킵니다.
하늘에 파이는 없을 것이지만 사기꾼은 당신에게 미끼를 던질 것입니다.
데이지를 만든 원래 의도는 거짓말쟁이의 끈기를 이용하여 거짓말쟁이의 시간을 소비하고 후자가 미끼를 던질 가능성을 줄여서 다른 잠재적 피해자를 더 잘 보호하는 것입니다.
그 문장에 맞춰 진정한 사기 방지 승리는 사기꾼을 물리치는 것이 아니라 사기를 비경제적으로 만드는 것입니다.
사기를 예방하는 방법을 가르치는 것보다 거짓말쟁이의 시간을 낭비하는 것이 더 좋습니다
Daisy의 개발자는 영국 통신 회사인 O2 출신입니다.
Vodafone, EE, Three와 함께 O2는 영국 4대 통신 사업자 중 하나입니다. O2의 수치에 따르면 영국인의 67%가 사기 피해를 우려하고 있으며, 4명 중 1명은 매주 일정 수준의 사기를 경험하고 있는 것으로 나타났습니다.
사기꾼들로 인한 문제에 직면한 O2도 골치 아픈 일을 겪는다.
그래서 그들은 AI 할머니 데이지를 만들고 그것이 주도권을 갖고 최대 40분 동안 사기꾼과 통화하도록 하는 영리한 아이디어를 생각해 냈습니다.
이 방법은 다소 자기희생적이지만 매우 실용적입니다. 거짓말쟁이를 괴롭힌 후에는 거짓말쟁이가 다른 사람을 속일 시간이 없습니다.
데이지의 캐릭터는 실제 생활을 반영하는 친절한 노년층이기도 합니다.
공개된 데모에서 데이지는 거짓말쟁이와 전화통화를 하며 스웨터 뜨개질, 집에 있는 귀여운 고양이 이야기 등 자신의 취미생활을 생생하게 공유했다.
그것이 없으면 통화 시간이 길수록 좋습니다.
은행 카드 계좌번호/비밀번호 등 중요한 정보도 이 AI 할머니가 허공에서 꾸며내며, 한 문장, 한 문장 응답에 집중하고, 모든 것을 보충하지 않고, 눈을 뜨고 거짓말을 합니다. .
O2 사기 부서 책임자인 Murray Mackenzie는 데이지의 역할이 사기꾼들에 대한 판세를 완전히 뒤집는 것이라고 지적했습니다. “우리는 그들을 온라인 상태로 유지함으로써 그들의 '게임'에서 교묘하게 이기고 더 나은 성과를 거두었습니다. "
사실 데이지 이전에도 유사한 도구가 많이 탄생했습니다.
외신 가디언에 따르면 호주 맥쿼리대학교 연구팀도 통신사기꾼과의 '채팅'에 특화된 AI 로봇 '아페이트(Apate)'를 개발했다.
호주 경찰은 통신사기 전화를 식별해 차단하면 '피해자 로봇'으로 이송한다.
제작자 Kafaar는 Apate의 탄생 스토리를 공개한 적이 있습니다.
두 자녀와 함께 야외 소풍을 가던 중 그는 사기꾼에게 농담을 했습니다. 나중에 그는 이에 영감을 받아 어떻게 하면 사기꾼들의 시간을 의미 없는 험담으로 소비하여 더 많은 사람들을 속이는 것을 막을 수 있을지 고민하기 시작했습니다.
나는 이것이 사기꾼들을 속이고 시간을 낭비하여 다른 사람과 대화할 수 없도록 하는 것이 목적이라고 생각했습니다.
Apate는 또한 수백 가지의 서로 다른 정체성을 가지고 있습니다. 각각의 정체성은 다른 억양과 다른 성격을 가지고 있습니다. 일부는 무지한 척하고 일부는 노인처럼 말하고 일부는 성격이 더 다양합니다. . , 주로 사기꾼이 패턴을 인식하지 못하도록 하기 위한 것입니다.
간단히 말해서, 사기를 피하는 방법을 가르치는 것보다 거짓말쟁이의 시간을 낭비하는 것이 더 낫습니다.
기술은 발전하고 있으며 인간의 판단은 항상 최후의 방어선입니다.
AI의 급속한 발전은 데이지 탄생에 절호의 기회를 제공한다.
Daisy는 맞춤 학습된 LLM(대형 언어 모델)을 기반으로 구축되었으며 Google Gemini Live 또는 이전 버전의 ChatGPT Voice와 유사하게 작동합니다.
구체적인 원리는 AI가 발신자의 음성을 전사한 다음 AI 할머니가 미리 설정된 캐릭터 성격에 따라 답변의 스타일과 내용을 조정하고 최종적으로 이를 다시 AI 할머니의 음성으로 변환하는 것입니다.
- 음성을 텍스트로 녹음: 캡처한 사운드를 텍스트로 변환하는 프로세스를 "녹화"라고 합니다. 이렇게 하면 Daisy는 발신자가 말하는 내용을 이해하고 적절한 응답을 준비할 수 있습니다.
- 응답 생성: Daisy는 사용자 정의 LLM(대형 언어 모델)을 사용하여 응답을 생성합니다. 이 모델은 텍스트 정보를 이해할 뿐만 아니라 상황과 미리 설정된 캐릭터 성격 레이어를 기반으로 적절한 응답을 생성합니다.
- 특성 레이어: "특성 레이어"란 데이지가 응답을 생성할 때 미리 설정된 문자를 기반으로 답변의 스타일과 내용을 조정하여 할머니처럼 친절하고 인내심이 강한 등 캐릭터 설정과 더욱 일치하도록 하는 것을 의미합니다. .
- 텍스트 음성 변환: Daisy가 전화를 통해 발신자와 통신할 수 있도록 생성된 텍스트 응답을 다시 음성으로 변환해야 합니다. 이 프로세스를 '텍스트 음성 변환(TTS)'이라고 하며 Daisy는 맞춤형 AI 모델을 사용하여 이 단계를 완료합니다.
게다가 훈련 과정에서 데이지는 유튜브 블로거 짐 브라우닝(Jim Browning)의 도움도 받았다.
이 블로거는 YouTube에서 400만 명 이상의 팔로어를 보유하고 있으며 플랫폼에서 가장 영향력 있는 사기 방지 담당자 중 한 명입니다. 그의 동영상은 사기 기술을 보여줄 뿐만 아니라 자세한 기술 분석과 사례를 통해 전체 사기 산업이 어떻게 운영되는지 보여줍니다.
결국, 당신을 가장 잘 아는 사람들은 항상 당신의 적이며, 거짓말쟁이도 예외는 아닙니다.
Daisy에서 사기꾼과 대화하는 모든 과정은 음성 듣기, 텍스트 복사, 텍스트 음성 변환에 대한 응답 생성까지 실시간으로 이루어지기 때문에 눈에 띄는 지연이 거의 없습니다.
그러나 Daisy는 O2 사용자가 직접 사용할 수 없습니다.
그 이유는 간단합니다. O2는 사용자가 사기꾼에 대한 보복을 위해 이를 사용하는 것을 걱정하고 있으며, 내부 조사에 따르면 영국인의 71%가 자신이나 사랑하는 사람을 속인 사기꾼에 대한 복수를 생각한 것으로 나타났습니다.
외신 테크스팟에 따르면 이 AI 도구는 사기꾼들이 흔히 사용하는 속이기 쉬운 숫자 목록에 포함됐다. Daisy는 사람의 개입 없이 하루 24시간 발신자와 상호 작용합니다.
그런데 문제는 이제 사기꾼이 AI를 이해하지 못하는 사람과 AI를 이해하는 사람, 두 가지 유형이 있다는 것입니다.
얼마 전 스타트업 블랜드 AI(Bland AI)는 대형 모델의 지원을 통해 자사 제품이 세계에서 가장 빠른 대화형 AI가 될 것이며 '환상' 없이 소통할 수 있다고 X 플랫폼에서 발표한 바 있다.
또한 Bland AI 로봇은 매우 자연스러운 생성 음성과 다중 언어 전환 기능도 갖추고 있습니다.
블랜드 AI 로봇은 실제 인간 대화의 억양과 멈춤을 매우 잘 모방하는 데 더해 외신 WIRED가 실시한 기술 테스트에서 자신이 AI라는 사실을 부인하고 자신의 정체에 대해 거짓말을 할 수도 있습니다.
APPSO를 포함하여 AI 사용자 정의를 사용하여 비용이 전혀 들지 않지만 매우 실제적인 디지털 트윈을 생성했습니다.
AI 기술의 발전으로 이러한 도구는 사기꾼이 우리를 속이기 위해 쉽게 사용될 수 있습니다.
역설적인 점은 전화기의 한쪽 끝은 AI 거짓말쟁이에 연결되어 있고, 다른 쪽 끝은 AI 데이지에 연결되어 있다는 것입니다. 무한 루프. 예술을 아는 사람이라면 도교가 여기에 얼마나 심오한지 알 것입니다.
이전에는 스마트폰 시스템이 이미 상당히 정교했습니다.
귀하의 요구 사항을 서비스 제공업체에 전달하기만 하면 서비스 제공업체가 신속하게 관리 플랫폼을 구축할 수 있습니다. 간단한 인터페이스 조작을 통해 사용자는 음성 스킬, 템플릿, 통신 회선 등의 매개변수를 설정할 수 있으며 연락처 정보를 가져온 후 자동 발신 통화 기능을 시작할 수 있습니다.
이를 위해 국내 휴대폰 제조사들도 많은 노력을 기울여 왔다.
예를 들어, 대부분의 국내 휴대전화 시스템은 의사 기지국을 지능적으로 식별하고 차단하는 기능을 제공합니다. 또한, 통화 차단 설정에서 "모르는 번호의 온라인 식별" 기능을 켜면 시스템이 괴롭히는 전화를 보다 정확하게 식별하고 차단할 수 있습니다.
사기는 본질적으로 선별 게임이며 사기꾼은 999번 실패해도 상관하지 않고 한 번만 성공하면 됩니다.
속이면 모든 것이 0이됩니다.
사기 기술이 다양할 수 있는 것은 사실이지만 다음과 같은 공식 사기 방지 공식은 결코 시대에 뒤떨어지지 않습니다.
사람(낯선 사람) + 소통(다양한 소통 도구, 어차피 직접 만날 수 없음) + 요구(송금, 송금, 어차피 돈 얘기일 뿐) = 사기.
AI 시대에는 사기꾼과 사기 방지 기술이 모두 업그레이드되고 있으며 인간의 판단은 항상 최후의 방어선입니다.
# Aifaner: Aifaner(WeChat ID: ifanr)의 공식 WeChat 공개 계정을 팔로우하신 것을 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo