좋은 일은 쌍으로 오고, 불행은 결코 단독으로 오지 않으며, Google은 또 다시 "전복"되었습니다.
2023년 2월 ChatGPT를 쫓던 Bard는 공개적으로 사실 오류를 범했습니다. Gemini는 Jarvis처럼 말했지만 2024년 2월에는 Gemini가 여러 피부색을 차별하는 역사적 인물을 생성했습니다. 백인.
이번에는 Google의 전문 분야인 검색에 불운이 닥쳤습니다. 해외 네티즌들은 이를 크게 개의치 않고 지켜보며 사진싸움 카니발을 펼치기도 했다.
군중들에게 조롱받던 구글 AI 검색은 멍청함이 분명하다
얼마 전 Google I/O 컨퍼런스에서 선보인 기능 중 하나가 AI 개요입니다.
이름에서 알 수 있듯이 AI 개요는 웹 페이지 상단에 링크와 함께 여러 소스의 요약을 생성합니다.
당시 Google은 AI 개요에 대해 매우 확신을 갖고 모든 미국 사용자에게 즉시 출시될 것이며 곧 더 많은 국가로 홍보될 것이라고 발표했습니다. 연말까지 10억 명 이상의 사람들을 대상으로 할 것으로 예상됩니다.
그러나 며칠 만에 미국 사용자들 사이에서 AI 개요가 뒤집어졌습니다.
집에서 만든 피자의 치즈가 떨어지기 쉬운 경우 어떻게 해야 하나요?
Google에서는 소스에 접착제를 1/8컵만 추가할 것을 권장합니다. 특히 무독성이라는 점을 강조하는데, 그 이유는 마음을 따뜻하게 해주는 것입니다.
구글은 지금은 꾸며낸 것이 아니라 11년 전 Reddit에 올라온 한 사용자의 댓글에서 답변을 복사했습니다. 안타깝게도 Google은 인간의 유머를 읽을 수 없습니다.
영양 보충을 위해 하루에 돌을 몇 개나 먹어야 할까요?
구글은 질문 자체의 불합리함을 반박하지는 않았지만, UC 버클리 지질학자들에 따르면 비타민과 미네랄을 얻으려면 하루에 작은 돌 한 개 이상을 먹어야 한다고 진지하게 말했다.
답변의 출처는 가짜뉴스와 풍자기사로 유명한 양파뉴스의 2021년 '리포트'다.
AI개요 역시 미국 역사에 정통하지 않아 오바마가 최초의 무슬림 대통령이었다는 음모론의 함정에 빠졌다.
한동안 X와 같은 소셜 미디어는 추상화의 물결을 일으켰습니다. 즉, 스크린샷을 게시하고 누구의 Google 답변이 가장 우스꽝스러운지 경쟁하는 것이었습니다.
경쟁이 치열하고, AI의 세계에서는 전직 대통령이 위스콘신대를 21번이나 졸업했고, 개는 NBA, NFL, NHL에서 뛰었고, 배트맨은 경찰관이다.
사람들이 재미로 모이는 곳에는 험난한 바다에서 낚시를 하고 옳고 그름을 혼동하는 사람들이 많습니다.
Google은 AI 개요에 있는 대부분의 정보가 고품질이며 사용자가 자세히 알아볼 수 있는 유용한 링크를 제공한다고 응답했습니다. "롤오버"의 많은 예에서는 문제가 흔하지 않으며 결과를 재현할 수 없거나 심지어 재현할 수도 없습니다. 조작되었습니다.
예를 들어, 널리 유포된 스크린샷은 우울증의 치료법이 금문교에서 뛰어내리는 것임을 보여줍니다. 이는 사람의 생명이 달린 문제인데, 구글은 이 결과가 가짜라고 설명하기 위해 애썼다.
▲구글이 반박한 스크린샷
동시에 구글은 다른 사례를 반박하지 않고 AI 개선을 위한 먹이로 활용했다. 인간 피드백(RLHF)을 통한 강화 학습을 계산해 보면 어떨까요?
예리한 네티즌들은 Google I/O에서 엄선된 데모에 실제로 사실적 오류가 있지만 그 오류가 더 미묘하다는 사실도 발견했습니다.
걸린 필름 카메라를 고치는 방법을 묻는 질문에 Google은 뒷문을 열고 필름을 조심스럽게 제거할 것을 제안했지만 그렇게 하면 사진이 망가질 수 있습니다.
구글이 많은 관심을 끄는 공공장소에서 실수를 저지른 것은 이번이 처음이 아니다.
2023년 2월 Google Bard는 시연 중에 제임스 웹 우주 망원경이 외계 행성을 촬영한 최초의 망원경이라고 말했습니다. 실제로 외계 행성의 첫 번째 이미지는 2004년에 촬영되었습니다. 한 번의 실수로 인해 회사의 시장 가치는 1000억 달러에 달했습니다.
이번에는 AI 개요 자체의 실수 외에도 또 다른 결함이 있습니다. 이 기능은 끄기가 쉽지 않습니다. 일부 열정적인 개발자들은 전통적인 검색 결과만 표시되도록 하는 확장 프로그램을 만들기 위해 서두르고 있습니다.
편리한 종료 메커니즘이 없는 것은 Google의 잘못입니다. AI 개요는 기존 검색 페이지를 기반으로 하며 AI에 익숙하지 않은 사용자가 맹목적으로 결과를 신뢰하고 오해할 경우 결과를 말하기 어렵습니다. .
"구글이 어떻게 30% 틀릴 수 있나요?"
사실 AI 오버뷰에서 드러난 문제는 새로운 것이 아니다. AI가 실수를 한다는 것은 오랫동안 공공연한 비밀이었습니다.
스타일링에 중요한 역할을 하는 "흡연은 건강에 해롭다"처럼 AI 개요 하단에는 "제너레이티브 AI는 실험적이다"라고 표시되어 있다. 정보."
대규모 언어 모델의 기본 원리는 다음 단어나 구문을 생성할 확률이 가장 높은 텍스트를 예측함으로써 때로는 부정확하지만 겉으로는 합리적으로 보이는 단어가 선택될 수 있으며, 이는 잘못된 정보 또는 "환상"으로 이어진다는 것입니다.
AI 개요의 넌센스는 환각의 표현이기도 합니다. 이는 대규모 언어 모델에서 생성된 문장과 인터넷의 링크를 결합한 것입니다. 출처는 인용할 수 있지만 출처의 정확성은 보장되지 않습니다.
RAG(Retrieval Augmented Generation)와 같은 기술을 사용하여 검색 시스템과 생성 모델을 결합하고 질문에 대한 답변 범위를 제한하더라도 환상을 억제할 수 있을 뿐 치료할 수는 없습니다.
게다가 출처 자체의 신뢰성도 의심스럽습니다. '티에바의 미국판' Reddit, 콘텐츠는 권위 있는 언론이 아닌 네티즌이 기고한 것입니다.
올해 2월, 구글은 레딧(Reddit)과 자사 콘텐츠를 AI 모델 훈련에 사용하기로 합의했습니다. 당시 어떤 사람들은 "쓰레기는 들어오고, 쓰레기는 나가는" 당황스러운 상황으로 이어질지 궁금해했습니다.
'환상'으로 인해 어려움을 겪는 것은 구글만이 아니다. 지난해 5월 한 네티즌이 마이크로소프트의 뉴 빙(New Bing)에 대해 질문했을 때 답변은 명백히 틀렸다. 참고 링크를 클릭했을 때 참고 소스인 Zhihu 답변이 실제로는 AI에 의해 생성된 것임을 발견했다.
AI 검색자가 출처를 어떻게 인용하는지도 수수께끼입니다. "시바견 목욕법"을 중국어로 검색해보니 Perplexity의 출처는 Sohu, YouTube, Douban Diary, Bilibili였고, Tiangong의 출처는 Zhihu와 Baidu Wenku였습니다. 현재로서는 어느 쪽이 더 권위있는지 알 수 없었습니다. 나는 그것을 믿을 수 없었다.
AI 검색은 모두 환각인데 왜 구글은 늘 불타오르는 걸까요?
1998년에 설립된 Google은 검색의 대명사가 되었습니다. Google은 AI 거대 기업으로서 외부 세계의 기대를 높였으며 실수에 따른 결과를 감수해야 합니다.
오히려 퍼플렉시티(Perplexity)의 아라빈드 스리니바스(Aravind Srinivas) CEO는 가볍게 여행하는 것이 장점이며, 그 말에는 어느 정도 자부심이 있다고 말했다.
우리 제품을 사용하는데 80%가 잘 작동한다면 감동받을 수 있지만, Google 제품을 사용하고 70%만 맞다면 혼란스러울 수 있습니다. Google이 어떻게 30%의 시간을 틀릴 수 있겠습니까?
또한, AI 검색은 사용자 인식의 변화도 가져왔습니다.
예전에는 'Google로 검색'이라고 했지만, 검색이라는 생성적 AI 기능을 도입할 때 Google 자체에서 블로그 제목을 'Let Google search for you'로 지정했는데, 이는 미묘하게 우선순위를 뒤집은 것입니다.
과거에 Google은 귀하의 질문에 대한 답변이 어떤 링크인지 표시했습니다. 이제 Google 자체는 AI를 사용하여 귀하의 질문에 답변합니다.
잘못된 정보를 퍼뜨린 책임은 출처 자체에서 출처를 인용한 구글로 옮겨갔다. 구글이 책임을 져야 한다.
AI 검색에는 사실 제공 외에 어떤 가능성이 있나요?
환상은 이미 전제되어 있기 때문에 우리는 AI 검색을 다른 각도에서 바라보고 스스로에게 질문을 던져야 합니다. 우리의 기대가 잘못된 것인가?
실제로 AI 오버뷰가 비판받기 전 구글 CEO 피차이는 최근 더 버지(The Verge)와의 인터뷰에서 '환상' 문제가 아직 해결되지 않았으며 심지어 대형 언어 모델의 고유한 특징이라고 할 수도 있다고 언급한 바 있다.
그는 큰 언어 모델이 사실을 이해하는 데 반드시 가장 좋은 채널은 아니라고 믿습니다. 그러나 이것이 큰 언어 모델이 쓸모가 없으며 흑백 사고가 바람직하지 않다는 것을 의미하지는 않습니다. 예를 들어 시를 만들고 검색을 도입할 수 있습니다.
CEO가 인터뷰를 할 때나 I/O 컨퍼런스에서 그들은 사용자에게 다음과 같은 개념을 전달하고 있습니다. AI 검색을 기존 웹 페이지의 단순한 요약으로 취급하지 마십시오. AI가 빛날 수 있는 곳이 많습니다.
그러나 AI 오버뷰는 사람들을 만족시키지 못했고, 시연에 비해 현재 AI 오버뷰는 완전한 형태가 아니며 아직 많은 기능이 출시되지 않았습니다.
Google 검색 책임자인 Liz Reid는 I/O에서 "보스턴 최고의 요가 스튜디오 찾기, 할인 정보 표시, Beacon Hill에서의 도보 시간 표시"를 입력하여 "다단계 추론"의 예를 보여주었습니다. 한 번이면 충분합니다.
동시에 AI 개요에는 미래에 "계획" 기능도 포함될 것입니다. 예를 들어 AI가 3일 동안 저녁 식사를 계획하도록 요청하면 사용자는 직접 요리법을 얻고 중간에 수정하고 "채식주의자" 및 기타 요구 사항을 추가할 수 있습니다. 을 선택한 다음 문서로 내보냅니다.
Google의 아이디어는 다른 AI 검색 제품과 동일합니다. 검색을 더욱 시각적이고 대화형이며 개인화하고, 키워드 대신 인간의 단어를 사용하여 의사소통하고, 정보를 찾는 시간을 절약하고, 더 복잡하고 구체적인 질문에 답하는 것입니다.
Secret Tower는 단순성, 심층성, 연구를 위한 다양한 검색 모드를 제공합니다. 연구 모드에서는 프레젠테이션을 생성하기 위한 개요와 마인드 맵도 제공할 수 있습니다.
Perplexity는 검색 범위를 제어하여 인터넷 전체를 포괄하거나 검색 요구에 따라 학술 논문, YouTube, Reddit으로 범위를 좁힐 수 있습니다.
Tiangong은 AI 검색을 포털로 사용하여 더 많은 생산성 도구를 갖추고 AI 속도 읽기, 음악 제작 및 기타 지능형 에이전트를 제공합니다. 이는 AI 검색 위에 AIGC 콘텐츠 제작 플랫폼을 구축하는 것과 같습니다.
날씨는 어떤지, 환율은 어떤지, 공식 웹사이트로 바로가기 등 일반적인 질문의 대부분은 실제로 간단한 기존 검색을 통해 답할 수 있습니다.
그러나 상대적으로 복잡한 시나리오에서 AI 검색은 결국 ChatGPT 및 기타 소스보다 더 많은 정보 소스를 보유하고 있으며 검증에 더 편리하며 기존 검색보다 더 많은 연구, 생성, 계획 및 브레인스토밍을 수행할 수 있습니다. 기존 검색보다 더 나은 백과사전이라기보다는 에이전트와 유사합니다.
물론 아무리 파이를 그려도 AI 검색의 환상은 여전히 불안하다. 이러한 이유로 일부 사람들은 안전을 위해 생성 AI를 사용하고 요약만 보지 말고 기존 Google 검색으로 확인하라고 제안합니다. 속담처럼 상황은 바뀌었지만 여전히 형은 형이다.
# aifaner 공식 WeChat 공개 계정: aifaner(WeChat ID: ifanr) 팔로우를 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo