Google AI 개요는 몇 주 전 Google I/O 에서 발표되었으며 이미 논란의 여지가 있는 것으로 입증되었습니다. 웹에서 요약된 귀하의 질문에 대한 고품질 답변을 제공하는 것이 목표이지만 최근 X(이전의 Twitter) 스레드 시리즈는 그것이 얼마나 큰 실패인지 이미 입증되었습니다.
입소문이 난 반응에는 매우 모호한 피자 레시피가 포함되어 있습니다. 보고된 바와 같이, 구글에 "치즈가 피자에 달라붙지 않는 문제"에 대한 답변을 요청하면 AI 개요에서는 치즈가 미끄러지는 것을 방지하기 위해 피자에 무독성 접착제를 추가할 것을 제안합니다. AI 개요에서 제공한 정확한 단어는 다음과 같습니다. "소스에 무독성 접착제를 1/8컵 정도 추가하면 끈적함을 더 높일 수도 있습니다." Google AI 개요는 어디서 정보를 소스로 얻었나요? 이 스레드의 11년 된 Reddit 댓글은 분명히 농담이었습니다.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 2024년 5월 22일
'피자에 치즈가 달라붙지 않는다'는 말이 의외의 재미난 반응을 불러일으켰고, 인터넷은 이에 열광하고 있다. Google AI 개요 응답은 이후 입소문을 타며 일부는 요점을 강조하기 위해 글루 피자를 시도하기도 했습니다 .
Reddit에서 엄청난 증가세를 보였으며 포럼 게시물이 Google 검색에서 더 높게 나타나는 것을 확인해야 합니다. Reddit이 최근 Google이 Reddit 콘텐츠에 대해 모델을 훈련할 수 있도록 6천만 달러 규모의 계약을 체결했다는 점도 주목할 가치가 있습니다. 어떻게 이런 일이 일어났는지 점을 연결하는 것은 어렵지 않습니다.
하지만 Reddit만이 아닙니다. 또 다른 AI 개요는 The Onion에서 직접 정보를 가져온 "매일 얼마나 많은 돌을 먹어야 하는가"에 대한 답변과 함께 온라인에 게시되었습니다 .
그녀의 pic.twitter.com/FGbvO923gk
— 팀 양파(@oneunderscore__) 2024년 5월 23일
문제의 일부는 AI 개요가 답변을 제공한다는 절대적인 확신입니다. Onion 기사에 대한 링크를 표시하지 않으며 귀하가 판결을 내릴 수 있도록 합니다. 대신, 모든 소스를 Wikipedia처럼 취급하고 완전한 신뢰를 바탕으로 정보를 제공합니다.
Google은 자사의 AI 개요가 사용자에게 고품질 정보를 제공하며 이러한 오류는 흔하지 않다고 주장합니다. 다음은 Google이 Digital Trends에 제공한 공식 답변입니다. “대부분의 AI 개요는 웹에서 더 깊이 파고들 수 있는 링크와 함께 고품질 정보를 제공합니다. 우리가 본 많은 예는 일반적이지 않은 쿼리였으며 조작되었거나 재현할 수 없는 예도 보았습니다. 우리는 이 새로운 환경을 출시하기 전에 광범위한 테스트를 실시했으며 검색에서 출시한 다른 기능과 마찬가지로 피드백에 감사드립니다. 우리는 콘텐츠 정책에 따라 적절한 경우 신속한 조치를 취하고 이러한 사례를 사용하여 시스템을 더욱 광범위하게 개선하고 있으며 그 중 일부는 이미 출시되기 시작했습니다.”
이러한 AI 개요 중 일부는 재현할 수 없으면 수정하기 어려울 것 같습니다. "광범위한 개선"이 해결책이 되어야 하며, Google이 이미 작업 중이라고 밝혔으므로 곧 더 나은 검색을 볼 수 있기를 바랍니다. Google이 해당 진술을 넘어서는 상황에 대해 추가로 대응하는지 확인해야 합니다. 올해 초 Gemini의 이미지 생성에 대해 부정적인 피드백을 받은 후 Google은 사과하고 문제를 해결하기 위해 이를 철회해야 했습니다 .
하지만 현재로서는 이 두 가지 모두 AI 엔진을 신뢰하여 정보를 얻을 때 얼마나 조심해야 하는지를 상기시켜 주는 좋은 사례입니다. Google AI 개요는 이번 달 초 미국의 모든 사용자에게 출시되기 시작했으며 곧 더 많은 국가에서 출시될 예정입니다. 하지만 이와 같은 답변을 통해 Google이 예상했던 것보다 더 많은 사람들이 기능을 끄는 방법을 찾을 수 있습니다.