올해 노벨상은 AI가 맡는다
최근 발표된 노벨 화학상은 데이비드 베이커(David Baker), 존 M. 점퍼(John M. Jumper), 데미스 허사비스(Demis Hassabis)가 공동 수상했습니다. 성은 누구에게나 친숙할 것입니다. 바로 딥마인드(Deepmind)의 창립자입니다. 
얼마 전 Demis Hassabis는 DeepMind의 팟캐스트 채널에 게스트로 출연하여 Hannah Fry(영국수학회 산하 응용수학연구소의 신임 소장)를 만나 팀의 단백질 구조 연구에 대해 설명했을 뿐만 아니라, DeepMind의 작업, Gemini 및 AGI의 미래에 대한 깊이, 그리고 더 중요한 것은 기술이 더욱 강력해짐에 따라 더욱 균형을 이루는 방법입니다.
다음은 대화 내용을 편집한 내용을 발췌한 것입니다.
Hannah Fry: Google DeepMind에 오신 것을 환영합니다. 호스트는 Hannah Fry 교수입니다. 2017년에 처음 이 팟캐스트 제작을 고려하기 시작했을 때 DeepMind는 비교적 작은 규모의 AI 중심 연구실이었습니다. Google에 처음 인수되었을 때 그들은 런던에서 멀리 떨어진 곳에서 자체 프로젝트를 진행하고 있었습니다. 지난 분기에 Google은 AI 팀을 전략의 핵심에 배치하기 위해 전체 구조를 재구성했습니다.
데미스 하사비스: 아니요, 절대 아닙니다(웃음).
한나 프라이: 와주셔서 정말 감사드립니다. AI에 대한 대중의 관심이 폭발하는 지금, 당신의 일이 더 쉬워졌는지, 아니면 어려워졌는지 궁금합니다.
Demis Hassabis: 양날의 검이라고 생각합니다. 맞죠. 전체 현장에 너무 많은 조사와 관심, 그리고 꽤 많은 소음이 있기 때문에 확실히 더 어렵습니다. 사실 저는 사람이 적고 과학에 더 집중할 수 있는 때가 더 좋아요. 하지만 기술이 다양한 방식으로 세상에 영향을 미치고 사람들의 일상 생활에 긍정적인 방식으로 영향을 미칠 준비가 되었음을 보여주기 때문에 지금은 좋은 것이기도 합니다. 그래서 그것도 흥미로운 것 같아요.
Hannah Fry: AI가 대중의 관심을 얼마나 빨리 사로잡았는지 놀라셨나요? 하지만 당신도 그것을 예상했다고 생각합니다.
Demis Hassabis: 네, 정확히는 어느 시점이 될 것입니다(이미 예상했던 일이죠). 우리는 수년, 심지어 수십 년 동안 이 일을 해왔습니다. 그래서 언젠가는 모두가 AI의 중요성을 깨닫게 될 것이라고 생각합니다. 그러나 이 모든 것이 실제로 결실을 맺는 것을 보는 것은 여전히 매우 초현실적입니다. 결국 모든 사람이 언어를 사용하고 모든 사람이 언어를 이해할 수 있게 된 이후에는 이것이 챗봇과 언어 모델의 출현이라고 생각합니다. 따라서 이는 대중이 AI의 위치를 이해하고 판단할 수 있는 쉬운 방법입니다.
Hannah Fry: 이 챗봇이 "비합리적으로 유용하다"고 묘사했다고 들었습니다. 저는 그 점이 정말 마음에 들었습니다. 잠시 후에 변압기 기술에 대해 이야기하겠습니다. 제 생각에는 이러한 도구를 제공한 것이 바로 이 큰 혁신이었던 것 같습니다. 하지만 이제 먼저 묻고 싶습니다. "불합리하게 유용하다"는 것은 무엇을 의미합니까?
Demis Hassabis: 내 말은, 누군가가 5, 10년 전으로 돌아가서 뭔가를 하겠다고 말한다면, 그렇게 될 방식은 마치 건물을 짓는 것보다 놀라운 건축물을 만든 다음 거기에서 확장하는 것입니다. 어떤 개념 또는 추상화 – 이것은 우리가 5, 10년 전에 가졌던 논쟁입니다. 추상화하는 특별한 방법이 필요한가요? 뇌가 바로 그런 일을 하는 것 같기 때문이다.
그러나 시스템에 충분한 데이터(예를 들어 인터넷 전체)를 제공하면 시스템은 기계적으로 학습하고 일반화하는 것뿐만 아니라 실제로 어느 정도 자신이 다루고 있는 내용을 이해하는 것처럼 보입니다. 그리고 그것은 일종의 지각적으로, 다소 비합리적으로 작동합니다. 5년 전에는 누구도 그것이 작동할 것이라고 상상하지 못했을 것입니다.
Hannah Fry: 네, 개념적 이해와 추상화 같은 건 (설계되는 것보다) 그냥 자연스럽게 일어나는 거죠.
Demis Hassabis: 예, 우리는 이전에 실제 경험, 아마도 시뮬레이션 환경, 어쩌면 구현된 지능형 로봇에서 언어를 기반으로 하는 개념 및 기반과 같은 것에 대해 이야기했습니다. 이는 우리 주변 세계를 실제로 이해하는 데 정말 중요합니다. 세상이 필요합니다. 물론 이러한 시스템은 아직 구현되지 않았습니다. 그들은 많은 실수를 저질렀고 실제로 세상에 대한 모델, 세상에 대한 좋은 모델이 없었습니다. 하지만 그들은 단지 언어를 배우는 것만으로도 사람들이 기대하는 것보다 더 많은 것을 배웠습니다.
한나 프라이: 아직 모르는 시청자들을 위해 근거가 무엇인지 설명해야 할 수도 있습니다. 왜냐하면 이것은 매우 중요한 개념이기 때문입니다.
Demis Hassabis: 물론 이것이 1980년대와 1990년대에 MIT와 같은 곳에서 고전적인 AI 연구 시스템이 확립된 이유입니다. 다른 단어와 연결된 거대한 데이터베이스라고 생각하면 됩니다. 문제는 데이터베이스에 "개는 다리가 있다"라고 말할 수 있지만 개 사진을 보여주면 픽셀 모음이 해당 문장을 가리키는지 알지 못한다는 것입니다. 이것이 접지공사가 직면하는 문제이다. 추상적인 상징 표현이 있지만 현실 세계, 즉 지저분한 현실 세계에서 그것이 실제로 무엇을 의미할까요? 우리는 그것을 알아내려고 노력하지만 결코 옳지 않습니다.
물론 데이터로부터 직접 학습하는 오늘날의 시스템에서는 그렇지 않습니다. 그래서 어떤 면에서 그들은 처음부터 이러한 연결을 형성하고 있었습니다. 하지만 흥미로운 점은 이론상으로 언어로만 학습한다면 필요한 기초가 많이 부족하다는 것입니다. 이 중 많은 부분을 추론할 수 있다는 것이 밝혀졌습니다.
Hannah Fry: 왜 이론적인가?
Demis Hassabis: 이 접지는 어디서 오는 걸까요? 적어도 최초의 대규모 언어 모델인 이러한 시스템은 이전에는 현실 세계에 실제로 존재하지 않았습니다. 그들은 에뮬레이터에 연결되어 있지 않고, 봇에도 연결되어 있지 않으며, 인터넷에도 접속할 수 없습니다. 그들은 또한 처음부터 복합적이지 않고, 시각적 능력이나 다른 것도 없고, 순전히 언어 공간, 추상 영역에서 살고 있기 때문에 그런 것으로부터 현실 세계에 대해 뭔가를 추론할 수 있다는 것이 다소 놀랍습니다.
Hannah Fry: 사람들이 시스템에 참여하고 상호작용하면서 "그건 말도 안되는 답변이군요.", "그건 좋은 답변입니다."라고 명확하게 말하면 인식이 제공될 수 있습니다.
Demis Hassabis: 정확합니다. 만약 잘못된다면 그 중 일부는 초기 버전의 기초가 부족했기 때문일 것입니다. 예를 들어, 개에게 짖는 방식을 물었을 때 개가 틀리게 대답했다면, 피드백을 주면 바로잡아 줄 것입니다. 피드백의 일부는 우리 자신의 지식에서 나오며, 이는 천천히 모델에 스며듭니다.
Hannah Fry: "영국 해협을 건너는 것"과 "영국 해협을 건너는 것"에 대한 정말 좋은 예를 본 기억이 납니다.
Demis Hassabis: 예, 그런 것입니다. 대답이 틀리면 틀렸다는 피드백을 주고 알아내야 합니다. 걸어서 채널을 건널 수는 없습니다.
Hannah Fry: 묻고 싶습니다. 지금 우리가 있는 단계가 과대평가된 상태인가요, 아니면 과소평가된 상태라고 생각하시나요? 아니면 잘못된 방향으로 과장되고 있는 걸까요?
데미스 하사비스: 저는 후자에 더 가깝다고 생각합니다. 단기적으로는 과대평가됐다고 말하고 싶습니다. 할 수 없는 일을 다 할 수 있다는 주장이 있고, 이를 쫓는 각종 스타트업과 벤처캐피탈이 있지만 아직 준비가 되어 있지 않습니다. 반면에 저는 그것이 여전히 저평가되어 있다고 생각합니다. 사람들이 AGI와 AGI 이후에 어떤 일이 일어날지 완전히 이해하지 못하는 것 같습니다. 그것은 정말 큰 일이 될 것이므로 그 책임도 이해하십시오. 그래서 둘 다 좀 과장된 표현이고 그런 사이클을 겪고 있는 것 같아요.
Hannah Fry: 이러한 모든 잠재적인 스타트업 및 벤처 캐피탈과 비교할 때 귀하(팀)는 수십 년 동안 AI 연구에 참여해 왔으며 어느 것이 현실적인 목표이고 어느 것이 그렇지 않은지 식별할 수 있는 좋은 위치에 있습니다. 하지만 다른 사람들에게는 무엇이 진짜이고 무엇이 아닌지를 어떻게 구별합니까?
Demis Hassabis: 당연히 기술적인 측면에서 실사를 해야 하고 기술과 최신 트렌드에 대해 어느 정도 이해해야 한다고 생각합니다. 나는 또한 말하는 사람, 그들의 배경이 무엇인지, 얼마나 기술적인지에 달려 있다고 생각합니다. 작년부터 AI에 관심을 갖기 시작했습니까? 작년 이전에는 암호화폐에 종사했습니까? 이것들은 몇 가지 단서가 될 수 있습니다.
어떤 장소가 갑자기 주목을 받고 돈이 생기면 모두가 자신이 놓칠 수 있다고 걱정합니다. 이는 수십 년 동안 매우 기술적이고 과학적인 방식으로 작업해 온 우리와는 다소 상반되는 기회주의적 환경을 조성합니다.
Hannah Fry: 네, 우리의 큰 주제 중 하나는 Gemini입니다. 이는 매우 심층적인 과학적 접근 방식에서 비롯됩니다. Gemini는 다른 연구소에서 출시한 다른 대규모 언어 모델과 어떤 점에서 다릅니까?
Demis Hassabis: 처음부터 우리는 Gemini가 다중 모드가 되기를 원했습니다. 언어뿐만 아니라 오디오, 비디오, 이미지, 코드 등 무엇이든 처리할 수 있습니다. 우리가 이 일을 하려는 이유는 우선 이러한 방식으로 이러한 시스템이 주변 세계를 진정으로 이해하고 세계에 대한 더 나은 모델을 구축할 수 있다고 생각하기 때문입니다. 이것은 실제로 우리가 방금 이야기한 주제로 돌아가는 것입니다. 우리는 여전히 기초를 구축하고 있지만 이번에는 언어에 관한 것입니다.
그리고 우리는 범용 비서를 마련하겠다는 비전을 갖고 Astra라는 프로토타입을 만들었습니다. Astra는 여러분이 입력하는 내용뿐만 아니라 여러분이 처한 환경도 이해하는 것에 대해 이야기하게 될 것입니다.
개인 비서나 디지털 비서가 더 많은 맥락을 이해할수록 제공할 수 있는 도움이 더 유용해질 것입니다. 우리는 항상 그런 시스템이 더 유용할 것이라고 생각했습니다. 그래서 우리는 처음부터 다중 모드를 구축했습니다. 그것이 본질적으로 다중 모드라는 것의 한 측면입니다. 당시에는 그렇게 할 수 있는 유일한 모델이었습니다. 이제 다른 모델들이 따라잡기 위해 노력하고 있습니다.
그리고 우리는 또한 메모리에 있어서 몇 가지 큰 혁신을 가지고 있습니다. 긴 맥락과 같이 이제 100만 또는 200만 개의 토큰을 기억할 수 있으며 대략 100만 또는 20만 단어를 기억하는 것과 비슷하다고 생각할 수 있습니다. 전쟁과 평화 같은 작품을 제공할 수도 있고, 심지어 다중 양식으로 인해 이제 전체 비디오, 전체 영화 또는 강의를 제공하고 질문에 답하거나 비디오 스트림에서 찾을 수 있습니다. 필요한 콘텐츠입니다.
Hannah Fry: 안경을 어디에 두었는지 기억하는 데 도움이 되는 Astra의 예를 들었던 기억이 납니다. 그런데 이러한 기술의 발전이 궁금합니다. 이것은 단지 기존 Google 안경의 고급 버전에 불과합니까?
Demis Hassabis: 물론 Google은 Glass와 유사한 기기를 개발해 온 오랜 역사를 가지고 있으며 실제로는 2012년경으로 거슬러 올라갑니다. 따라서 그들은 이 분야에서 훨씬 앞서 있지만 아마도 누락된 것은 Astra가 대표하는 이러한 종류의 기술입니다. 이 기술을 사용하면 자신이 보는 것을 이해하는 지능형 에이전트 또는 지능형 비서를 진정으로 이해할 수 있습니다. 우리는 귀하와 함께하고 주변 세계를 이해할 수 있는 디지털 비서에 대해 기대하고 있습니다. 사용해보면 정말 자연스러운 사용감이 느껴집니다.
Hannah Fry: 좋습니다. Gemini의 기원으로 조금 돌아가고 싶습니다. 두 부서에서 나왔습니다.
Demis Hassabis: 네, 실제로 작년에 Alphabet의 두 연구 부서를 합병했습니다. 즉, 원래 DeepMind와 Google Brain을 하나의 슈퍼 부서로 병합하여 회사와 Google 전체의 최고의 인재를 모두 모으고 모든 연구, 특히 언어 모델 측면에서 최고의 지식을 결합합니다. Palm 및 Lambda와 같은 초기 언어 모델을 구축한 Chinchilla 및 Gopher와 같은 프로젝트가 있는데, 각 모델에는 고유한 장점과 약점이 있습니다. 우리는 이들 모두를 모아 결합된 팀이 시작한 최초의 등대 프로젝트인 Gemini를 구성했습니다. 또 다른 중요한 점은 모든 컴퓨팅 리소스를 모아 대규모 교육을 수행하고 컴퓨팅 리소스를 중앙 집중화한다는 것입니다. 정말 좋은 것 같아요.
Hannah Fry: Google Brain과 DeepMind의 초점은 여러 면에서 서로 다르다고 생각합니다. 그렇죠?
데미스 하사비스: 그렇죠. 저는 둘 다 AI의 최첨단에 초점을 맞추고 있다고 생각합니다. 개별 연구원 수준에서는 이미 많은 협력이 이루어지고 있지만 전략적 수준에서는 그렇게 많지 않을 수도 있습니다. 이제 합병 후 나는 구글 딥마인드(Google DeepMind)를 구글의 '엔진룸'이라고 표현한다. 실제로 우리는 일하는 방식에 있어서 차이점보다 유사점이 더 많습니다. 우리는 기초 연구 분야에서 우리의 강점을 계속해서 유지하고 강화하고 있습니다. 예를 들어, 차세대 Transformer 아키텍처는 어디에서 나올까요? 우리는 그것을 발명하고 싶습니다. 분명히 Google Brain은 이전 세대 아키텍처를 발명했으며 이를 우리가 개척한 심층 강화 학습과 결합했습니다. 저는 여전히 미래에는 더 많은 혁신이 필요하다고 생각하며, 지난 10년 동안 그래왔듯이 우리도 그렇게 할 수 있다고 믿습니다. 이는 매우 흥미로운 일입니다.
Hannah Fry: 다시 Gemini 자체로 돌아가서, 다른 모델에 비해 얼마나 좋은가요?
Demis Hassabis: [기능을 설명하는] 몇 가지 벤치마크가 있다고 생각하지만 그게 문제가 아닙니다. 문제는 전체 분야에 더 나은 벤치마크가 필요하다는 것입니다. 몇몇 잘 알려진 학문적 벤치마크가 있지만 지금은 약간 포화되어 서로 다른 상위 모델 간의 미묘한 차이를 실제로 구별할 수 없습니다. 현재 가장 선두에 있는 세 가지 모델은 Gemini, OpenAI의 GPT, Anthropic의 Claude입니다. 물론 메타나 미스트랄 등 다른 회사에서 개발한 모델처럼 다양한 분야에서 나름의 강점을 갖고 있는 좋은 모델도 있습니다. 예를 들어 필요에 따라 Claude가 인코딩에 더 강할 수 있고, GPT가 추론에 더 강할 수 있으며, 메모리 처리, 긴 컨텍스트 및 다중 모드 이해 측면에서 Gemini가 될 수 있습니다. 물론 우리 모두는 지속적으로 모델을 개선하고 있습니다. 따라서 Gemini가 겨우 1살이라는 점을 고려하면 우리는 매우 좋은 궤도에 있다고 생각합니다. 다음에 우리가 이 주제에 관해 이야기할 때, 우리가 최전선에 있기를 바랍니다. 왜냐하면 우리가 그러하기 때문입니다.
Hannah Fry: 아직 갈 길이 먼 것 같습니다. 제 말은 이 모델들이 아직 잘 못하는 부분이 있다는 뜻입니다.
데미스 허사비스: 네, 물론이죠. 사실 그게 지금 큰 논쟁거리입니다. 따라서 이 마지막 세트는 5~6년 전에 발명된 기술에서 나타나는 것 같습니다. 문제는 아직도 많은 것들이 빠져 있다는 것입니다. 그래서 그들은 사실 우리가 환각이라고 알고 있는 것을 만들어냅니다. 그들은 또한 계획을 잘 세우지 못합니다.
Hannah Fry: 그들은 무슨 의미로 계획을 세우고 있는 걸까요? 내 말은.
Demis Hassabis: 네, 지금 논쟁이 벌어지고 있는 곳이 바로 여기입니다. 최근 일련의 개발은 실제로 5~6년 전에 발명된 기술을 기반으로 합니다. 그러나 문제는 아직 부족한 부분이 많다는 점이다. 예를 들어 사실적 정확성에 문제가 있으며 환각을 일으킬 수 있다는 것을 알고 있습니다. 게다가 그들은 계획을 잘 세우지도 못합니다.
Hannah Fry: "계획"이 정확히 무엇을 의미하나요?
Demis Hassabis: 예를 들어 장기 계획 측면에서 목표를 제시하면 아직 현실 세계에서 작업을 수행할 수 없습니다. 그래서 그들은 여전히 매우 수동적인 질문과 답변 시스템입니다. 질문을 해서 활성화해야 합니다. 그러면 그들은 일종의 응답을 주지만 실제로 문제를 해결할 수는 없습니다.
디지털 비서가 되기를 원한다면 '이탈리아로의 휴가를 예약하고 모든 레스토랑, 박물관 등을 예약해 주세요'라고 말하고 싶을 수도 있습니다. . 티켓 및 이러한 사항을 처리합니다. 그래서 현재는 그렇게 할 수 없습니다.
하지만 저는 이것이 다음 시대라고 생각합니다. 보다 에이전트적인 행동을 하는 시스템, 에이전트 시스템 또는 에이전트 역할을 할 수 있는 시스템이라고 부르는 시스템입니다. 이것이 바로 우리가 뛰어난 점입니다. 이것이 우리가 과거에 이야기했던 모든 게임 에이전트, AlphaGo 및 기타 프로젝트에서 수행한 작업입니다. 우리는 이러한 권위 있는 작품을 새로운 대규모 다중 모드 모델과 결합하고 있습니다. 저는 이것이 차세대 시스템이 갈 곳이라고 생각합니다. 알파고와 제미니를 합친 것이라고 생각하시면 됩니다.
Hannah Fry: 네, 제 생각엔 AlphaGo가 이미 아주 좋은 것 같아요.
Demis Hassabis: 네, 물론 게임 세계에서는 계획을 세우는 데 매우 능숙합니다. 그러므로 일상 업무, 언어 등 공통 영역에 통합해야 합니다.
Hannah Fry: 방금 Google DeepMind가 이제 Google의 엔진 룸이 되었다고 말씀하셨는데, 이는 꽤 큰 변화입니다. 제가 몇 년 전에도 물었습니다. Google이 꽤 큰 도박을 하고 있습니까?
데미스 허사비스: 네, 그런 것 같아요. 구글은 항상 AI의 중요성을 이해해 왔다고 생각합니다. Sundar는 CEO로 취임했을 때 Google이 AI 우선 기업이라고 말했습니다. 우리는 그의 임기 초기에 이 문제를 논의했습니다. 그는 AI가 모바일 인터넷 이후의 더 큰 변화의 잠재력이라고 보았습니다. 하지만 지난 1~2년 동안 우리는 연구 관점뿐만 아니라 제품 및 기타 측면에서도 그 철학을 실제로 실천하기 시작했다고 생각합니다. 매우 흥미롭고 모든 재능을 조화시키고 앞으로 나아갈 수 있도록 최선을 다하는 것이 올바른 선택이라고 생각합니다.
한나 프라이: 그 반대는 어때요? 왜냐하면 강력한 연구 역량을 갖춘 DeepMind의 관점에서 볼 때 이제 순수 과학 연구보다는 상업적인 이익에 더 관심을 기울여야 한다는 것이 Google의 '엔진룸'이 되었다는 의미일까요?
Demis Hassabis: 우리는 현재 책임 중 하나인 비즈니스 이익에 더 많은 관심을 기울여야 합니다. 그러나 몇 가지 이야기해야 할 사항이 있습니다.
우선, 우리는 최근 AlphaFold 3가 출시되는 등 과학적인 연구를 계속하고 있으며 이 분야에 대한 투자를 두 배로 늘리고 있습니다. 저는 이것이 Google DeepMind의 독특한 특징이라고 생각합니다. 경쟁사조차도 이를 AI가 가져온 "보편적 부"로 간주합니다. 이러한 분야에서는 진전이 매우 잘 진행되고 있습니다. 우리는 또한 약물 발견을 위해 Isomorphic을 확장했는데, 이는 모두 매우 흥미롭습니다. 우리는 이러한 노력을 계속해서 발전시켜 나갈 것입니다.
대형 모델, Gemini 등을 구축하는 것 외에도 이러한 놀라운 기술을 모두 Google의 다양한 플랫폼에 도입하기 위한 제품 팀도 구축하고 있습니다. 우리가 발명한 것이 수십억 명의 사람들에게 즉각적인 영향을 미칠 수 있다는 점에서 놀라운 특권이며, 이는 정말 동기를 부여합니다.
실제로 이제 제품에 사용할 AI 기술 개발과 순수 AGI 연구에 필요한 기술 간의 융합이 더욱 커졌습니다. 5년 전에는 제품을 위한 특별한 AI를 구축해야 할 수도 있었습니다. 아직 수행해야 할 제품별 작업이 일부 있지만 노력의 10%에 불과할 수도 있습니다. 그래서 이제 AI 제품 개발과 AGI 구축 사이의 긴장감이 사라졌으니 연구 계획의 90%는 동일하다고 할 수 있습니다.
물론, 마지막으로 제품을 출시하고 실제 사용하게 된다면 많은 것을 배울 수 있을 것입니다. 사용자 사용은 내부 판단과 정확히 일치하지 않는 부분이 많이 드러날 수 있으므로 연구를 업데이트하고 개선할 수 있어 매우 도움이 됩니다.
한나 프라이: 전적으로 동의합니다. 이 팟캐스트에서는 AI를 과학에 적용하여 이룩한 혁신에 대해 자세히 이야기합니다. 그런데 그 결과가 언제 대중에게 공개될 것인지 묻고 싶습니다. DeepMind 내에서 이러한 도구는 대규모 언어 모델과 마찬가지로 잠재적인 상용 제품으로 간주되기보다는 연구에 더 많이 사용됩니다.
데미스 하사비스: 네, 맞습니다. 우리는 2010년 초부터 항상 책임과 안전을 매우 중요하게 여겨 왔으며, Google의 윤리 헌장 중 일부를 AI 원칙에 채택했습니다. 따라서 우리는 이 분야의 리더 중 하나로서 Google과 긴밀한 협력 관계를 맺고 책임감 있게 기술을 배포하기 위해 최선을 다하고 있습니다.
이제 생성 AI를 사용해 제품을 시장에 출시하기 시작하는 것이 정말 흥미롭습니다. 우리는 빠르게 배우고 있는데, 기술이 아직 상대적으로 위험도가 낮은 단계에 있기 때문에 이는 좋은 일입니다. 기술이 강력해질수록 우리는 더욱 조심해야 합니다. 생성 AI 기술을 테스트하는 방법을 배우는 것은 제품 팀에 중요합니다. 이는 생성 AI가 항상 동일한 작업을 수행하지 않기 때문에 일반 기술 테스트와 다릅니다. 오픈 월드 게임을 테스트하는 것과 거의 비슷하며, 시도할 수 있는 것들은 거의 무한합니다. 따라서 레드팀 구성을 수행하는 방법이 매우 흥미로워집니다.
Hannah Fry: 이 경우, 레드팀이 당신들과 경쟁하고 있나요?
Demis Hassabis: 예, 레드팀은 스트레스 테스트를 수행하고 가능한 모든 방법으로 기술을 파괴하기 위해 개발팀과 독립적인 팀을 구성하는 것입니다. 현실적으로 수만 명의 사람들이 참여하더라도 여전히 수십억 명의 사용자가 실제로 사용하는 것과 비교할 수 없기 때문에 이러한 테스트를 자동화하는 도구가 필요합니다. 기술이 출시되면 사용자는 다양한 것을 시도하게 될 것입니다. 따라서 이러한 학습 내용을 프로세스 개선에 적용하여 향후 릴리스가 최대한 원활하게 진행될 수 있도록 하는 것은 즐거운 일이었습니다. 이전 게임 출시와 마찬가지로 실험 단계부터 시작하여 비공개 베타, 점진적인 출시까지 단계적으로 수행해야 합니다. 모든 단계를 배우십시오.
또한 우리는 AI 자체를 더 많이 활용하여 레드팀 테스트를 수행하고 일부 오류를 자동으로 발견하거나 예비 분류를 수행하여 개발자와 인간 테스터가 이러한 복잡한 상황을 처리하는 데 집중할 수 있도록 해야 합니다.
Hannah Fry: 정말 흥미로운 것 중 하나는 현재 여러분이 더욱 불확실한 공간에 있다는 것입니다. 어떤 일이 일어날 확률은 매우 적지만, 여러 번 시도하면 결국 뭔가 잘못될 것입니다. 나는 몇 가지 공개된 실수가 있었을 것이라고 생각합니다.
Demis Hassabis: 네, 그래서 제가 제품 팀이 이 테스트 접근 방식에 적응하고 있다고 언급한 것입니다. 이러한 시스템을 테스트했지만 본질적으로 무작위적이고 불확실했습니다. 그래서 많은 경우 일반 소프트웨어라면 99.99%의 경우를 테스트했다고 보면 이 정도면 충분하다고 추론할 수 있습니다. 그러나 모든 종류의 예상치 못한, 예상치 못한, 이전에 본 적이 없는 방식으로 반응할 수 있는 이러한 생성 시스템의 경우에는 그렇지 않습니다.
해커처럼 똑똑하거나 적대적인 사람이 한계를 테스트하고 밀어붙이기로 결정한 경우에는 이것이 어려울 수 있습니다. 생성 시스템의 임의성으로 인해 이전에 말한 모든 내용이 있더라도 특별한 상태에 있거나 메모리가 특정 정보로 가득 차서 출력이 비정상적일 수 있습니다. 따라서 이것은 많은 복잡성을 가지지만 무한하지는 않습니다. 이러한 상황을 처리할 수 있는 방법이 있지만 기존 기술 릴리스보다 훨씬 더 복잡하고 미묘합니다.
Hannah Fry: 우리가 완전히 이해하고 있는 결정론적 컴퓨팅부터 좀 더 복잡하고, 확률적이며 오류가 많은 컴퓨팅 방식에 이르기까지, 이것을 완전히 다른 컴퓨팅 방식으로 생각해야 한다고 말씀하신 것을 기억합니다. 대중이 우리가 수행하는 컴퓨팅 유형에 대해 생각을 조금 조정할 필요가 있다고 생각하시나요?
데미스 하사비스: 그런 것 같아요. 어쩌면 무언가를 출시하기 전에 시스템의 기대치가 무엇인지, 설계 목적이 무엇인지, 적용 가능한 시나리오가 무엇인지, 완료할 수 없는 작업이 무엇인지 명확히 하기 위해 기본 문서 또는 이와 유사한 것을 게시하는 것을 고려할 수 있습니다. 많은 의미가 있습니다. 어떤 경우에는 이런 방식으로 사용할 수 있지만 작동하지 않을 수 있으므로 다른 방법을 시도하지 않도록 사용자를 교육해야 합니다. 저는 이것이 우리가 더 잘해야 할 영역이고 사용자가 더 많은 경험을 쌓아야 한다고 생각합니다. 사실 꽤 흥미롭습니다.
이것이 바로 챗봇이 갑자기 등장한 이유일 수 있습니다. ChatGPT도 OpenAI를 놀라게 했습니다. 우리는 자체 챗봇을 가지고 있으며 Google도 마찬가지입니다. 그것들을 보면서 나는 그것들이 여전히 많은 결점을 가지고 있고 여전히 오류, 환상, 그리고 다른 많은 문제들로 고통받고 있다는 것을 알아차렸습니다. 그러나 우리가 깨닫지 못한 것은 그럼에도 불구하고 문서 요약, 이메일 작성, 양식 작성 등과 같이 사람들이 매우 가치 있다고 생각하는 챗봇에 대한 매우 좋은 사용 사례가 여전히 많다는 것입니다. 이러한 사용 시나리오에서는 사소한 오류가 있더라도 쉽게 수정하고 많은 시간을 절약할 수 있으므로 사람들은 신경 쓰지 않습니다. 이러한 기술을 대중의 손에 맡길 때 사람들이 발견하는 놀라운 점은 이러한 시스템의 알려진 많은 결함에도 불구하고 여전히 가치 있는 사용 사례가 있다는 것입니다.
Hannah Fry: 제가 묻고 싶은 다음 질문은 오픈 소스에 관한 것입니다. 당신이 언급한 것처럼 기술이 대중의 손에 들어가면 정말 놀라운 일이 일어나기 때문입니다. DeepMind가 과거에 많은 연구 프로젝트를 오픈 소스로 제공했다는 것을 알고 있지만 시간이 지남에 따라 이것이 변한 것 같습니다.
Demis Hassabis: 우리는 항상 오픈 소스와 오픈 사이언스를 적극적으로 지지해 왔습니다. 아시다시피 우리는 Nature 및 Science 저널에 게재하는 Transformer 및 AlphaGo와 같은 프로젝트를 포함하여 우리가 수행하는 거의 모든 연구 프로젝트를 오픈 소스로 공개하고 있습니다. AlphaFold는 지난 시간에 논의한 것처럼 오픈 소스이기도 합니다.
실제로 정보 공유는 기술과 과학이 빠르게 발전하는 방법이므로 우리는 거의 항상 그렇게 하는 것이 유익하다고 생각합니다. 이것이 과학이 발전하는 일반적인 방식입니다. 유일한 예외는 이중 용도 기술 문제에 직면한 강력한 AI 또는 AGI의 경우입니다.
따라서 문제는 모든 좋은 사용 사례와 선의의 과학자, 기술 전문가를 지원하고 그들이 이러한 아이디어를 구축하고 비평하도록 장려하는 것입니다. 이것이 사회가 발전하는 가장 빠른 길이다. 그러나 문제는 이러한 시스템을 바람직하지 않은 목적으로 사용하거나 오용하거나 무기 시스템으로 변환하는 등의 악의적인 행위자에 대한 접근을 동시에 제한하는 방법입니다.
이러한 일반 시스템은 실제로 이런 방식으로, 다른 방식으로 활용될 수 있습니다. 현재 시스템이 충분히 강력하지 않다고 생각하기 때문에 오늘 그렇게 해도 문제가 되지 않을 것입니다. 그러나 2~3년 후, 특히 자동화된 에이전트 시스템이나 에이전트 동작과 같이 되기 시작할 때 이러한 시스템이 일부 사람이나 심지어 일부 사기꾼에 의해 남용되면 심각한 해를 끼칠 수 있습니다. 그래서 저는 이것이 오픈소스에 어떤 의미인지 집단적으로 생각해 볼 필요가 있다고 생각합니다.
아마도 최첨단 모델은 오픈 소스로 공개되기 전에 출시 후 1~2년 정도 더 많은 검사가 필요할 것입니다. 이것은 우리가 현재 따르고 있는 모델입니다. Gemma와 같은 자체 오픈 소스 모델이 있기 때문에 더 작기 때문에 최첨단 모델이 아닙니다. 현재 단계에서는 해당 기능이 잘 이해되고 있지만 랩톱에서도 쉽게 실행할 수 있으므로 개발자에게는 여전히 매우 유용합니다. 요약하자면, 이러한 모델의 기능은 여전히 가치가 있지만 최신 최첨단 모델(예: Gemini 1.5 모델)만큼 강력하지는 않습니다. 따라서 우리는 아마도 오픈 소스 모델을 사용하는 이러한 접근 방식을 취하게 될 것입니다. 그러나 최신 모델보다 1년 정도 뒤처져 해당 모델의 성능을 실제로 평가할 수 있습니다. 개방된 환경에서.
Hannah Fry: 가장 최신의 최첨단 모델 기능은 실제로 한계를 뛰어 넘을 수 있습니다.
Demis Hassabis: 우리는 이러한 모델의 기능과 경계를 살펴볼 수 있습니다. 오픈소스의 문제점은 문제가 발생하면 되돌릴 수 없다는 것입니다. 독점 모델을 사용하면 악의적인 행위자가 악의적인 방법으로 사용하기 시작하면 액세스를 차단할 수 있습니다. 극단적인 경우에는 완전히 끌 수도 있습니다. 하지만 일단 소스를 공개하면 다시 되돌릴 수 없습니다. 이는 일방향 문이므로 오픈 소스를 사용할 때는 매우 주의해야 합니다.
Hannah Fry: 그렇다면 조직 내에서 AGI를 통제하는 것이 가능합니까?
Demis Hassabis: 아직 어떻게 해야 할지 모르겠어요. 특히 인간 수준과 유사한 AI인 AGI 수준의 강력한 인공지능의 경우에는 더욱 그렇습니다.
Hannah Fry: 귀하가 설명하는 이상적인 생태계에서 기관은 어디에 적합합니까? AGI가 모든 과학 연구를 지원하는 단계에 도달하면 전통적인 기관이 여전히 가치를 가질 수 있을까요?
Demis Hassabis: 제도는 여전히 중요하다고 생각합니다. AGI에 도달하기 전에 시민 사회, 학계, 정부 및 산업 연구소 간의 협력이 이루어져야 합니다. 나는 이것이 우리가 이 단계에 도달할 수 있는 유일한 방법이라고 진심으로 믿습니다.
Hannah Fry: 컴퓨터 과학자 Stuart Russell은 일단 AGI에 도달하면 우리 모두가 로그인할 필요가 없는 고대 왕자와 같은 상황이 발생할 수 있다는 점을 약간 우려한다고 말했습니다. 왕좌에 앉아 아무 일도 하지 말고, 목표도 없이 방탕한 사치를 누리며 살아라.
Demis Hassabis: 네, 흥미로운 질문이군요. 아마도 이것은 단순한 AGI가 아니라 인공 초지능(Artificial Superintelligence) 또는 다른 개념에 더 가깝습니다. 때로는 사람들이 이를 ASI(Artificial Superintelligence)라고 부릅니다. 이 경우, 우리는 자원이 공정하고 합리적으로 분배되는 한 우리가 선택하는 일에 더 많은 자유를 누릴 수 있는 근본적인 풍요의 상태를 경험할 수 있습니다.
그러면 의미는 큰 철학적 질문이 됩니다. 저는 이에 대해 생각하기 시작하려면 철학자, 심지어 신학자, 사회과학자도 필요하다고 생각합니다. 무엇이 의미를 가져오는가? 저는 아직도 자아실현이 중요하다고 생각해요. 우리 모두가 그냥 앉아서 명상을 하거나 컴퓨터 게임을 하지는 않을 것 같아요. 누가 알겠습니까? 하지만 정말 나쁜가요? 어쩌면 우리는 "좋은" 삶이 무엇인지 재정의해야 할 수도 있습니다.
Hannah Fry: 옛날 왕자님들은 기분이 나쁘지 않았을 거라 생각해요.
데미스 하사비스: 에베레스트 산 등반과 같은 익스트림 스포츠를 하는 사람들을 보면, 그들은 모두 인간의 한계에 도전하는 사람들입니다. 이러한 활동의 동기는 의미 추구 및 자기 실현과 관련이 있을 수 있습니다. 말씀하신 것처럼 이러한 문제는 아직 깊이 논의되지는 않았지만 우리 세계를 크게 변화시킬 것입니다.
가장 발전된 기술이 질병 치료, 에너지 문제 해결, 기후변화 대응 등 큰 변화를 가져왔지만, 우리는 여전히 '의미'라는 뿌리 깊은 문제에 직면해 있습니다. 이러한 의미 탐색은 기술적 수준뿐만 아니라 철학, 심리학, 심지어 문화적 수준에서도 이루어집니다. 미래의 기술 호황 속에서 인간의 존재와 행동이 어떻게 재정의될 것인지 생각해 볼 필요가 있다.
# aifaner 공식 WeChat 공개 계정: aifaner(WeChat ID: ifanr) 팔로우를 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo