올해 노벨 화학·물리학상은 인공지능 분야의 두 인물에게 돌아갔습니다. 한 사람은 딥마인드의 창시자인 데미스 허사비스이고, 다른 한 사람은 AI의 대부인 제프리 힌튼입니다.
수상보다 더 흥미로운 것은 우승 비하인드 스토리입니다. 딥마인드가 그저 잘 알려지지 않은 작은 회사였을 때, 이 대부를 두고 감히 바이두, 마이크로소프트, 구글 3대 거대 기업과 경쟁을 펼쳤지만, 결과는 분명 경쟁이었습니다. . 하지만.
우리는 주요 언론 보도와 실리콘 밸리의 역사를 검색하여 Hinton에 대한 더 흥미로운 퀴즈를 발견했습니다. 이 캐릭터는 물리학보다 훨씬 더 흥미롭다고 말하고 싶습니다.
실제로 물리학자는 아닙니다.
이제는 모두가 이것을 알고 있다 
물리학상 수상자 중 한 명인 John Hopfield는 실제로 물리학 출신입니다. 하지만 그는 현재 프린스턴의 분자생물학 교수입니다.
Geoffery Hinton은 잘 알려진 "인공지능의 대부"입니다. 그의 신경망 연구는 인공지능의 토대를 마련했습니다.
사실 그들의 연구는 물리학과 관련이 있습니다. Hopfield는 이미지와 기타 유형의 패턴을 데이터에 저장하고 재구성할 수 있는 연관 메모리를 만들었습니다. 이 이론의 기초는 물리학의 스핀 시스템입니다.
Geoffrey Hinton이 발명한 볼츠만 머신은 통계 물리학에서 영감을 얻어 패턴 인식을 위한 확률 모델을 도입했습니다. 이론적으로 훈련 알고리즘과 동적 원리는 단순한 물리적 프로세스와 유사합니다. Boltzmann 기계는 Hopfield 네트워크와 밀접한 관련이 있습니다.
그러나 물리학상을 받은 것은 두 사람 모두에게 놀라운 일이었고, Hinton은 자신이 후보에 오르리라고는 생각조차 하지 못했습니다. 그는 노벨상 위원회가 자신과 홉필드의 연구에서 물리학이 가져온 영감을 볼 수 있게 되어 매우 기뻤습니다. 하지만 최근 LLM을 기반으로 한 인공지능 연구는 물리학과 별로 관련이 없어 수상이 매우 놀랍다.
한때 쓰레기, 이제는 대부
Hinton은 초기에 물리학을 시도했지만 관련된 복잡한 수학 때문에 직접적으로 낙담했습니다. 나중에 기계 학습 학기를 들을 때에도 그는 종종 수학적 계산을 건너뛰고 인수를 직접 살펴보곤 했습니다.
그가 Yann LeCun의 논문을 감독할 때까지 그는 프랑스어를 전혀 이해하지 못했기 때문에 그 반대의 일만 할 수 있었습니다. 토론을 건너뛰고 수학만 봤습니다. 논문 심사 과정에서 힌튼은 영어로 질문했고, 르쿤은 프랑스어로 대답했다. 이는 신경망에 대한 그들의 공유된 믿음에 기초한 것이라고 LeCun은 말했습니다. 그리고 채팅하는 동안 그는 Hinton이 자신의 문장을 마무리하는 것처럼 느꼈습니다.
영국 건식 유머의 대가
힌튼의 연설 영상을 본 사람이라면 누구나 그의 영국식 건조 유머에 깊은 인상을 받을 것이다. Aapo Hyvärinen이라는 연구원은 학술 논문을 출판할 때 감사의 말 칼럼에 다음과 같이 썼습니다.
이 논문의 기본 아이디어는 Geoffrey Hinton과의 논의에서 나왔지만 논문에 너무 많은 수학 방정식이 포함되어 있었기 때문에 그는 공동 저자가 되는 것을 꺼렸습니다.
Sam Altman이라는 사람을 멀리하세요.
인공지능의 대부로 알려져 있지만 힌튼은 인공지능의 잠재적인 위험성에 대해 경고하는데 노력을 아끼지 않았다. 이날 오후 토론토 대학이 주최한 온라인 언론 컨퍼런스에서 그는 노벨상 조직위원회와 함께 일해준 멘토, 동료, 학생들에게 감사 인사를 전하며 “특히 자랑스럽다. 샘 알트먼을 해고한 내 반 친구들.
AP 통신 기자는 샘 알트먼이 왜 그렇게 평가받았는지 묻자 OpenAI의 원래 의도는 일반적인 인공지능을 개발하고 그것이 안전하다는 것을 보장하는 것이라고 말했습니다. 그러나 시간이 지날수록 샘 알트먼은 점차 안전보다 이익을 먼저 생각하게 되면서 “안타까운 일이라고 생각한다”고 말했다.
바이두는 힌튼의 '가방회사' 우승에 한발 더 다가섰다.
Hinton은 두 가지 "기업가적" 경험을 가지고 있습니다. 물론 엄밀히 말하면 기업가 정신이라기보다는 자신과 학생들의 연구 결과를 업계에 소개하는 것과 비슷합니다.
2009년 그의 학생들이 음성인식 분야에서 좋은 모델을 만들어 당시 휴대폰 업계에서 큰 인기를 끌던 회사인 블랙베리에 연락했다. 오랜 논의 끝에 블랙베리의 한 임원은 관심이 없다고 말했다.
나중에 Google은 이 음성 인식 모델을 확보하고 이를 제품으로 다듬어 Android 시스템에 내장했습니다. Hinton은 토론토 대학교 심포지엄에서 이 이야기를 나눴는데, 다른 초청 연사는 Li Feifei였습니다. “이런 일이 없었다면 우리는 지금도 BlackBerry를 볼 수 있었을 것입니다.”
2012년까지 Hinton과 그의 학생들은 신경망의 힘을 보여주는 논문을 발표했습니다. 힌튼에게 올리브 가지를 처음 제안한 사람은 중국의 바이두였다.
그러나 그의 학생들은 노동자로 일하는 것보다 그 자리에서 회사를 차리고 거인들이 그 회사를 사게 하는 것이 더 낫다고 제안했다. Hinton은 그것에 대해 생각했고, 말이 되었기 때문에 그냥 그렇게 했습니다. 예상외로 창립 이후 당시에는 아직 등장하지 않았던 바이두, 구글, 마이크로소프트, 딥마인드 등 4개의 거대 기업이 경매를 위해 경쟁했습니다.
전체 경매는 이메일로 진행되었는데, 바이두는 당시 상대적으로 약해 회사 주식으로만 경매에 참여할 수 있었던 딥마인드를 보냈기 때문에 빠르게 탈락했다. 나머지 3개 거대 기업은 계속해서 가격을 인상했고, 마이크로소프트는 2천만 달러에 한 번 철수했다. 2,200만 달러에서 Microsoft는 Hinton의 일시 중지 요청으로 인해 완전히 철수했습니다.
후반부 최종 입찰에서는 사실상 바이두의 입찰이 앞섰으나 결국 힌튼은 여전히 구글을 선호했다. 그는 지난해 은퇴할 때까지 10년 동안 구글에서 일했다.
서서 조사해 보세요
바다 횡단 비행이 너무 어려워서 결국 바이두를 선택하지 않았다는 소문이 있다. 힌튼은 심한 요추 디스크 질환을 앓고 있었는데, 너무 심해서 전혀 앉을 수 없을 정도였다. 심한 통증. 그는 모든 연설과 토론에 서서 필요하면 부드러운 방석을 들고 무릎을 꿇었습니다.
2009년에 마이크로소프트는 연구를 위해 워싱턴 외곽에 있는 실험을 방문하도록 Hinton을 초대했습니다. 여행은 매우 힘들었습니다. 저는 운전을 하거나 비행기를 탈 수도 없었고, 차 뒷좌석에 누워 있어야 했습니다. 그래서 그는 먼저 지하철을 타고 토론토의 버스 정류장에 가서 미리 줄을 섰다가 맨 마지막 줄의 빈 자리를 잡아 선두에 서서 내내 방해받지 않고 누워 자는 척을 했다.
그런 다음 그는 3일 동안 기차를 타고 시애틀까지 간 다음 택시 뒷좌석을 타고 워싱턴 호수를 건너 마이크로소프트에 도착했습니다.
여행이 너무 힘들다는 말을 들은 마이크로소프트는 그가 정상적으로 일할 수 있도록 미리 스탠딩 데스크를 주문했다.
냉혈한 동물 애호가
Hinton의 아버지는 유명한 곤충학자입니다. 어렸을 때 그는 개구리, 거북이, 도마뱀, 두꺼비를 포함하되 이에 국한되지 않는 온갖 종류의 이상한 동물을 자주 다루었습니다.
지금까지 그는 냉혈동물과 매우 친했습니다. 그는 섬에 휴가를 갈 때마다 죽은 잠자리를 찬장에 보관해 두었고, 심지어 뱀을 집에 데려와 기자들에게 만져보라고 하기도 했다.
우리 조상은 모두 과학자이다
Hinton은 과학계에서 태어났으며 현대 컴퓨터의 기초를 형성한 이진 추론 시스템 "부울 대수학"을 개발한 그의 증조부 George Boole로 가장 잘 알려져 있습니다. 실제로 그에게는 놀라운 과학적 업적을 이룬 조상이 많이 있습니다.
증조할머니 Mary Ellen Boole(나중에 성을 변경함)은 수학자였으며 역시 수학자였던 Charles Howard Hinton과 결혼했습니다. 그는 4차원 공간의 기본 이론인 4차원 정팔각형을 제안했습니다. 사촌인 조안 힌튼(Joan Hinton)은 맨해튼 프로젝트에 참여한 핵물리학자다. 이후 중국의 대미 고문인 어윈 엥스트(Erwin Engst)와 결혼해 중국에 정착했다. 그들의 자녀 중 한 명인 Fred Engst Yang Heping은 현재 베이징에 있는 대외경제경제대학의 교수로 재직하고 있습니다.
약간의 조사 끝에 나는 왕립 화학 연구소의 최초 여성 학자, 휴대용 엑스레이 기계를 발명한 의사 등 그의 조상 중에 과학자가 너무 많다는 것을 발견했습니다.
성공의 비결은? 재능 있는 학생을 찾아라
OpenAI의 전 수석 과학자이자 공동 창립자 중 한 명인 Ilya Sutskever는 Hinton의 학생이며 토론토 대학에서 학부 시절 자신의 방향을 결정했습니다. 그는 곧바로 힌튼의 사무실로 걸어가 문을 두드리며 딥러닝 연구실에 들어갈 수 있는지 물었다. Hinton은 채팅 약속을 잡자고 말했습니다.
Sutskever가 "좋아, 이제 어떡하지?"라고 말했습니다.
Hinton은 그에게 몇 가지 고전적인 서류를 주었고 일주일 후 Sutskever가 돌아와서 "이해가 안 돼요"라고 말했습니다.
"하나의 문제를 해결하기 위해 신경망을 훈련시키고, 다른 문제를 해결하기 위해 새로운 네트워크를 훈련시킵니다. 왜 하나의 네트워크를 사용하여 모든 문제를 해결하지 않겠습니까?"
힌튼은 20대 청년이 경험 이상의 연구 직관을 가지고 있다는 것을 깨닫고 그를 실험팀에 합류시키도록 초대했습니다.
"나는 항상 옳다"
Hinton은 10년 넘게 학계에서 활동하지 않았습니다. 그가 신경망을 연구 목표로 삼기로 결정했을 때 누구도 이 방향에 대해 낙관하지 않았고 유명하지 않을 것이라고 생각하지도 않았습니다. 그러나 몇 년 후 신경망이 명성을 얻었을 때 Hinton은 인터뷰에서 인기 없는 방향을 선택하게 된 이유에 대한 질문을 자주 받았습니다.
그는 그럴 때마다 “나는 내가 옳다고 믿는다”고 가볍게 대답했다.
그가 젊은이들에게 제안하는 것 중 하나는 다음과 같습니다. "모든 사람이 잘못하고 있다고 느끼는 곳으로 가십시오. 그런 다음 자신의 직감이 왜 잘못되었는지 알아낼 때까지 자신의 직감을 믿으십시오. 모든 사람이 똑같이 한다는 것을 느낄 때 이므로 다른 접근 방식을 선택하세요.
사실은 당신이 뛰어난 직관력을 갖고 있거나 그렇지 않거나 둘 중 하나입니다. 직관력이 좋다면, 그 직관을 듣고, 따르고, 그것이 왜 틀렸는지를 발견할 때까지 계속 노력하십시오. 직관력이 좋지 않다면 무엇을 하든 상관이 없으며 직관을 따르는 편이 나을 수도 있습니다. "
# aifaner 공식 WeChat 공개 계정: aifaner(WeChat ID: ifanr) 팔로우를 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo