편집자 주: Sam Altman은 OpenAI의 비전을 자세히 설명하면서 모든 인류에게 유익하고 안전한 AGI(Artificial General Intelligence)를 개발하고 싶다고 주저 없이 밝혔습니다.
Microsoft의 자본 투입으로 많은 사람들은 OpenAI가 정말로 그것을 할 수 있을까?라는 의문을 품기 시작했습니다.
이 질문에 Sam Altman은 긍정적인 대답을 했습니다.
Bloomberg는 최근 우리 시대의 가장 중요한 창립자 중 한 명을 완전히 이해하기 위해 Sam Altman의 부상을 기록하는 4부작 팟캐스트 시리즈인 "Foundering: The OpenAI Story"를 제작했습니다.
오늘 우리는 이 팟캐스트 시리즈의 두 번째 에피소드를 번역하고 있습니다. 여기에는 다음이 포함됩니다.
AGI의 다면적 성격: AGI를 만들기 위해 총력을 기울이는 것은 OpenAI의 중요한 비전으로 간주됩니다. 이는 많은 글로벌 과제를 해결할 수 있지만, 통제할 수 없는 인공 지능과 심각한 사회적 영향을 포함하여 전례 없는 위험을 초래하기도 합니다.
OpenAI의 진화: 데이터 중심 혁신에서 신중한 모델 공유까지. OpenAI는 상업적인 요소 속에서 어떻게 "개방형"을 유지합니까?
OpenAI의 권력 투쟁: 더 큰 통제력을 원하는 Elon Musk의 열망은 일부 OpenAI 직원과 의견 차이를 불러일으켰습니다. Sam Altman의 리더십 하에 OpenAI는 비영리에서 영리로 전환했습니다.
팟캐스트 원본 링크:
저는 꿈, AI 구축에 대한 꿈부터 시작하고 싶습니다.
이 꿈은 인류가 우리보다 더 강력한 새로운 존재를 만들기 위해 협력하면서 수십 년 동안 상상되고 쓰여졌습니다. 일부 연구자들은 이 꿈이 곧 실현될 것이라고 믿습니다.
언젠가는 컴퓨터에 내장된 디지털 두뇌가 생물학적 두뇌만큼 또는 그보다 더 좋아질 것입니다. 컴퓨터는 우리보다 더 똑똑해질 것이다. 우리는 이것을 인공일반지능(AGI)이라고 부릅니다.
OpenAI의 공동 창립자 중 한 명인 Ilya Sutskever는 이렇게 말했습니다. 지난해 테드 토크에서 그는 인공지능의 미래에 대해 이야기할 때 종종 종교적 신비주의자처럼 행동했다.
그런데 지금 그는 인간처럼 생각하고 문제를 해결할 수 있는 인공지능의 일종인 AGI를 찾는 것에 대해서만 이야기하고 있다. 게임 플레이, 과학적 문제 해결, 아름다운 예술 창작, 자동차 운전 사이를 자유롭게 전환할 수 있습니다.
OpenAI의 목표는 AGI를 구축하는 것입니다. AI 세계에서 이 아이디어는 예전에는 매우 아방가르드했습니다. 적어도 예전에는 그랬습니다. Ilya는 AGI를 프로메테우스가 불을 가져오는 것처럼 거의 신비롭고 중대한 도약으로 엄청난 결과를 가져올 것이라고 설명합니다. 그것은 우리를 기술적인 영광으로 이끌지만 또한 혼란으로 이끌 것입니다. 다큐멘터리 '아이휴먼'에서 그는 앞으로의 변화에 대한 자신감을 드러냈다.
이제 AI의 출현은 대단한 일입니다. AI가 오늘날 우리가 직면한 모든 문제를 해결할 것이기 때문입니다. 이는 고용, 질병, 빈곤을 다룰 것입니다. 그러나 이는 또한 새로운 문제를 가져올 것입니다. 가짜 뉴스 문제는 더욱 심각해지고, 사이버 공격은 더욱 극심해지며, 우리는 완전히 자동화된 AI 무기를 갖게 될 것입니다.
Ilya는 OpenAI에 합류하기 전에 Google에서 근무한 뛰어난 AI 연구원입니다. 그는 인류에 대한 깊고 열정적인 애정을 가지고 있습니다. 그는 피아노를 연주하고 그림을 그릴 수 있습니다. 그의 그림 중 하나가 OpenAI 사무실에 걸려 있습니다. 회사 로고 모양의 꽃입니다.
동시에 그는 AI 연구에도 매우 집중하고 있습니다. 그는 한때 기자에게 이렇게 말했습니다. "나는 아주 단순한 삶을 살고 있습니다. 일하러 갔다가 집에 갑니다. 다른 일은 하지 않습니다. 가야 할 사회적 상황도 많고, 해야 할 활동도 많지만, 나는 그렇지 않습니다. 거기에 참여하지 마세요."
그는 AI의 궤적을 관찰하고 미래를 예측하는 데 많은 시간을 보냅니다. Ilya는 특히 AGI가 자신의 욕구와 목표를 가질지 걱정하고 있습니다. 이 환상은 그의 말에서들을 수 있습니다.
적극적으로 인간을 미워하고 해를 끼치려는 것이 아니라 너무 강력해질 것입니다. 좋은 비유는 인간이 동물을 대하는 방식이라고 생각합니다. 우리는 동물을 미워하지 않지만, 두 도시 사이에 고속도로를 건설해야 할 때 동물과 상의하지 않습니다. 지구 표면이 태양광 패널과 데이터 센터로 덮일 수 있다고 상상해 보세요.
여기서 잠시 멈추고 싶습니다. 이것은 우리가 일종의 새로운 존재를 창조하고 있다는 매우 강력하고 강력한 이미지를 제시합니다. 그것은 우리에게 관심을 가지지만 결국에는 우리가 사슴과 같이 있는 것처럼 무관심할 것입니다.
이번 녹음에서 가장 인상적이었던 것은 두려움이 아닌 경외감이었던 일리야의 음색이었다. Ilya는 목표를 달성하기 위해 우리를 뒤집을 수도 있는 AGI를 상상하는데, 이는 진정으로 이해하기 어려운 극적인 시나리오입니다. 초자연적이고 전능한 존재에 대한 이러한 개념은 매우 강한 종교적 의미를 담고 있습니다.
나는 이것이 모두 완전히 이론적인 것이며 아직 AGI와는 거리가 멀다는 점을 언급하고 싶습니다. OpenAI는 현재 인간을 확실하게 모방할 수 있는 모델을 개발하기 위해 최선을 다하고 있지만, 독립적으로 생각할 수 있는 AI와 모방 사이에는 여전히 큰 격차가 있습니다. 그래도 OpenAI는 그것을 하고 싶어하고, 최고가 되고 싶고, 최초가 되고 싶어합니다. 다음은 Sam Altman이 2023년 의회에서 증언할 때 말한 내용입니다.
나의 가장 큰 관심사는 우리가 세상에 미칠 엄청난 영향이다. 우리가 속한 분야, 기술, 산업 전체가 세상에 "심각한 해를 끼칠" 수 있습니다. 그것이 우리가 이 회사를 시작한 이유입니다. 나는 이 기술에 문제가 생기면 "끔찍하게 잘못"될 수 있다고 생각합니다.
여러분은 "Foundering"을 듣고 계시고 저는 여러분의 진행자 Ellen Hewitt입니다. 이번 에피소드에서는 OpenAI의 혼란스럽고 이상주의적인 초기 시절을 소개합니다.
중요한 만능 AGI를 구축하겠다는 꿈에 대해 논의합니다. 이것이 OpenAI가 빠르게 움직이고 있는 것이기 때문에 이 세대의 달을 향한 경주입니다. AI 기술이 어떻게 극적이고 빠르게 변화하고 있는지, 그리고 이러한 변화가 어떻게 AGI의 꿈을 그 어느 때보다 더 가까이 가져오고 있는지 논의해보겠습니다.
불과 몇 년 만에 비웃음을 사는 호기심 많은 아이디어에서 일부 전문가들이 몇 년 안에 달성할 수 있다고 믿는 이정표가 되었습니다. 샘 알트만은 2028년에 그런 일이 일어날 수도 있다고 제안하기도 했습니다. 또한 OpenAI가 이 꿈을 추구하기 위해 어떤 타협을 했는지 살펴보겠습니다.
처음에 회사는 연구 결과를 널리 공유하고 이익 동기에 의해 타락하지 않겠다고 약속했습니다. 하지만 그들의 기술이 발전하기 시작하고, 엄청난 힘을 얻을 수 있을 것처럼 보이자 그들은 유턴하게 되었습니다. 이 중요한 순간은 Sam Altman이 주도권을 잡으면서 OpenAI 내에서 권력 투쟁으로 바뀌었습니다.
2015년부터 시작해 보겠습니다. OpenAI는 현재 Elon Musk의 10억 달러 약속과 다른 기부자의 자금으로 설립되었습니다. 그것은 소규모의 신생 연구실이었습니다.
초기에는 Sam과 Elon이 자주 방문하지 않았습니다. 당시 샘은 실제로 아직 스타트업 액셀러레이터인 Y Combinator를 운영하고 있었지만 AI 분야의 사고 리더로 자리매김하기 시작했습니다. 특히 그는 AI 최후의 날 시나리오에 대해 이야기하고 있었습니다.
그는 2015년 블로그를 통해 초인적인 기계 지능의 발전이 인류의 지속적인 존재에 가장 큰 위협이 될 수 있다고 선언했습니다. 그는 또한 AI가 우주의 모든 인간을 파괴할 수 있다고 썼습니다. 같은 해 그는 기술 행사에서 OpenAI가 곧 설립될 것이라고 언급했습니다.
사실 저는 방금 AI 안전 연구를 수행하는 회사에 자금을 지원하기로 동의했습니다. 내 생각에는 AI가 아마도 세상의 종말을 가져올 것이라고 생각합니다. 하지만 그 동안에는 고급 머신러닝 기술을 사용하는 훌륭한 회사가 있을 것입니다.
저는 이 인용문에 대해 이야기하고 싶습니다. 그는 전문가로서 자신의 결론을 신뢰하라고 우리에게 요구하면서 AI가 우리 모두를 죽일 수 있다고 말합니다. 그러나 그는 돈을 버는 데 있어서도 "능숙"합니다.
OpenAI 초기에는 Sam과 Elon이 일상 업무에 자주 참여하지 않았습니다. 그들은 나가서 사람들과 이야기를 나누고, 인재를 모집하고, 기자들과 이야기를 나눕니다. 진행 상황 업데이트를 위해 일주일에 한 번 정도 방문합니다. 그 당시에는 Sam이 대화에 끼어들었다가 떠나곤 했습니다.
그는 나에게 매우 똑똑하고 예리하며 매우 효율적이라고 생각했습니다. 대화가 끝나면 끝입니다.
OpenAI에서 처음 2년 동안 근무한 연구원 Peter Abele입니다. 그는 초기에는 OpenAI가 전형적인 스타트업처럼 보였다고 말했습니다. 그들은 한동안 사무실도 없이 공동 창업자의 집에서 모임을 가졌습니다.
우리는 2015년 말과 2016년 초에 샌프란시스코 미션 지역에 있는 Greg Brockman의 아파트에서 일하기 시작했습니다. 우리는 기본적으로 소파, 부엌 조리대, 침대에 앉아 일을 합니다. 이렇게 거대한 프로젝트가 여기서 시작될 수 있다고 상상하는 것은 미친 짓입니다. 우리는 이전에 한 번도 해본 적이 없는 일을 성취하는 데 주력하는 세계 최고의 AI 연구원 20명을 보유하고 있습니다.
Sam과 Elon이 없을 때 주요 리더는 나중에 중요한 역할을 맡게 될 두 사람이었습니다. 연예인은 아니지만 앞으로 큰 역할을 하게 될 이들이다.
한 명은 아파트가 사무실로 사용되는 Greg이고, 다른 한 명은 에피소드 초반에 들었던 AI 과학자 Ilya입니다. Greg는 비즈니스 운영을 담당하는 워커홀릭, Ilya는 AI 천재라고 생각하시면 됩니다.
그들은 함께 OpenAI를 운영했고 Peter는 매주 Ilya와 함께 샌프란시스코 거리를 걸으며 큰 그림에 대해 이야기하고 스스로에게 질문했던 것을 기억할 것입니다. 우리가 올바른 문제를 해결하고 있습니까?
누구보다 먼저, 또렷하게 AI의 가능성을 간파한 것 같아요. 그는 다른 사람들보다 더 낙관적이었고 비유를 내놓았습니다. 예를 들어, 신경망은 단지 컴퓨터 프로그램이자 회로일 뿐이며, 우리는 이를 다른 방식으로 프로그래밍할 뿐입니다.
그 동안에도 그렉은 계속 열심히 일했습니다.
Greg는 자신의 일에 마음과 영혼을 쏟는 사람입니다. 그는 계속해서 일하고 일할 수 있었습니다. 이런 사람을 본 적이 있지만 극소수입니다.
OpenAI가 Greg의 아파트에서 이사한 후에도 Greg는 여전히 사무실에서 거의 살았습니다. 한 전직 직원은 아침에 출근할 때에도 여전히 책상에서 일하고 저녁에 퇴근할 때에도 여전히 키보드로 타이핑을 하고 있다고 말했습니다.
몇 년 후 그렉이 결혼했을 때, 그는 심지어 사무실에서 세속적인 결혼식도 거행했습니다. 커다란 꽃 배경 천으로 장식되어 있으며, 꽃 모양도 OpenAI 로고입니다. 반지는 로봇 손이 쥐고 있었고, 결혼식 주례자는 일리야였다.
Greg와 Ilya가 OpenAI에 합류했을 때 돈이 필요하지 않았습니다. Ilya는 회사를 Google에 매각했고 Greg는 Stripe를 많이 소유했으며 그 회사는 수백억 달러의 가치가 있었습니다.
실리콘 밸리에서 사람들이 스타트업을 시작하는 일반적인 이유는 수익성 있는 사업을 구축할 수 있다고 생각하기 때문입니다. 하지만 OpenAI는 비영리 조직입니다. Greg와 Ilya는 이 꿈에서 영감을 받았습니다.
OpenAI의 초기 기부자 중 한 명인 Reid Hoffman입니다.
초기 팀에는 지분 수익이 없습니다. 그들은 인류를 위해 그 일을 합니다.
OpenAI는 항상 “이것은 인류를 위한 것”이라고 말했습니다. 그들의 웹사이트에는 우리의 임무가 AGI가 모든 인류에게 이익이 되도록 보장하는 것이라고 명시되어 있습니다.
실리콘 밸리가 거대한 사명 선언문을 좋아하고 WeWork가 글로벌 인지도를 높이고 싶어한다는 것은 비밀이 아닙니다. 하지만 OpenAI의 사명 선언문은 이타주의를 함축하여 훨씬 더 웅장합니다.
Sam은 회사 업무에 대해 이야기할 때 잠재적인 재난에 대해 자주 언급합니다. 그는 ABC의 레베카 자비스(Rebecca Jarvis)와 이야기를 나누며 이 분야의 사고 리더로 자리매김하면서 다시금 진지한 목소리를 내고 있습니다. 그렇다면 최악의 결과는 무엇일까?
Sam Altman: 제가 특히 우려하는 점 중 하나는 이러한 모델이 대규모 허위 정보에 사용될 수 있다는 것입니다. 이제 컴퓨터 코드 작성 능력이 향상되었으므로 이러한 시스템이 공격적인 사이버 공격에 사용될 수 있다는 걱정이 됩니다.
레베카 자비스: 이제 기계를 조종하는 인간도 엄청난 힘을 갖게 되었다는 중요한 점을 지적하셨습니다.
Sam Altman: 우리는 권위주의 정부가 이 기술을 개발하는 것에 대해 매우 우려하고 있습니다.
레베카 자비스: 푸틴 대통령은 이 AI 경주에서 승리하는 사람이 기본적으로 인류를 통제하게 될 것이라고 말한 적이 있습니다. 이 말에 동의하시나요?
Sam Altman: 참으로 소름끼치는 발언이군요.
샘은 이것이 너무 가치가 있어서 세계 초강대국들이 그것을 놓고 싸울 것이라고 말했습니다. 회의론자들은 자신이 하고 있는 일이 중요한 것처럼 들리게 하면 더 많은 관심과 자금을 끌 수 있다고 믿습니다. 우리는 다음 에피소드에서 이 관점에 초점을 맞추겠습니다.
OpenAI 초기에는 인류를 구하려는 계획이 불분명했습니다. 그들의 전략은 약간 분산되어 있었습니다. Peter의 기억은 다음과 같습니다.
우리는 로봇 공학을 살펴보며 많은 경험을 쌓은 아날로그 로봇을 살펴보고 웹에서 다양한 작업을 수행할 수 있는 디지털 에이전트를 살펴보았습니다. 비행기 예약처럼요. 우리는 비디오 게임도 살펴보았습니다.
OpenAI는 첫 번째 목표 중 하나가 테이블을 차리고 치울 수 있는 로봇 집사를 만드는 것이라고 밝혔습니다. The Jetsons의 하녀처럼요.
이 회사는 또한 한 손으로 루빅스 큐브를 풀 수 있는 로봇 손을 만들었고, 큰 인기를 끌었던 멀티플레이어 온라인 게임인 도타 2를 플레이할 수 있는 로봇 개발에 많은 노력을 기울였습니다. 그들은 게임 환경의 복잡성으로 인해 AI가 현실 세계를 더 잘 탐색할 수 있다고 믿습니다.
봇을 테스트하는 사람은 다음과 같습니다.
이 로봇은 굉장해요, 제가 예상했던 것보다 훨씬 더 좋아요.
이러한 Dota 봇은 프로 선수들과도 경쟁합니다.
미리 준비하면 액션이 시작됩니다! 그래서 AI가 첫 번째 피 한 방울을 얻었는데…
Dota를 플레이할 수 있는 봇은 기술적으로 인상적이지만 일반 사람의 눈에는 그렇게 보이지 않으며 이러한 제품의 상업적 응용이 즉각적으로 눈에 띄지도 않습니다. 이전 직원의 의견은 다음과 같습니다.
우리는 무작위로 일을 하고 무슨 일이 일어나는지 지켜보고 있습니다. 때로는 만들어진 것과 상상한 것 사이에 큰 차이가 있는 것처럼 느껴질 때도 있습니다. 사람들은 낮에는 비디오 게임을 하도록 로봇을 프로그래밍하고, 점심 시간에는 테이블에 둘러 앉아 인류를 구하는 방법에 대해 이야기합니다.
AI 분야의 일반적인 견해는 강력한 것을 만들기 위해서는 때로는 사소한 것부터 시작해야 한다는 것입니다. 비디오 게임과 가정부 로봇은 자율주행차와 암 치료 AI의 길을 열어줄 것입니다.
OpenAI 내에서 그들은 때때로 자신들을 최초의 원자폭탄 제조를 담당한 팀인 맨해튼 프로젝트에 비유하며 그것이 좋은 일이고 야심차고 중요한 일이라고 생각합니다. 다른 전직 직원이 나에게 이렇게 말했습니다.
그것은 군비 경쟁이고, 그들은 모두 최초의 AGI를 만들고 싶어하며, 자신들이 그것을 가장 잘 할 수 있다고 생각합니다. AI 자체에 대한 두려움은 별로 없고, AI 구축에 대한 설렘만 보입니다.
2015년 AI는 오늘날과 매우 달라 보였고 훈련하기가 더 약하고 어려웠습니다. 당시 가장 획기적인 발전은 중국의 복잡한 전략 보드 게임인 바둑에서 로봇이 세계 최고의 플레이어를 이길 수 있었다는 것입니다. 하지만 그 AI는 바둑만 할 수 있고 다른 일은 할 수 없습니다.
저는 컴퓨터 과학 교수이자 전 AI 연구소 연구 책임자인 Oren Etzioni입니다.
이러한 시스템은 범위가 좁고 타겟이 매우 명확합니다. 바둑을 두는 시스템은 길을 건너거나 언어를 이해하는 것은 물론 체스도 할 수 없습니다. 그리고 항공권 가격 변동을 예측하고 항공권 가격의 상승 또는 하락을 매우 정확하게 예측할 수 있는 시스템은 텍스트를 처리할 수 없습니다. 따라서 기본적으로 새로운 애플리케이션이 있을 때마다 새로운 시스템을 교육해야 합니다. 시간이 오래 걸리고 주석이 달린 데이터가 많이 필요합니다.
그런데 AI 기술이 획기적인 발전을 이루었습니다. 2017년 Google Brain 연구진은 "Attention Is All You Need"라는 논문을 발표했습니다. 본 논문에서는 Transformer라는 새로운 AI 아키텍처를 설명합니다.
Transformer는 그 시대에 매우 중요한 일을 했습니다. AI 시스템은 매우 구체적인 데이터를 입력해야 하며 각 데이터에는 라벨이 지정되어야 합니다. 이것은 스팸이 아니라 암입니다.
그러나 Transformer를 사용하면 AI가 레이블이 지정되지 않은 지저분한 데이터를 수신할 수 있습니다. 실제로 더 적은 컴퓨팅 성능을 사용하여 예상보다 더 효율적으로 이 작업을 수행할 수 있습니다.
이제 이러한 Transformer 기반 모델은 스스로 학습할 수 있습니다. 그것은 마치 아이에게 읽기를 가르치고 싶을 때 예전에는 교사를 고용해 그곳에 앉아서 플래시 카드를 사용해야 했지만 이제는 아이가 스스로 도서관에 가도록 놔두면 아이가 알아서 나올 것이라는 것과 비슷합니다. 읽고 쓰는 방법.
한 투자자가 나에게 설명했듯이 최고의 AI는 가장 전문적인 훈련 기술에서 나오는 것이 아니라 가장 많은 데이터를 보유한 훈련 기술에서 나온다는 것은 놀랍고 고통스러운 현실입니다.
OpenAI 초기 직원인 Peter는 Ilya가 즉시 그 잠재력을 확인했다고 말합니다.
Ilya는 이것이 우리가 주목해야 할 중요한 혁신이라고 확신하며 반응했습니다.
OpenAI 초기에도 Ilya는 AI의 주요 발전이 특정 조정이나 새로운 발명이 아니라 엔진에 점점 더 많은 연료를 쏟아 붓는 더 많은 데이터에서 비롯될 것이라고 항상 예감했습니다. 이제 Ilya는 그의 가설을 뒷받침하는 연구를 진행했습니다.
오렌은 다시 이렇게 말했습니다.
OpenAI의 Ilya는 데이터와 데이터 볼륨을 크게 확장하면 우리가 원하는 위치에 도달할 수 있다는 견해로 유명합니다. 이것은 일반적인 믿음이 아니며, 나를 포함하여 매우 똑똑하고 유명한 많은 사람들은 이것을 예상하지 못했습니다.
Ilya의 추진 덕분에 OpenAI는 Transformer를 실험하기 시작했습니다. 그들은 이 일을 한 최초의 회사 중 하나였습니다. 그들은 이제 친숙한 약어인 GPT로 사전 훈련된 Transformer를 생성하는 모델을 만들었습니다.
특히 텍스트를 처리할 때 Transformer의 성능을 실험하기 시작했을 때 더욱 그렇습니다. 기본적으로 모든 책, 신문 기사, Reddit 게시물, 블로그에 입력할 수 있기 때문입니다. 인간은 글을 쓰는 데 많은 시간을 소비하며 이제 해당 텍스트는 데이터 교육이라는 새로운 목적을 갖게 되었습니다.
인터넷은 AI를 훈련시키기 위해 만들어진 것이 아니지만 궁극적으로 그것은 AI의 유산일 수 있습니다. OpenAI의 모델은 하나의 지식 영역뿐만 아니라 텍스트 생성 능력도 점점 향상되고 있습니다.
GPT 시스템의 놀라운 점은 시스템이 매우 광범위하고 실제로는 제너럴리스트라는 것입니다. 거의 모든 주제에 대해 질문할 수 있으며 놀라울 정도로 좋은 답변을 제공할 것입니다. 왜냐하면 그들은 인간이 사용할 수 있는 전체 텍스트 모음, 수십억 개의 문장, 모든 문서, 메모, 상식, 당신이 읽은 해리포터 팬픽션 등 모든 것이 공장에 공급되도록 효과적으로 훈련받았기 때문입니다. 한번 읽어보면 매우 다재다능해집니다. 그래서 처음으로 우리는 좁은 도메인 AI부터 일반 또는 광범위한 AI에 이르기까지 어떤 질문이라도 할 수 있고 놀랍도록 지능적인 답변을 제공할 수 있는 시스템을 갖게 되었습니다.
OpenAI는 모델에 많은 양의 텍스트를 입력함으로써 설득력 있는 응답을 생성하는 데 훨씬 더 나은 AI를 만들 수 있음을 발견했습니다. 사실 어느 순간 너무 좋은 건 아닐까 하는 걱정도 생기기 시작했어요.
OpenAI의 언어 모델 GPT-2가 처음 등장했을 때 그들의 초기 결정은 위험할 수 있다는 우려 때문에 모델을 더 널리 공유하지 않는 것이었습니다. OpenAI를 떠나 자신의 회사를 시작한 Peter입니다. 하지만 그는 출시 당일의 장면을 기억합니다.
분명히 이 로봇은 이전에 훈련받은 어떤 것보다 언어를 훨씬 더 잘 이해합니다. 출시에는 좋은 마케팅이나 주의, 또는 둘 다가 많이 포함되었습니다. "공개하기에는 너무 위험하다"고 해서 OpenAI가 작업의 일부를 공개하지 않기로 결정한 첫 번째 프로젝트라고 생각합니다. 갑자기 우리가 생각하는 것은 "뭔가 너무 강력해서 사람들이 우리가 통제할 수 없는 방식으로 그것을 남용할 수 있다면 어떨까?"라는 생각이 듭니다.
OpenAI가 정말 강력한 제품을 갖게 되면 개방성을 재고하기 시작할 것입니다.
OpenAI라는 이름에서 Open은 실제로 모든 것이 오픈 소스이고 누구나 이를 기반으로 구축할 수 있음을 의미합니다.
"개방성"은 회사 브랜드의 핵심 구성 요소입니다. 출시 당시 Sam은 Steven Levy 기자에게 "오픈 소스가 될 것이며 누구나 사용할 수 있습니다."라고 말했습니다.
그는 또한 기자들에게 "그들의 AI는 전 세계가 자유롭게 소유하게 될 것입니다. 광범위하게 말하면 오픈 소스 소프트웨어는 소스 코드가 공개되어 누구나 코드를 조정하고 스스로 배포할 수 있음을 의미합니다."라고 말했습니다. 그러나 회사는 곧 점차 철수하기 시작했습니다. 이러한 약속.
분명히, 시간이 지나면서 이것은 완전히 오픈 소스가 아니거나 전혀 오픈 소스가 아닌 것이 되었습니다. 내 말은, 그들은 이제 자신의 작업을 소스로 공개하지 않을 것이라는 점입니다.
이러한 오픈소스 정신은 점차 사라지고 있는 것 같습니다. 다음은 Sam이 2023년 뮌헨에서 한 연설입니다.
GPT-2, GPT-3, GPT-4, GPT-5, GPT-6의 궤적을 계속 유지한다면, 교육을 마친 날 GPT-6을 오픈소스로 공개하길 원하는 사람이 얼마나 되는지 궁금합니다. ?
와, 알겠습니다. 우리는 그렇게 하지 않을 거에요. 하지만 재미있어요.
솔직히 말해서 Sam은 여기서 다소 거만한 것처럼 보입니다. 그는 OpenAI가 처음에 오픈 소스를 약속했다는 것을 알고 있었습니다. 이제 그는 청중이 오픈 소스 모델에 대해 어떻게 생각하는지 설문조사를 한 다음 즉시 그들의 반응을 일축하고 있습니다.
수년에 걸쳐 Sam은 "열림"의 의미를 미묘하게 변경하여 더욱 모호해졌습니다. 그는 벤처 캐피털 회사에서 이렇게 말했습니다.
이것이 바로 우리가 OpenAI라고 부르는 것이며, 우리는 이 기술이 모든 사람에게 공개되기를 바랍니다.
그는 개방성이 무엇을 의미하는지 뻔히 아는 것처럼 자연스럽게 말했습니다. 그러나 그의 정의는 본질적으로 무의미할 정도로 모호한 것 같습니다. 내 말은 Google 검색은 누구에게나 열려 있다는 뜻입니다. OpenAI는 사람들이 개방성이란 무엇을 의미하는지 추측할 수 있게 해준 것 같습니다.
회사가 설립된 지 불과 몇 달 만에 Ilya는 내부 이메일에 다음과 같이 썼습니다.
AI 구축에 가까워질수록 덜 개방적으로 변하는 것이 합리적입니다. OpenAI의 "개방형"은 모든 사람이 AI 결과로부터 혜택을 받아야 한다는 것을 의미하지만 과학을 공유할 필요는 없습니다. 단, 중기적으로는 모든 것을 공유하는 것이 확실히 인재 채용을 위한 올바른 전략입니다.
이 이메일은 OpenAI가 처음부터 자신들의 과학을 자유롭게 공유하지 않을 계획이었음을 보여주기 때문에 매우 흥미롭습니다. 그들은 자신들이 주장하는 것처럼 오픈 소스가 되기를 원하지 않지만 채용상의 이점을 제공하기 때문에 공개 공개 이미지를 유지하기를 원합니다.
예를 들어, 악당을 위해 AI를 구축하지 말고 와서 우리를 위해 일하십시오. 개방성에 대한 정의가 바뀌는 것에 대해 물었을 때 회사 대변인은 "우리의 사명은 동일하게 유지되었지만 전략은 바뀌어야 했습니다"라고 말했습니다.
자, 2017년으로 돌아가 보겠습니다. 회사가 설립된 지 2년 후, OpenAI에는 권력 투쟁이라는 새로운 문제가 등장했습니다.
Elon은 인계받기를 원합니다. 그는 책임을 맡는 데 익숙한 유형의 사람입니다. OpenAI에 따르면 그는 회사를 Tesla로 옮기고 대주주 지분을 보유한 CEO가 되기를 원합니다. 뜻대로 되지 않으면 그는 그만둔다.
Elon의 모든 것과 마찬가지로, 그는 시간이 지남에 따라 더 많은 통제력을 발휘하고 회사가 자신이 원하는 이미지와 방식으로 운영되도록 하고 싶어합니다. 그래서 긴장감을 조성합니다.
저는 Elon에 대한 전기를 쓴 제 동료 Ashley Vance입니다.
어떤 일에서든 Elon이 선호하는 역할은 일상적인 운영을 통제하는 CEO이자 지배적인 세력이 되는 것입니다.
실제로 일상적인 업무를 담당하는 Greg Brockman과 Ilya Sutskever는 매우 경계심이 깊습니다. Elon은 무모하고 충동적이며 사이좋게 지내기 어렵지만 그는 또한 그들의 주요 자금원이기도 합니다.
그는 거의 10억 달러를 약속했습니다. OpenAI에는 다른 기부자가 있지만 그 금액에 가까운 기부자는 없습니다. 한 가지 옵션은 Elon에 머물면서 그의 자본을 유지하는 것입니다.
직원들은 이 아이디어에 전적으로 동의하지 않으며 약간의 우려를 갖고 있습니다. 그래서 우리는 다음 결정 지점에 도달했습니다. Elon과 함께 있어야 할까요, 아니면 그를 떠나야 할까요? 최근 몇 년 동안 사람들은 거의 항상 Elon과 그의 요구를 참아왔습니다.
또는 또 다른 옵션은 Elon에서 분리되어 다른 자금 출처를 찾는 것입니다. 돈을 잘 모으는 사람을 알고 있나요? 샘 알트만.
초점은 Elon이 회사가 한 방향으로 가기를 원하고 직원은 다른 방향으로 가기를 원했기 때문에 Sam이 OpenAI를 이끌도록 선택되었습니다.
처음 몇 년 동안 Sam은 OpenAI에 별로 관여하지 않았습니다. 그는 실제로 여전히 Y Combinator의 사장이지만 이 권력 투쟁에서 Sam이 Elon을 이기고 이는 큰 일입니다. Elon은 더 유명하고 경험이 많으며 특히 패배를 싫어합니다.
갈등이 있을 때 Elon의 반응은 어떤 대가를 치르더라도 승리하는 것입니다. Elon은 최근 몇 년간 "전투"에서 패한 적이 거의 없습니다. 일반적으로 그가 회사 내부에 있지 않으면 누군가를 고소하여 굴복하도록 할 것입니다. 내부에 있으면 원하는 것을 얻을 때까지 정책을 압박할 것입니다. 최근 몇 년간 원하는 결과를 얻지 못한 사례를 찾아보기 힘들다. 그러니 이런 일이 일어나지 않으려면 회사 내부의 소란이 매우 심각할 것입니다.
그래서 2018년에 Elon은 급히 달려가 그의 자본을 가져갔습니다. 몇 년 후, 그는 Sam과 OpenAI가 원래의 비영리 및 오픈 소스 약속을 어겼다고 주장하면서 실제로 소송을 제기했습니다.
Elon이 떠난 직후 Sam은 OpenAI의 CEO가 되었습니다. 이전에는 여기에 CEO가 없었지만 권력 투쟁으로 인해 Sam이 회사에서 새로운 지배력을 갖게 되었습니다. YC 창업자가 한 말을 기억하시나요? "샘은 강력해지는 데 아주 능숙해요."
OpenAI에 대한 Sam의 관심은 계속 커졌고 그의 관심은 YC 관리에서 멀어지기 시작했습니다. 실제로 세계적으로 유명한 스타트업 액셀러레이터를 운영하는 것은 영향력이 큰 위치입니다.
그러나 AGI 경쟁은 더욱 치열해지고 있으며, OpenAI가 누구보다 먼저 AGI 개발에 성공한다면 CEO보다 더 강력한 자리는 상상하기 어렵습니다. 하지만 샘은 YC에서의 일을 바로 포기하지 않았습니다.
상황은 액셀러레이터를 운영하는 일부 사람들을 불행하게 만듭니다. 그들은 Sam이 너무 주의가 산만하고, 너무 빨리 추진하며, YC보다 자신의 이익을 우선시한다고 느꼈습니다. 이로 인해 그의 팀 내에서 그를 위한 몇 가지 적이 생겼습니다.
실제로 한 소식통에 따르면 샘을 원래 그 자리에 앉힌 멘토 폴 그레이엄(Paul Graham)이 영국에서 날아와 샘에게 사임을 직접 요청했다고 합니다. Paul은 이전 제자에 대한 믿음을 잃었지만 공개 드라마를 만들고 싶지도 않았습니다. 그래서 Sam은 설득을 당해 회사를 그만두었고 그들은 눈에 띄지 않게 유지했으며 이제 그는 OpenAI에만 집중하고 있습니다.
Sam은 OpenAI 모델을 교육하기 위한 자금을 모으는 큰 목표를 가지고 있습니다. 많은 컴퓨팅 성능이 필요하며 컴퓨팅 성능은 비쌉니다. Sam은 돈을 모으려고 노력했지만 진전이 없었습니다. Lex Fridman Podcast에서 그가 말한 내용은 다음과 같습니다.
우리는 비영리 단체로 시작했습니다. 우리는 우리가 해야 할 일을 하기 위해 비영리 단체로서 모금할 수 있는 것보다 훨씬 더 많은 돈이 필요하다는 것을 일찍부터 알아냈습니다. 우리는 비영리단체로 돈을 모으려고 여러 번 시도했지만 실패했습니다. 우리는 거기에서 앞으로 나아갈 길이 보이지 않습니다. 따라서 우리는 자본주의의 혜택 중 일부가 필요하지만 너무 많지는 않습니다. 누군가가 비영리로서 일이 충분하지 않고 영리를 위해 일이 너무 멀리 갈 것이라고 말한 것을 기억합니다.
그들에게는 중간에 뭔가가 필요했고, 솔직히 말해서 샘은 비영리 이후의 삶에 대해 별로 걱정하지 않았습니다. 그는 무언가를 모아 기본적으로 원래의 비영리 단체와 연계된 영리 단체를 만들었습니다.
영리 법인은 투자금을 늘리고 직원에게 지분을 제공하는 등 일반 회사와 마찬가지로 모든 것을 할 수 있지만 투자자에게 돌아가는 수익은 제한되어 있는 반면, 다른 회사에서는 수익이 무제한입니다.
이 기업 구조는 이제 OpenAI가 본질적으로 비영리 이사회에 의해 통제되는 영리 법인이 되면서 함께 뭉쳐졌습니다. 다소 불안정하게 들립니다. OpenAI는 비영리 단체가 될 것이라고 주장하며 수년을 보냈고 이제 이 영리 솔루션을 찾았습니다.
그 변화 이후 많은 사람들이 불행해졌습니다. 그러나 OpenAI는 최종 목표에 더 중점을 두고 AGI를 구축하고 이 목표를 달성하기 위해 자금을 조달해야 합니다.
그러다가 2019년에 거래자인 Sam은 Microsoft로부터 10억 달러를 모금하는 큰 일을 했습니다. 다음은 Microsoft CEO Satya Nadella가 계약에 서명한 후 말한 내용입니다.
안녕하세요. 저는 OpenAI의 CEO인 Sam Altman과 함께 왔습니다. 오늘 우리는 OpenAI와의 전략적 파트너십을 발표하게 되어 매우 기쁩니다.
중요한 것은 Microsoft가 이제 OpenAI가 사용할 수 있는 많은 원시 컴퓨팅 성능을 보유하고 있다는 것입니다. OpenAI는 원래 Google에 대한 "해독제"로 고안되었습니다. 그들은 자신들이 이익에 굶주린 거대 기술 기업들과 근본적으로 다르다고 소개했고, 하룻밤 사이에 1조 달러가 넘는 가치를 지닌 기술 기업들과 긴밀하게 연관되었습니다.
OpenAI는 이제 여러 면에서 Microsoft의 포크가 되었으며 이는 중요한 변화입니다. 당시 OpenAI와 Microsoft의 이사회에 있던 Reid Hoffman은 이것이 OpenAI의 원래 약속을 포기하는 것으로 보지 않았습니다.
이로 인해 임무가 훼손되지 않을까 하는 우려도 있었습니다. 하지만 기업이 인간 및 사회와 소통하는 방식이 너무 많기 때문에 기업이 나쁘거나 부패했다고 생각하는 것은 현대인의 순진한 생각입니다. 그들은 고객에게 봉사하고, 직원을 고용하고, 주주를 갖고, 사회에 존재하려고 노력합니다.
Reid의 요점은 돈을 벌고 싶다고 해서 당신이 나쁘다는 것을 의미하지는 않는다는 것입니다. 이는 억만장자 벤처 자본가의 브랜드입니다.
저는 Microsoft와의 거래가 OpenAI가 모든 인류를 위한 안전한 AGI를 만드는 사명을 계속 이어갈 수 있는 가장 실용적인 방법이 될 수 있다고 생각합니다. 그러나 이는 또한 OpenAI가 편리할 때 약속을 철회하는 경향이 있다는 중요한 특성을 강조합니다.
이에 따라 사람들은 회사 내부와 외부에서 Sam의 성실성에 의문을 제기하기 시작했습니다.
이것은 큰 균열을 일으킬 것입니다.
"파운더링" 다음편에서 만나요!
# Aifaner: Aifaner(WeChat ID: ifanr)의 공식 WeChat 공개 계정을 팔로우하신 것을 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo