1년 만에 이개푸가 '천일만사'로 다시 한 번 그라운드에서 나왔다.
지난해 5월 제로원씽(Zero One Thing)이 설립됐고, 6개월 뒤 첫 중국어-영어 이중 언어 모델 Yi 시리즈를 출시했다. 이카푸는 처음부터 "세계 1위가 되는 것"이라는 야심차고 어려운 목표를 세웠다.
태어날 때부터 '인기 핫치킨'으로 자리매김한 링이우우 역시 대기업 출신의 배경과 뛰어난 모델 성과를 갖춘 팀에 의지해 가치 평가액 10억 달러를 달성했다.
오늘 그들은 두 번째 제품인 Yi-Large 비공개 소스 모델을 소개합니다.
글로벌 SOTA 모델 공격
지난해 11월 링이우우(Lingyiwuwu)가 출시한 Yi-34B는 오픈소스 커뮤니티에서 '디저트 수준' 크기로 허깅 페이스(Hugging Face) 목록에 올랐으며, Llama2-70B, Falcon-180B 등 몇 배 더 큰 모델을 능가하며 최고의 제품이 되었습니다. 당시 세계 최대 규모의 내부 오픈소스 기본 모델 중 하나였습니다.
반년 후, 01Wang은 매개변수 규모가 1,000억에 달하는 Yi-Large를 공식 출시했습니다. 제3자 권위 평가에서 01Wanyi Yi 모델은 세계 최고의 대형 모델 중 중국어 및 영어 이중 언어 PK에서 좋은 성적을 거두었습니다.
최근 스탠포드 평가기관인 AlpacaEval 2.0의 공식 인증 모델 순위에서는 Yi-Large 모델의 영어 능력을 가늠하는 주요 지표인 LC Win Rate(응답 길이 조절)가 GPT에 이어 세계 2위를 기록했습니다. -4 터보, 승률도 세계 1위.
이전에는 국내 모델 중 이(Yi)와 퀀(Qwen)만이 이 목록의 상위 20위에 올랐습니다.
대규모 모델을 지능적으로 사용하기 위한 중요한 전제 조건은 사용자가 말하는 내용을 알아야 한다는 것입니다.
외국 모델은 성능이 뛰어나지만 모두 영어 맥락을 바탕으로 하고 있습니다. 그러나 국내에서 태어난 대형 국내 모델은 중국어를 이해하는 데 있어서 독특한 이점을 가지고 있습니다.
중국어 능력 측면에서는 SuperCLUE가 업데이트한 4월 벤치마크 성능에서도 Yi-Large가 국내 대형 모델 중 1위에 올랐으며, Yi-Large의 포괄적인 중국어 및 영어 이중 언어 능력은 뛰어난 성능을 보여주었습니다.
보다 종합적인 대형 모델 성능 평가에서는 Yi-Large가 대부분의 지표에서 GPT4, Claude3, Google Gemini 1.5 등 유사 모델을 제치고 1위에 올랐습니다. 일반 능력, 코드 생성, 수학적 추론 및 지시 따르기 분야에서 글로벌 리더보다 더 나은 결과를 얻었으며 세계 최초의 계층 중 확고하게 자리 잡았습니다.
각 기업의 대형 모델 역량이 GPT4에 대한 벤치마킹 노력의 새로운 단계에 접어들면서 대형 모델 평가의 초점도 단순한 일반 역량에서 수학과 코딩 등 복잡한 추론 역량으로 옮겨가기 시작했습니다.
Yi-Large는 코드 생성 기능을 위한 HumanEval, 수학적 추론 기능을 위한 GSM-8K 및 MATH, 도메인 전문가 기능을 위한 GPQA와 같은 평가 세트에서도 눈부신 결과를 달성했습니다.
또한, 산업 구현 관점에서 볼 때, 인간의 지시를 이해하고 인간의 선호도를 조정하는 것은 대형 모델의 필수 역량이 되었으며, 지시 따르기(Instruction Follow) 관련 평가는 글로벌 대형 모델 회사들로부터 점점 더 높은 평가를 받고 있습니다.
스탠포드 오픈소스 평가 프로젝트인 AlpacaEval과 Berkeley LM-SYS가 출시한 MT-bench는 영어 지침 준수 평가 세트 두 세트이고 AlignBench는 칭화대학교 팀이 출시한 중국 정렬 평가 벤치마크입니다.
국내외 권위 있는 지침 평가 세트에서 Yi-Large는 상위 5개 국제 모델보다 더 나은 성능을 보였습니다.
기자회견에서 Lee Kaifu는 또한 Zero One Wish가 GPT-5의 성능과 혁신에 영향을 미칠 차세대 Yi-XLarge MoE 모델 훈련을 시작했다고 발표했습니다.
동시에 Zero One Thousand Things는 몇 가지 매우 복잡한 문제도 고려하고 있습니다. Kaifu Lee는 세 가지 핵심 사항을 요약했습니다.
- 한편으로는 기술의 발전에 대비하고 어떤 모델을 생산할 수 있는지 준비해야 합니다.
- 둘째, 어떻게 추론 비용을 최소화하고 포용성의 불을 붙일 것인가?
- 셋째, 사용자의 요구를 찾아내는 전통적인 PMF가 있습니다.
Kai-Fu Lee는 이러한 고려 사항이 실리콘 밸리 회사에서는 일반적으로 볼 수 없는 것이라고 말했습니다.
이는 우리의 독특한 접근 방식이자 중국 유니콘에게는 기회입니다.
Yi-1.5가 완전히 업그레이드되고 API 플랫폼이 전 세계적으로 출시됩니다.
이번 기자회견에서 Yi 시리즈 오픈소스 모델도 포괄적인 업그레이드를 받았습니다. Yi-1.5는 34B, 9B, 6B의 세 가지 버전으로 나뉘며 개발자가 사용할 수 있도록 Yi-1.5-Chat 미세 조정 모델이 제공됩니다. 중에서 선택하세요.
평가 데이터에 따르면 Yi-1.5 시리즈는 Yi 시리즈 오픈 소스 모델의 뛰어난 성능을 계속 유지하는 동시에 수학적 논리 및 코딩 기능이 포괄적으로 향상되는 동시에 언어 기능도 원래의 높은 수준을 유지합니다.
미세 조정 후 Yi-1.5-6B/9B/34B-Chat은 수학적 추론, 코딩 능력 및 지시 따르기 측면에서 더 높은 수준으로 향상되었습니다.
GSM-8K, MATH 등의 수학적 능력 평가 세트와 HumanEval, MBPP 등의 코드 능력 평가 세트에 대한 Yi-1.5-6B/9B-Chat의 성능은 매개변수 수준 모델과 크게 다르지 않으며, 또한 최근 출시된 Llama-3-8B -Instruct보다 더 좋습니다.
MT-Bench, AlignBench 및 AlpacaEval의 점수도 동일한 매개변수 크기를 갖는 모델 중에서 선두 위치에 있습니다.
지난해 제로원완은 Yi 시리즈 모델을 오픈소스로 출시하기로 결정했고, 그 탁월한 성능은 해외 개발자들로부터 높은 평가를 받았다.
2023년 11월 Yi 오픈소스 버전이 출시된 지 한 달 만에 오픈소스 커뮤니티 인기 모델 순위의 거의 50%를 차지했습니다. 출시 한 달 만에 Yi-34B는 엔비디아의 대형 모델 놀이터에 포함되었습니다.
이개푸 대표는 대형 모델 개발, 제품 구현 등의 문제에 대해서도 자신만의 문제 해결 아이디어를 갖고 있다.
APPSO와의 인터뷰에서 Lee Kaifu는 다음과 같이 말했습니다.
우리는 실용적인 AGI를 믿는 사람들로서 가능한 최고의 모델을 훈련시키기 위해 최소한의 칩과 최저 비용을 사용해야 합니다. 동시에 우리는 TC-PMF를 계속 탐색하고 찾을 것입니다. 실리콘밸리 기업과 비교했을 때 국내 스타트업 기업의 차이점은 스타를 우러러볼 수도 있지만, 땅에 발을 딛고 있을 수도 있다는 점이다.
모든 것이 순수한 힘만으로는 기적을 낳을 수 없다는 생각은 100억 달러가 들 수 있는지, 1000억 달러가 들 수 있는지를 추구하는 것뿐이다. OPEN AI는 이 길을 시도할 자격이 있지만 그들이 가고 싶은 길은 아닙니다. 물론 그들은 AGI의 발화점을 예측하는 데 시간을 할애하지 않을 것이지만 그는 모든 사람에게 더 적절한 것이 무엇인지 확실하게 말할 수 있습니다. AI Pratt & Whitney 포인트입니다.
오늘 Lingyiwanwu는 또한 국내 시장을 위해 Yi-Large, Yi-Large-Turbo, Yi-Medium, Yi-Medium-200K, Yi-Vision, Yi-Spark 등을 포함한 여러 모델 API 인터페이스를 출시했다고 발표했습니다. 시간이 지남에 따라 Yi API 플랫폼 영어 사이트는 전 세계 개발자에게 동시에 평가판 응용 프로그램을 제공합니다.
그중 1,000억 개의 매개변수 규모를 가진 Yi-Large API는 매우 강력한 텍스트 생성 및 추론 성능을 갖추고 있으며 복잡한 추론, 예측, 심층적인 콘텐츠 생성 및 기타 시나리오에 적합합니다.
Yi-Large-Turbo API는 성능, 추론 속도 및 비용을 기반으로 균형이 잡혀 있고 정밀하게 조정되어 있으며 모든 시나리오, 고품질 추론 및 텍스트 생성에 적합합니다.
Yi-Medium API의 장점은 지침을 따를 수 있다는 점입니다. 이는 일반 시나리오의 채팅, 대화, 번역 및 기타 시나리오에 적합합니다.
매우 긴 콘텐츠 문서와 관련된 애플리케이션이 필요한 경우 한 번에 200,000 단어의 텍스트를 해석할 수 있는 Yi-Medium-200K API를 선택할 수도 있습니다.
Yi-Vision API는 고성능 이미지 이해 및 분석 기능을 갖추고 있으며 이미지 기반 채팅, 분석 및 기타 시나리오를 제공할 수 있습니다.
Yi-Spark API는 가볍고 매우 빠른 응답에 중점을 두고 있으며 가벼운 수학적 분석, 코드 생성, 텍스트 채팅 및 기타 시나리오에 적합합니다.
더 중요한 것은 이미 실용적인 응용 프로그램이 있으며 췌장 종양 환자를 위해 설계된 "Little Pancreas"가 그중 하나라는 것입니다.
Xiaoyibao AI 조수는 하루 24시간, 일주일 내내 환자에게 포괄적인 치료 지식을 소개할 수 있습니다.
이 어시스턴트 뒤에 있는 기술 지원은 Zero One Thing의 Yi 모델입니다. Xiaoweibao는 Yi API를 사용하여 AI 대형 모델을 호출한 후 췌장 종양 치료의 정보 장벽을 허물고 췌장 종양 환자에게 췌장암 치료 로드맵과 치료 계획을 정확하고 체계적으로 제시할 수 있습니다.
현재 이 자선 프로젝트는 3,000명 이상의 췌장 종양 환자를 도왔습니다.
원스톱 작업 플랫폼
오늘 기자간담회에서는 제로원왜건(Zero One Wagon)이 최근 출시한 원스톱 AI 워크스테이션 '완지(Wanzhi)'도 소개됐다.
공식 소개에 따르면 Wanzhi는 중국 사용자를 위해 특별히 설계된 원스톱 AI 작업 플랫폼으로 회의록 작성, 주간 보고서 작성, 재무 보고서 및 서류 해석, PPT 제작이 가능합니다. 완전히 무료입니다.
현재 사용자는 공식 웹사이트와 위챗 애플릿 'Wanzhi AI'를 통해 로그인해 체험할 수 있다.
기자회견에서 Wanzhi 관계자는 매우 실용적인 예를 제시했습니다.
방금 회사 아래층에 도착했는데 리더가 갑자기 회의 프레젠테이션을 해달라고 요청했는데 컴퓨터가 없습니다. 이제 Wanzhi를 통해 발표하고 싶은 주제를 휴대폰으로 입력하고 두 사람을 기다립니다. 엘리베이터에서 작업장까지 이동하는 데 몇 분 정도 걸립니다. PPT Wanzhi 웹페이지에서 완료된 후 간단한 텍스트, 그림 및 수정만 하면 바로 사용할 수 있습니다.
그 외에도 Wanzhi에는 다른 많은 기능이 있습니다.
첫 번째는 문서 읽기 능력입니다. Wanzhi AI Assistant는 긴 문서와 복잡한 재무 데이터를 포함하여 많은 양의 문서 내용을 빠르게 읽고 이해할 수 있습니다. 몇 초 안에 주요 정보를 추출할 수 있으며 중국어와 영어의 이중 언어 읽기를 지원합니다.
둘째, 일반적인 질문 및 답변 시나리오에서 Wanzhi는 신속하게 적절한 답변을 제공하고 전문적이고 빠른 피드백을 제공하는 등 탁월한 제품 성능을 보여주었습니다.
또한 Wanzhi AI Assistant는 텍스트 출력을 지원할 뿐만 아니라 표, 수식, 코드 등 다양한 형식으로 정보를 표시하여 업무 보고서와 생활 계획을 더욱 명확하게 만들어줍니다.
마지막으로 Wanzhi AI Assistant는 실시간으로 인터넷 정보에 액세스할 수 있어 사용자가 얻은 데이터와 통찰력이 가장 최신이고 정확하도록 보장합니다.
Wanzhi 팀의 연구 및 관찰에 따르면 Wanzhi를 사용한 후 개인 작업 효율성이 평균 50% 이상 증가했으며, 특히 지식 검색, 문서 개념화 및 작성 등의 측면에서 상당한 시간이 절약되었습니다.
현재 Wanzhi AI Assistant는 완전 무료이며 사용자에게 공개되어 있습니다.
Wanzhi 관계자는 유사한 대형 모델의 적용이 올해 중국에서 중요한 착륙점이 될 것이라고 말했습니다.
Lee Kai-Fu는 올해가 AI 생산성 도구의 원년이 될 것이라고 언급하기도 했습니다. 왜냐하면 올해 일부 분야가 폭발적으로 성장할 것이기 때문입니다.
그는 AI-Frist의 진정한 가치는 누가 AI Douyin, AI WeChat, AI Taobao를 구축할 것인가라고 생각합니다. 제로원은 그들이 그러한 점화 장치 역할을 할 수 있는 잠재력을 갖기를 희망합니다.
그러나 전체 AI의 포괄 지점은 동시에 오지 않으며 일부 분야의 적용 요구 사항은 매우 높을 것입니다.
예를 들어, 우리가 지금 만들고 있는 생산성 도구의 경우, 생산성 도구에서 생산된 콘텐츠에 대한 궁극적인 책임은 사용자에게 있습니다. 그래서 거기에 완벽하지 않은 오류, 미세 조정이 필요한 부분, 심지어 약간의 착각이 있는 경우 수정이 가능한지 최종적으로 결정하는 것은 사용자이므로, 사용자의 지표는 내가 더 나은 콘텐츠를 제작할 수 있는지 여부입니다. 이 도구가 없는 것보다 더 빠른 시간에.
Kai-Fu Lee는 TC-PMF가 실제로 이를 달성했지만 더 나아질 수 있으므로 올해 생산성 도구에서 확실히 일어날 것이라고 말했습니다.
현재 Zero One Thousand Things의 해외 생산성 애플리케이션 총 사용자 수는 1천만 명에 가깝고, 올해 단일 ToC 제품 매출은 1억 위안에 도달했습니다.
이카푸는 다음과 같이 밝혔다.
우리의 ROI는 여전히 약 1입니다. 따라서 이러한 결과는 적어도 국내 대형 모델사 입장에서는 매우 유리한 결과이다.
국내 대형 모델 분야가 난투를 벌이는 2023년 초, 각종 평가 목록이 압도적으로 각 주요 목록 상위권에 오르는 모델이 적지 않다.
AI 1.0 시대에는 인공지능이 아직까지 높은 일반화 및 출현 능력을 입증하지 못했고, 대표 고객을 위한 민영화된 배포 모델이 주류가 되었지만, 프로젝트 중심의 대량 배송 모델이 가져오는 수익은 시간이 지나서 입증되었습니다. 성장의 상한선이며 지속가능성 문제도 심각합니다.
오늘날 우리는 AI 2.0 시대에 살고 있으며 인공지능은 1.0과 비교하여 새로운 개발 단계에 진입했습니다. AI 2.0은 규칙 기반 자동화 처리에서 딥 러닝 및 자율 학습 기능으로의 도약을 의미합니다.
이런 관점에서 볼 때 AI 분야의 '100개 연대 전투'는 더욱 심화될 것이다.
지난해부터 점점 더 많은 국산 대형 모델들이 치열한 경쟁 속에서 두각을 드러내고 있으며, 글로벌 유명리스트에서도 인상적인 성과를 거두고 있습니다.
올해 업계는 보다 현실적인 상용 구현 단계에 돌입할 것이며, 사용자들은 애플리케이션 측면에서 입증된 역량을 바탕으로 직접 투표하게 될 것입니다. TC-PMF를 따라잡기 위해서는 기본 모델의 역량을 바탕으로 어떻게 응용효과를 최대한 향상시킬 것인가가 중요한 이슈이다.
이카푸는 이렇게 말했다.
1년 전만 해도 중국의 대형 모델들이 (미국에) 너무 뒤쳐져 있다는 느낌을 받았다. 하지만 오늘 우리는 1년 동안 맹활약을 했고, 모델 면에서는 적어도 1년 전에 출시된 미국의 상위(대형 모델) 제품을 따라잡았다고 말할 수 있어 매우 자랑스럽습니다. 물론 앞으로도 열심히 노력하겠습니다. 그러나 우리에게는 강수량과 미래에 대한 전망이 있어야 하며, 마냥 달려갈 수만은 없습니다.
장강 뒤의 파도가 파도를 밀어내는 AI 시대에 사용자에게 가장 큰 의미는 제조업체 간의 경쟁 속에서 AI를 알고, AI를 이해하고, AI를 사용하고, 심지어 이를 업무와 학습, 생활에 적용하는 것입니다.
그리고 이것이 AI 기술의 본래 의도이자 지향점이기도 하다.
*Fu Liqun도 이 기사에 기여했습니다.
# Aifaner: Aifaner(WeChat ID: ifanr)의 공식 WeChat 공개 계정을 팔로우하신 것을 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo