1달러로 무엇을 살 수 있나요?
오늘 오전 개최된 2024년 춘계 화산엔진 동력원 컨퍼런스에서 Tan Dai 화산엔진 사장이 의외의 답변을 내놨습니다.
1위안이면 두바오 메인 모델 토큰 125만개를 살 수 있는데, 이는 한자 약 200만 자에 해당하며 이는 삼국지 3권에 해당한다.
가격전쟁이 시작된다! 바이트, 대형 빈백 모델 출시
대규모 모델 시나리오를 구현하는 데 있어 주요 과제는 모델 효과, 추론 비용 및 구현 어려움에 있습니다.
기업이 이러한 과제를 해결하고 더 나은 모델, 저렴한 비용, 구현하기 쉬운 솔루션을 사용하여 기업이 AI 혁신을 달성할 수 있도록 돕기 위해 Volcano Engine은 오늘 차세대 풀 스택 AI 서비스를 공식 출시했습니다.
좋은 기술은 대규모로 적용되어야 하고, 수많은 호출을 통해 지속적으로 연마되어야 합니다.
1년 전, 이전에 "Skylark"로 알려진 빈백 모델은 중국에서 알고리즘을 통해 등록된 최초의 대형 모델 중 하나가 되었습니다.
1년간의 반복 개발 끝에 Doubao의 대형 모델은 현재 1,200억 개의 텍스트 토큰을 처리하고 하루에 3천만 개가 넘는 이미지를 생성합니다.
오늘부터 Doubao 모델이 Volcano Engine을 통해 외부 세계에 공식적으로 제공됩니다.
이번에 출시된 모델군에는 Doubao universal 모델 pro, universal 모델 lite, 롤플레잉 모델, 음성 인식 모델, 음성 합성 모델, Vincent 다이어그램 모델 및 기타 모델이 포함됩니다.
그중 빈바오 빅모델 프로(Beanbao Big Model Pro)는 빈바오 모델의 가장 대표적인 제품으로, 생성 로직 이해, 메모리 이해 등 다차원적인 성능이 뛰어나며, 128K 컨텍스트 창을 지원해 사용자가 길고 어려운 텍스트 내용을 빠르게 이해할 수 있도록 도와준다.
일부 시나리오에서는 지연과 비용에 민감한 고객의 경우 빈백 유니버설 모델 라이트가 더 나은 선택입니다.
롤플레잉 모델의 축복 덕분에 사투리 사투리 선생님 역을 맡거나 대본의 스토리 해석을 홍보하는 등 실제 현장 시연은 매우 쉽습니다.
음성은 AI와의 상호작용에서 중요한 부분입니다.
음성 인식 모델과 음성 합성 모델은 사용자의 내용, 언어, 맥락을 정확하게 식별할 수 있으며, 음색, 어조, 억양 학습을 통해 대형 모델은 실제 감정을 표현할 수 있어 AI가 실제 사람처럼 의사소통할 수 있습니다.
많이 사용하면 좋은 모델을 다듬을 수 있고 모델 추론의 단위 비용을 크게 줄일 수 있습니다. 볼케이노엔진은 오늘날 '가격정육점'으로 직접 변신해 대형 모델 시장에 10억포인트 충격을 안겼다.
시장에 나와 있는 동일한 사양의 모델 가격은 일반적으로 0.12위안/천 토큰인 반면, Doubao 범용 모델 pro-32k 모델 추론 입력 가격은 0.0008위안/천 토큰에 불과하며 이는 업계 가격보다 99.3% 낮습니다.
또는 Doubao 일반 모델 pro-128k 모델의 입력 가격은 0.005위안/천 토큰으로 업계 가격보다 95.8% 낮으며 실제로 "센트에서 센트로" 가격 변화를 달성했습니다.
또한 기업이 대형 모델 애플리케이션을 더 잘 구현할 수 있도록 돕기 위해 Tan Dai는 Volcano Ark 2.0 플랫폼 출시를 발표하고 세 가지 대형 모델 플러그인도 출시했습니다.
- 네트워킹 플러그인 : 네트워크 전체의 데이터에서 관련 데이터 정보 검색
- 콘텐츠 플러그인: 풍부한 비디오 및 그래픽 콘텐츠 제공
- 지식 기반 플러그인: 독점 데이터의 미세 조정을 지원하여 AI 환상을 최대한 줄입니다.
애플리케이션 지향, 구현이 나아갈 방향
AI 네이티브 개발 플랫폼을 통해 우리는 모두를 AI 애플리케이션 개발자로 만들 수 있는 기회를 얻었습니다.
기자회견에서 Tan Daidi는 위의 판단을 설득력 있게 내렸습니다. 차세대 AI 애플리케이션 구축 플랫폼인 Button에서는 사용자가 프로그래밍 기술 보유 여부에 관계없이 다양한 모델 기반 봇을 빠르게 구축할 수 있습니다.
또한 사용자는 다양한 소셜 플랫폼, 통신 소프트웨어에 봇을 게시하거나 웹사이트와 같은 다른 채널에 배포할 수도 있습니다.
오프닝 기자회견에서는 5학년 아이의 AI 로봇을 시연했다. 학교에서 배운 중국어 지식을 활용해 영어 외국인 교사라 할 수 있는 AI 로봇을 만들었다.
더 높은 애플리케이션 시나리오 기능이 필요한 기업 환경에서 Haidilao는 버튼을 사용하여 고객 대화 훈련을 시뮬레이션하여 고객 서비스 담당자가 서비스 수준을 향상시킬 수 있도록 돕습니다.
Super Orangutan은 Kouzi를 사용하여 사용자가 더 나은 피트니스를 이해할 수 있도록 돕습니다. China Merchants Bank는 식사 할인 매장을 추천하는 Kouzi와 시장 상황을 분석하는 부의 관점을 기반으로 모바일 생활 할인 봇을 구축했습니다.
Button으로 생성된 봇은 텍스트, 사진, 음성, 비디오, GUI 카드 등 다양한 모드의 혼합 상호 작용을 지원합니다. 사용자는 실제 사람과 채팅하는 것처럼 음성으로 봇과 통신할 수도 있으며 항상 봇이 응답합니다. 사용자의 모든 요청을 가장 지능적이고 자연스럽게 처리합니다.
또한 Huoshan Engine은 기업의 요구에 따라 Kouzi Professional Edition도 공식 출시했습니다. Huoshe Engine은 Kouzi 플랫폼을 기반으로 더욱 캡슐화되었으며 다양한 고급 기능을 지원합니다.
지난 10여년 동안 모바일 인터넷 시대를 가장 잘 이해하고 있는 ByteDance는 항상 인기 있는 제품을 만들 수 있었던 것처럼 보이며 조용히 오늘날의 거대 기업이 되었습니다.
이번 컨퍼런스에서 가장 인상적인 점은 ByteDance가 대형 모델 시대의 제품 적용 및 개발을 어떻게 이해하고 있는지입니다.
Zhu Jun 제품 및 전략 부사장은 서버에서 코드를 실행하는 것보다 사용자의 실제 요구 사항을 충족하고 사용자가 해당 제품을 진정으로 사용하도록 만드는 적절한 제품 형태와 자연스러운 상호 작용 방법을 만드는 것이 더 중요하다고 말했습니다.
주준은 기자간담회에서 콩주머니 이름의 유래를 밝혔다.
AI와는 별로 관련이 없을 것 같은 '두바오(Doubao)'는 사실 처음 명명되었을 때 정한 첫 번째 일반 원칙인 단순성, 읽기 쉬움, 기억 용이성입니다.
동시에, 제품과 사용자 사이의 거리를 단축하기 위해 빈백 등 제품에 대한 3가지 제품 디자인 원칙인 의인화, 사용자와의 근접성, 사용자 사용 환경에의 임베딩, 개인화를 내부적으로 정의했습니다.
지난 1년 동안 ByteDance는 대형 모델 애플리케이션 형태로 많은 탐색을 해왔으며, 그가 가장 크게 느낀 점은 AI 시대 이전과 비교해 애플리케이션 제작에 있어 공통점과 큰 차이점이 있다는 것입니다.
그렇다면 공통점은 무엇인가? 인간의 필수 욕구는 실제로 변하지 않았습니다. 예를 들어, 빠르고 편리하게 정보를 얻고자 하는 욕구는 변함이 없고, 직장에서도 자신을 향상시켜야 합니다…
그의 견해로는 과거에는 최소한 기반이 되는 기술이 성숙하고 안정적이었기 때문에 제품을 만드는 것이 상대적으로 쉬웠기 때문에 사용자의 요구가 무엇인지 공감하고 생각하면 됐다. 모델과는 전혀 달랐습니다.
새로운 어려움은 현재 대형 모델이 무엇을 할 수 있는지 고려하는 것뿐만 아니라 아마도 더 중요한 것은 3개월, 6개월 또는 2년 후에 어떤 새로운 사용자 시나리오가 구현될 수 있는지 추측하는 것입니다.
그래서 이는 새로운 도전이며, 역동적인 기술 진화 속에서 다음 제품의 PMF를 지속적으로 예측하는 것도 필요합니다.
AI 검색엔진을 예로 들면서 Zhu Jun은 지난해 상반기 평가 검색 과제에서 10문제 중 6문제를 틀리는 경우가 많았으며 이는 검색 응용 시나리오가 완전히 불가능하다는 것을 의미합니다. , 모델 기능의 진화로 이제 AI 검색 작업은 적어도 오늘날에는 사용할 수 있습니다.
유용성에서 최적화에 이르기까지 처음부터 이러한 변화는 기술 수준의 혁신일 뿐만 아니라 사용자 요구에 대한 깊은 통찰력의 결과이기도 합니다.
맥킨지(McKinsey) 보고서에 따르면 2030년까지 대형 모델이 주도하는 전 세계 경제 성장률은 49조 위안에 달할 것이며, 이 중 중국의 경제 성장률은 14조 위안에 달할 것으로 예상된다.
엄청난 경제적 증가에는 대형 모델에 의한 기존 업무 효율성의 향상뿐만 아니라 신기술이 가져온 새로운 시나리오와 새로운 비즈니스 포맷도 포함됩니다. ByteDance의 탐구는 AI 애플리케이션 구현의 축소판이자 전체 업계가 생각해 봐야 할 공통 주제이기도 합니다.
그리고 이것이 바로 Tan Dai가 이번 기자회견에서 반복적으로 강조한 내용입니다. 좋은 모델은 모든 사람과 모든 회사에서 사용해야 합니다.
# aifaner 공식 WeChat 공개 계정: aifaner(WeChat ID: ifanr) 팔로우를 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo