AI시대 인프라는 어떤 역할을 할까? 어떤 사람은 전기와 같다고 하고, 어떤 사람은 물과 같다고 합니다.
Wuwen Xinqiong은 우수한 인프라가 대형 모델의 비용을 효과적으로 절감하고 더 많은 사람들이 새로운 기술을 수용할 수 있게 해주는 일종의 "마법"이라고 믿습니다.
7월 4일, Wuwen Core Dome의 공동 창업자이자 CEO인 Xia Lixue는 세계 최초의 킬로칼로리 이종 하이브리드 훈련 플랫폼을 출시했습니다. 킬로칼로리 이종 하이브리드 훈련 클러스터의 컴퓨팅 성능 활용도는 최대 97.6%에 도달했습니다.
4개월 전 Wuwen Core Dome의 Infini-AI 대형 모델 개발 및 서비스 클라우드 플랫폼이 첫 번째 공개 베타를 발표했습니다. Zhipu AI, Dark Side of the Moon, Shengshu Technology 등 대형 모델 회사의 고객들이 Infini-AI를 안정적으로 사용하고 있습니다. 컴퓨팅 파워 측면에서 보면 Infini-AI에서 다양한 사전 설정 모델 API를 계속 호출하고 Wuwen Core Dome에서 제공하는 툴 체인을 사용하여 자체 비즈니스 모델을 개발하는 AI 네이티브 애플리케이션 스타트업이 20개가 넘습니다.
대형 모델 시대에 AI 네이티브 인프라를 구축하는 것은 AI 개발자에게 보다 다양하고 효율적이며 편리한 R&D 환경을 제공할 수 있을 뿐만 아니라, 컴퓨팅 자원의 효과적인 통합을 달성하고 AI의 지속 가능한 개발을 지원하기 위한 핵심 초석이기도 합니다. 산업. 전 세계 모델 레이어와 칩 레이어의 '상대적으로 집중된' 패턴에 비해 중국의 모델 레이어와 칩 레이어는 더욱 다양합니다.
그러나 다양성은 도전을 의미하기도 합니다. 다양한 하드웨어 생태계가 폐쇄적이고 서로 호환되지 않아 컴퓨팅 능력 사용자에게 일련의 기술적 과제를 안겨줍니다. 이는 AI 네이티브 인프라 구축에 있어서 가장 큰 어려움이자, 현재 대형 모델 업계가 '컴퓨팅 파워 부족'을 겪고 있는 중요한 이유이기도 하다.
Wuwen Core Qiong은 최고의 AI 컴퓨팅 최적화 역량과 컴퓨팅 파워 솔루션 역량을 갖추고 있을 뿐만 아니라 "M형 모델" 및 "N형 칩" 산업 패턴에 대한 미래지향적인 판단력을 갖추고 있으며, "MxN" 중간 계층 생태학적 패턴을 통해 여러 칩에 여러 대형 모델 알고리즘을 효율적이고 통합적으로 배포할 수 있습니다.
지금까지 Infini-AI는 Qwen2, GLM4, Llama3, Gemma, Yi, Baichuan2, ChatGLM3 시리즈 등 30개 이상의 모델과 AMD, Huawei Shengteng, Biren, Cambrian, Suiyuan, Haiguang, Tianshu를 지원했습니다. Zhixin, Muxi, Moore Thread 및 NVIDIA를 포함하여 10가지 이상의 컴퓨팅 카드가 있습니다.
Xia Lixue는 "기술적 한도를 높이는 것과 기술 확산 사이에는 모순이 없으며, 이 기술을 어떻게 다루느냐에 달려 있습니다."라고 Xia Lixue는 말했습니다. "미래에 다양한 AI 애플리케이션을 사용할 때 우리는 알 수 없습니다. 어떤 기본 모델을 호출하고 어떤 모델을 사용하는지, 어떤 종류의 가속기 카드가 컴퓨팅 성능을 갖고 있는지, 이것이 최고의 AI 네이티브 인프라입니다."
# Aifaner: Aifaner(WeChat ID: ifanr)의 공식 WeChat 공개 계정을 팔로우하신 것을 환영합니다. 더 흥미로운 콘텐츠가 최대한 빨리 제공될 예정입니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo