어젯밤, '유럽 OpenAI'로 알려진 미스트랄 AI(Mistral AI)는 최신 최상위 텍스트 생성 모델인 미스트랄 라지(Mistral Large)를 출시했습니다.
이 모델은 최고 수준의 추론 기능을 갖추고 있으며 텍스트 이해, 변환 및 코드 생성을 다루는 복잡한 다중 언어 추론 작업을 처리하는 데 사용할 수 있습니다.
간단하게 핵심 사항을 그립니다.
- 32K 컨텍스트 창을 통해 대용량 문서 정보를 정확하게 추출합니다.
- 정확한 명령 추적 기능을 통해 개발자는 감사 전략을 맞춤화할 수 있습니다.
- 애플리케이션 개발을 확장하고 기술 스택을 현대화하는 데 도움이 되는 함수 호출 및 출력 모드 제한을 지원합니다.
- 문법과 문화적 배경에 대한 깊은 이해를 바탕으로 영어, 프랑스어, 스페인어, 독일어, 이탈리아어를 기본적으로 지원합니다.
체험주소 첨부 : https://chat.mistral.ai/chat
Mistral AI, 다시 기술 확장
Mistral Large는 여러 벤치마크 테스트에서 좋은 성적을 거두어 API를 통해 세계에서 두 번째로 널리 사용되는 모델이 되었으며, GPT-4에 이어 두 번째로 다른 주류 모델을 뒤처지게 되었습니다.
LLaMA 2 70B, GPT-4, Claude 2, Gemini Pro 1.0 및 기타 주류 모델과 비교하여 Mistral Large는 추론 능력에 있어 강력한 강점을 보여줍니다.
MMLU, Hellas 및 WinoG와 같은 여러 상식 및 추론 벤치마크에서 Mistral Large는 GPT-4를 따르며 다른 모델을 훨씬 능가합니다.
Mistral Large는 프랑스어, 독일어, 스페인어 및 이탈리아어의 HellaSwag, Arc Challenge 및 MMLU 벤치마크에서 LLaMA 2 70B보다 훨씬 더 나은 성능을 발휘합니다.
Mistral Large는 코딩 및 수학 작업에서도 좋은 성적을 거두었습니다. 많은 벤치마크 테스트는 아직 훨씬 앞서 있습니다.
또한 Mistral AI는 성능에서는 Mixtral 8x7B를 능가하지만 지연 시간은 더 낮은 지연 시간과 비용에 최적화된 새로운 모델인 Mistral Small도 출시했습니다.
Mistral AI의 관점에서 Mistral Small은 특히 RAG(Retrieval Augmentation Generation) 지원 및 기능 호출 측면에서 Mistral Large와 동일한 혁신적인 이점을 누리면서 오픈 소스와 플래그십 모델 사이의 이상적인 중간 선택이 될 것입니다.
하지만 Mistral Small 모델이 주장하는 저지연 특성은 Mixtral 8x7B에 비해 제한적이지만, 입력 비용이 2.8배, 출력 비용이 8.5배에 달하는 등 비용이 대폭 증가한다.
Mistral Large는 이제 La Plateforme 및 Azure 플랫폼에서 사용할 수 있으며 Le Chat에 통합되었습니다. Le Chat(프랑스어로 고양이로 번역됨)은 다국어 통신을 지원하는 ChatGPT와 유사한 AI 챗봇입니다.
사용자는 Mistral Small, Mistral Large 및 Mistral Next의 세 가지 모델 중에서 선택할 수 있습니다. 그러나 르챗은 실시간 네트워킹 기능을 지원하지 않습니다.
출시 직후 예상보다 많은 군중이 체험에 몰려들면서 Le Chat이 중단되었으며, 보도 시간 현재 Le Chat은 다시 작동되어 실행 중입니다.
우리도 처음으로 르샤(Le Chat)를 경험했습니다. 언어 자체의 복잡성과 수신되는 훈련 데이터의 양과 품질에 따라 Le Chat은 영어로 더 표현력이 뛰어나며 다른 언어에서는 언어마다 다를 수 있습니다.
중국의 난제에 직면한 미스트랄 라지는 분명히 약간 혼란스러워했고 한동안 대답을 하지 않았다.
질문: 나비, 개미, 거미, 지네가 함께 일하는데, 결국 돈을 받지 못하는 것은 무엇입니까?
하지만 영어로 바꾸면 곧바로 문제해결 전문가로 변신한다.답이 명확하고 논리적이며, '일과 보상에 대한 인간 중심의 관점'으로 올라간다. 상식을 따르지 마세요 결국 "지네"는 보상을받지 못합니다.
같은 우리에 사는 닭과 토끼의 문제는 미스트랄 라지에게 쉬운 일이 아닙니다. 일차방정식을 세우자 금세 답이 나왔지만, 답에 나온 닭 16마리와 토끼 19마리는 틀렸다.
질문: 같은 우리에 닭과 토끼가 있는데 머리가 35개이고 다리가 94개인데 닭과 토끼는 몇 마리입니까?
이는 선형 방정식 시스템을 사용하여 풀 수 있는 고전적인 수학 문제입니다.
닭의 수를 x, 토끼의 수를 y라고 가정하면 다음 두 방정식이 나열됩니다.
1. x + y = 35 (닭과 토끼의 합은 35마리)
2. 2x + 4y = 94 (닭은 다리가 2개, 토끼는 다리가 4개이므로 총 다리는 94개입니다)
첫 번째 방정식의 x를 y의 함수로 표현하여 x = 35 – y를 얻고 이를 두 번째 방정식에 대체하여 다음을 얻습니다.
2(35 – y) + 4y = 94
방정식을 풀면 y = 19가 됩니다. x = 35 – y를 대입하면 x = 16이 됩니다.
따라서 닭은 16마리, 토끼는 19마리입니다.
후자의 두 문제도 같은 방법으로 풀 수 있는데, 정답은 닭 16마리, 토끼 19마리이다.
그런 다음 ChatGPT에 Mistral Large에게 수학 시험 문제를 달라고 요청했는데, 이 문제는 더 강렬했지만 전반적인 성능은 좋았습니다.
작은 모델, 큰 성과
Mistral AI는 직원 25명으로 지난해 5월 설립됐지만, 그 대규모 언어 모델은 이미 Hugging Face에서 유명해졌습니다.
이전에 Mixtral 8x7B를 출시했다고 보도했는데, 이 모델이 출시되자 오픈 소스 커뮤니티가 즉시 폭발했고 수많은 개발자가 밤잠을 이루지 못했습니다.
매개변수 크기는 46.7B에 불과하지만 크고 작은 데 모두 좋은 Mixtral 8x7B의 성능은 많은 벤치마크 테스트에서 Llama 2 70B 및 GPT-3.5와 비슷하며 일부 테스트에서는 약간 더 좋습니다.
미스트랄 AI의 성공 비결은 AI 분야의 세 가지 핵심 요소인 인재, 데이터, 컴퓨팅 파워를 영리하게 통합한 데 있다.
이코노미스트는 Mistral AI의 창립자와 기술 중추는 모두 프랑스의 엘리트 기술 연구소 출신이며 Google 및 Meta와 같은 거대 기술 기업의 연구소에서 귀중한 산업 경험을 축적했다고 밝혔습니다. 그들은 최첨단 모델 기술을 교육하는 방법을 진정으로 마스터하는 세계에서 몇 안 되는 전문가 중 한 명입니다.
둘째, 데이터는 Mistral AI의 성공을 위한 또 다른 마법의 무기입니다. Mistral은 모델 데이터 교육 분야에서 독보적인 기술입니다. 예를 들어 모델은 반복적이거나 의미 없는 정보를 효과적으로 필터링하여 수십억 개의 매개변수 규모로 모델을 더욱 간소화되고 효율적으로 만듭니다.
이는 일반 사용자가 자신의 개인용 컴퓨터에서 Mistral AI 모델을 쉽게 실행할 수도 있음을 의미합니다.
Mistral Large의 도착에 대해 Turing Award 수상자 Yann LeCun, NVIDIA 수석 과학자 Jim Fan 및 기타 유명 인사들도 X에 축하를 보냈습니다.
현재 미스트랄AI의 가치평가액은 20억 달러를 넘어섰고, 그 뒤의 투자 라인업도 세계 최고 기업들과 뒤지지 않는다.
Lightspeed Venture Capital, Redpoint Venture Capital, Index Venture Capital과 같은 미국 최고의 벤처 캐피탈 회사부터 실리콘 밸리의 거대 벤처 캐피털인 a16z, NVIDIA, Salesforce, BNP Paribas 등에 이르기까지 모두 Mistral AI를 선호합니다. 여러 차례의 자금 조달을 거친 후 Mistral AI는 이미 AI 유니콘 대열에 진입했습니다.
Microsoft는 또한 어제 Mistral AI와의 새로운 파트너십을 발표하여 Mistral AI와의 협력이 다음 세 가지 핵심 영역에 초점을 맞출 것이라고 약속했습니다.
슈퍼컴퓨팅 인프라: Microsoft는 AI 교육 및 추론 워크로드를 위해 Azure AI 슈퍼컴퓨팅 인프라를 통해 Mistral AI를 지원할 예정입니다.
확장된 시장: Microsoft와 Mistral AI는 Azure AI Studio의 MaaS 및 Azure Machine Learning 모델 카탈로그를 통해 Mistral AI의 고급 모델을 고객에게 제공할 예정입니다.
AI R&D: Microsoft와 Mistral AI는 유럽 공공 부문 워크로드를 포함하여 일부 고객을 위한 독점 모델을 개발하기 위해 협력을 모색할 것입니다.
그러나 네티즌들은 마이크로소프트의 움직임에 의문을 제기했다. X 사용자 @osxzxso는 Microsoft가 시장을 독점하기 위해 "복잡한" 전략을 채택하려고 한다고 암시했습니다. 머스크는 댓글란에도 어처구니 없는 이모티콘으로 동의를 표시하기도 했다.
빵 양면에 누텔라를 바르는 모습이 보이네요
빵 양면에 땅콩버터가 발라져 있는 걸 보니
신중한 네티즌들은 Mistral AI가 새 모델을 출시한 후 공식 웹사이트에서 오픈 소스 커뮤니티에 대한 헌신에 대한 관련 콘텐츠가 조용히 사라졌으며 새 모델이 오픈 소스를 지원하지 않는다는 점을 관찰했다는 점을 언급할 가치가 있습니다.
하지만 미스트랄 CEO 멘쉬는 월스트리트저널과의 인터뷰에서 미스트랄 AI가 오픈소스의 원래 의도를 위반하지 않았으며, 상용화 전략을 추진하는 동시에 오픈소스 공약을 유지하는 이중 전략을 채택했다고 밝혔습니다.
분명히 우리는 비즈니스 모델 구축과 오픈 소스 가치 유지 사이에서 적절한 균형을 찾아야 합니다. 우리는 새로운 것과 새로운 아키텍처를 발명하고 싶지만 고객에게 더 잘 팔리는 제품을 제공하고 싶습니다.
# aifaner 공식 위챗 공개 계정: aifaner(WeChat ID: ifanr) 팔로우를 환영합니다. 더 흥미로운 콘텐츠를 최대한 빨리 제공해 드리겠습니다.
Ai Faner | 원본 링크 · 댓글 보기 · Sina Weibo