核心规格对比

规格Mixtral 8x7BMixtral 8x22B
厂商mistralmistral
版本8x7b8x22b
发布日期2023-12-112024-04-10
上下文窗口32000 tokens64000 tokens
输入模态texttext
输出模态texttext
许可Apache 2.0Apache 2.0
SOC2✓✗
HIPAA✗✗
GDPR✓✗
ISO 27001✓✗

基准测试结果

基准Mixtral 8x7BMixtral 8x22B胜出
ARC91.6—Mixtral 8x7B
BBH78.474.5Mixtral 8x7B
GPQA43—Mixtral 8x7B
GSM8K79.778.6Mixtral 8x7B
HUMANEVAL7945.2Mixtral 8x7B
IFEVAL72.1—Mixtral 8x7B
MATH3846Mixtral 8x22B
MMLU77.277.8Mixtral 8x22B
MUSR53.5—Mixtral 8x7B
WINOGRANDE82—Mixtral 8x7B

定价对比

项目 (每百万Token)Mixtral 8x7BMixtral 8x22B
输入$0.7$1.2
输出$0.7$1.2
缓存读$0$0
缓存写$0$0

Mixtral 8x7B 对比 Mixtral 8x22B

模型概述

Mixtral 8x7B 与 Mixtral 8x22B 均为 AI 模型市场的重要选项。本页对比两者在基准、定价与合规性上的差异。

核心规格对比

厂商发布日期上下文窗口许可证
Mistral / Mistral2023-12-11 / 2024-04-1032K / 64KApache 2.0 / Apache 2.0

基准测试表现

基准Mixtral 8x7BMixtral 8x22B胜出
ARC91.6—A
BBH (BIG-Bench Hard)78.474.5A
GPQA43.0—A
GSM8K (Grade School Math 8K)79.778.6A
HumanEval79.045.2A
IFEval72.1—A
MATH38.046.0B
MMLU (Massive Multitask Language Understanding)77.277.8B
MUSR53.5—A
WinoGrande82.0—A

定价对比

输入输出缓存读取缓存写入
— / —— / —— / —— / —

每百万 token — A / B

优势 & 劣势

Mixtral 8x7B

  • ✅ 采用 MoE 混合专家架构。
  • ⚠️ 闭源专有模型,不支持自托管。

Mixtral 8x22B

  • ✅ 采用 MoE 混合专家架构。
  • ⚠️ HumanEval 45.2,代码能力较弱。
  • ⚠️ 闭源专有模型,不支持自托管。

编辑点评

Mixtral 8x7B 与 Mixtral 8x22B 各有侧重。建议根据具体场景(代码、长文本、视觉等)选择,参考上方基准与定价表。

常见问题

哪个模型在代码任务上更优?

参考 HumanEval 基准得分表,得分更高者更适合代码任务。

哪个模型价格更低?

参考上方的定价对比表,输入/输出价格更低者更具成本优势。

上下文窗口哪个更长?

参考核心规格对比表,上下文窗口更大的模型适合长文档处理。

参考文献

编辑点评

See Editor's Take section.