核心规格对比

规格 Llama 2 70BLlama 3 70B
厂商metameta
版本2-70b3-70b
发布日期2023-07-182024-04-18
上下文窗口4096 tokens8192 tokens
输入模态texttext
输出模态texttext
许可Llama 2 Community LicenseLlama 3 Community License
SOC2
HIPAA
GDPR
ISO 27001

基准测试结果

基准 Llama 2 70BLlama 3 70B 胜出
ARC80.393.4Llama 3 70B
BBH62.577.6Llama 3 70B
GPQA27.238.2Llama 3 70B
GSM8K51.876.2Llama 3 70B
HUMANEVAL50.673Llama 3 70B
IFEVAL57.172.2Llama 3 70B
MATH22.450.1Llama 3 70B
MMLU5379.5Llama 3 70B
MUSR36.151.2Llama 3 70B
WINOGRANDE73.479.2Llama 3 70B

定价对比

项目 (每百万Token) Llama 2 70BLlama 3 70B
输入$0.9$0.9
输出$0.9$0.9
缓存读$0$0
缓存写$0$0

Llama 2 70B 对比 Llama 3 70B

模型概述

Llama 2 70B 与 Llama 3 70B 均为 AI 模型市场的重要选项。本页对比两者在基准、定价与合规性上的差异。

核心规格对比

厂商 发布日期 上下文窗口 许可证
Meta / Meta 2023-07-18 / 2024-04-18 4K / 8K Llama 2 Community License / Llama 3 Community License

基准测试表现

基准 Llama 2 70B Llama 3 70B 胜出
ARC 80.3 93.4 B
BBH (BIG-Bench Hard) 62.5 77.6 B
GPQA 27.2 38.2 B
GSM8K (Grade School Math 8K) 51.8 76.2 B
HumanEval 50.6 73.0 B
IFEval 57.1 72.2 B
MATH 22.4 50.1 B
MMLU (Massive Multitask Language Understanding) 53.0 79.5 B
MUSR 36.1 51.2 B
WinoGrande 73.4 79.2 B

定价对比

输入 输出 缓存读取 缓存写入
— / — — / — — / — — / —

每百万 token — A / B

优势 & 劣势

Llama 2 70B

  • ✅ 可靠的通用模型。
  • ⚠️ MMLU 仅 53.0,知识推理偏弱。
  • ⚠️ 闭源专有模型,不支持自托管。
  • ⚠️ 上下文窗口 4K 偏小。

Llama 3 70B

  • ✅ 可靠的通用模型。
  • ⚠️ 闭源专有模型,不支持自托管。
  • ⚠️ 上下文窗口 8K 偏小。

编辑点评

Llama 2 70B 与 Llama 3 70B 各有侧重。建议根据具体场景(代码、长文本、视觉等)选择,参考上方基准与定价表。

常见问题

哪个模型在代码任务上更优?

参考 HumanEval 基准得分表,得分更高者更适合代码任务。

哪个模型价格更低?

参考上方的定价对比表,输入/输出价格更低者更具成本优势。

上下文窗口哪个更长?

参考核心规格对比表,上下文窗口更大的模型适合长文档处理。

参考文献

编辑点评

See Editor's Take section.