基准测试表现
| 基准 |
得分 |
单位 |
评测日期 |
备注 |
来源 |
| MMLU |
65.9 |
% |
2023-08-24 |
5-shot |
查看 |
| HUMANEVAL |
69.5 |
pass@1 |
2023-08-24 |
— |
查看 |
| GSM8K |
55.9 |
% |
2023-08-24 |
0-shot CoT |
查看 |
| MATH |
37.8 |
% |
2023-08-24 |
0-shot CoT |
查看 |
| BBH |
71 |
% |
2023-08-24 |
3-shot CoT |
查看 |
| GPQA |
36.4 |
% |
2023-08-24 |
0-shot |
查看 |
| IFEVAL |
50.1 |
% |
2023-08-24 |
prompt_strict |
查看 |
| ARC |
87.8 |
% |
2023-08-24 |
challenge |
查看 |
| MUSR |
47.3 |
% |
2023-08-24 |
0-shot |
查看 |
| WINOGRANDE |
70.4 |
% |
2023-08-24 |
0-shot |
查看 |
定价
| 项目 |
价格 |
币种 |
| 输入 | $0.3 / Mtok | USD |
| 输出 | $0.3 / Mtok | USD |
| 缓存读 | $0 / Mtok | USD |
| 缓存写 | $0 / Mtok | USD |
数据来源:
https://ai.meta.com/blog/
· 截至 2023-08-24
合规性
- 数据驻留: self-host
- SOC2: ✗
- HIPAA: ✗
- GDPR: ✗
- ISO 27001: ✗
Code Llama 13B
模型概述
Meta Code Llama 13B 代码专用开源模型, 16K 上下文, 13B 参数, 适合中等规模代码任务部署。
核心规格
| 厂商 |
版本 |
发布日期 |
上下文窗口 |
输入模态 |
输出模态 |
许可证 |
| Meta |
code-llama-13b |
2023-08-24 |
16K |
text |
text |
Llama 2 Community License |
基准测试表现
| 基准 |
得分 |
单位 |
备注 |
| MMLU (Massive Multitask Language Understanding) |
65.9 |
% |
5-shot |
| HumanEval |
69.5 |
pass@1 |
— |
| GSM8K (Grade School Math 8K) |
55.9 |
% |
0-shot CoT |
| MATH |
37.8 |
% |
0-shot CoT |
| BBH (BIG-Bench Hard) |
71.0 |
% |
3-shot CoT |
| GPQA |
36.4 |
% |
0-shot |
| IFEval |
50.1 |
% |
prompt_strict |
| ARC |
87.8 |
% |
challenge |
| MUSR |
47.3 |
% |
0-shot |
| WinoGrande |
70.4 |
% |
0-shot |
定价
每百万 token
优势
劣势
- 闭源专有模型，不支持自托管。
- 上下文窗口 16K 偏小。
适用场景
参考文献