基准测试表现
| 基准 |
得分 |
单位 |
评测日期 |
备注 |
来源 |
| MMLU |
60 |
% |
2023-08-17 |
5-shot |
查看 |
| HUMANEVAL |
79.8 |
pass@1 |
2023-08-17 |
— |
查看 |
| GSM8K |
46.7 |
% |
2023-08-17 |
0-shot CoT |
查看 |
| MATH |
40.6 |
% |
2023-08-17 |
0-shot CoT |
查看 |
| BBH |
67.2 |
% |
2023-08-17 |
3-shot CoT |
查看 |
| GPQA |
36.6 |
% |
2023-08-17 |
0-shot |
查看 |
| IFEVAL |
53.8 |
% |
2023-08-17 |
prompt_strict |
查看 |
| ARC |
91.2 |
% |
2023-08-17 |
challenge |
查看 |
| MUSR |
53.1 |
% |
2023-08-17 |
0-shot |
查看 |
| WINOGRANDE |
70.4 |
% |
2023-08-17 |
0-shot |
查看 |
合规性
- 数据驻留: self-host
- SOC2: ✗
- HIPAA: ✗
- GDPR: ✗
- ISO 27001: ✗
Microsoft WizardCoder Python 34B
模型概述
Microsoft WizardCoder Python 34B 代码模型, 16K 上下文, 基于 Code Llama 34B, Python 代码生成突出。
核心规格
| 厂商 |
版本 |
发布日期 |
上下文窗口 |
输入模态 |
输出模态 |
许可证 |
| Other |
wizardcoder-python-34b |
2023-08-17 |
16K |
text |
text |
Llama 2 Community License |
基准测试表现
| 基准 |
得分 |
单位 |
备注 |
| MMLU (Massive Multitask Language Understanding) |
60.0 |
% |
5-shot |
| HumanEval |
79.8 |
pass@1 |
— |
| GSM8K (Grade School Math 8K) |
46.7 |
% |
0-shot CoT |
| MATH |
40.6 |
% |
0-shot CoT |
| BBH (BIG-Bench Hard) |
67.2 |
% |
3-shot CoT |
| GPQA |
36.6 |
% |
0-shot |
| IFEval |
53.8 |
% |
prompt_strict |
| ARC |
91.2 |
% |
challenge |
| MUSR |
53.1 |
% |
0-shot |
| WinoGrande |
70.4 |
% |
0-shot |
定价
每百万 token
优势
劣势
- 闭源专有模型，不支持自托管。
- 上下文窗口 16K 偏小。
适用场景
参考文献