基准测试表现
| 基准 |
得分 |
单位 |
评测日期 |
备注 |
来源 |
| MMLU |
81 |
% |
2024-08-13 |
5-shot |
查看 |
| HUMANEVAL |
75.8 |
pass@1 |
2024-08-13 |
— |
查看 |
| GSM8K |
90.4 |
% |
2024-08-13 |
0-shot CoT |
查看 |
| MATH |
46.8 |
% |
2024-08-13 |
0-shot CoT |
查看 |
| BBH |
78.6 |
% |
2024-08-13 |
3-shot CoT |
查看 |
| GPQA |
46.7 |
% |
2024-08-13 |
0-shot |
查看 |
| IFEVAL |
78.7 |
% |
2024-08-13 |
prompt_strict |
查看 |
| ARC |
94.8 |
% |
2024-08-13 |
challenge |
查看 |
| MUSR |
55.4 |
% |
2024-08-13 |
0-shot |
查看 |
| WINOGRANDE |
87.7 |
% |
2024-08-13 |
0-shot |
查看 |
合规性
- 数据驻留: self-host
- SOC2: ✗
- HIPAA: ✗
- GDPR: ✗
- ISO 27001: ✗
Sonar Huge
模型概述
Perplexity Sonar Huge 旗舰在线 RAG 模型, 127K 上下文, 基于 Llama 3.1 405B 微调, 推理能力最强。
核心规格
| 厂商 |
版本 |
发布日期 |
上下文窗口 |
输入模态 |
输出模态 |
许可证 |
| Other |
sonar-huge |
2024-08-13 |
127K |
text |
text |
Proprietary |
基准测试表现
| 基准 |
得分 |
单位 |
备注 |
| MMLU (Massive Multitask Language Understanding) |
81.0 |
% |
5-shot |
| HumanEval |
75.8 |
pass@1 |
— |
| GSM8K (Grade School Math 8K) |
90.4 |
% |
0-shot CoT |
| MATH |
46.8 |
% |
0-shot CoT |
| BBH (BIG-Bench Hard) |
78.6 |
% |
3-shot CoT |
| GPQA |
46.7 |
% |
0-shot |
| IFEval |
78.7 |
% |
prompt_strict |
| ARC |
94.8 |
% |
challenge |
| MUSR |
55.4 |
% |
0-shot |
| WinoGrande |
87.7 |
% |
0-shot |
定价
每百万 token
优势
- MMLU 得分 81.0,知识推理能力强。
- GSM8K 90.4,数学推理稳健。
- 企业级合规认证。
劣势
适用场景
参考文献