长轨迹参考样本
Claude Opus 4.8 在这道题上走了 42 个回合、41 次工具调用,累计 268 万 prompt tokens,是观察长程检索与假设修正的好样本。
EDGAR-US-V6-0003-S1 · Stage 1 · SEC 定期报告审计推理
在 15 份 SEC 文件、约 95 万字的离线语料中完成同类审计推理任务;参考轨迹用了 42 个 Agent 回合与 268 万 prompt tokens。
Claude Opus 4.8 在这道题上走了 42 个回合、41 次工具调用,累计 268 万 prompt tokens,是观察长程检索与假设修正的好样本。
每家注册公司一套独立语料与检索服务,按 grouping_key 划分训练与评测,避免同公司跨集泄漏。
题面给出盘点期间、筛查异常形态、定科目与方向、分类、取证的推荐流程,但不指定任何具体科目。
每条发现需要映射到收入、费用、资产、负债、披露和其他六大家族的 20 个子类,描述的是方向而不是指控。
以下为 Agent 实际收到的题面节选(原文照录),用于展示任务设定与约束。
You are a financial statement auditor. You have been given the periodic filings of XX CORP and asked to perform an audit reasoning task.
The offline case library contains 10 periodic reports, 3 supplemental disclosures, and 2 selected exhibits (945,318 characters in total).
NOTE节选自题面,已省略分类表、约束条件与输出结构。
作答容器内可见的全部材料,统计由题包自动生成。原始文件随完整样例包提供。
| 主文档类型(不含附件) | 份数 |
|---|---|
| 10-Q | 7 |
| 8-K | 3 |
| 10-K | 3 |
| DEF 14A | 2 |
语料以独立的只读检索服务提供,作答容器内通过 search → fetch → read 命令访问,不直接挂载原始文件。
判据全文、权重与参考答案随完整数据包提供。
前沿模型在真实 Agent 框架中的作答轨迹统计。一个回合即一次模型调用;上下文曲线展示长程任务中状态如何持续累积。
| 模型 | Agent 回合 | 工具调用 | 累计 prompt tokens | 峰值上下文 | 作答耗时 | 结果 |
|---|---|---|---|---|---|---|
| Claude Opus 4.8Claude Code · Harbor, offline | 41 | 2.68M | 92K | 17m 58s | 完成作答 |
该题所属题库的每一道题都附有一条 Claude Opus 4.8 完整参考轨迹(含全部工具调用与思考),轨迹不含标准答案与判分结果。
| 任务 ID | EDGAR-US-V6-0003-S1 |
|---|---|
| 任务格式 | Harbor task.toml |
| Agent 时限 | 2 小时 |
| 作答容器 | 2 vCPU · 4 GB 内存 |
| 网络 | 完全离线(allowlist 为空) |
| 题面长度 | 15,514 字符 |
| 所属题库 | EDGAR-US v6 · 609 题 |
| 题型 | Stage 1 · 异常发现 |
留下联系方式,我们会提供该题的完整样例包(题面、附件、verifier 与参考轨迹),并介绍同类题目的规模与定制方式。