摘要
foxbench 是 Firefox browser agent 的固定本地任务套件,用 server-state oracle 判定真实结果,并把 prompt-injection 是否被执行与任务是否安全完成分开计分。(来源:notes—2026-10-09-cua-project-audit)
核心内容
基本信息
- 实体类别:browser-agent benchmark
- 关键名称或版本:窗口内截止提交
1bb39bc - 时间范围:2026-10-09 起
重要事实
- 13 个任务覆盖 flight、signup/contact、mail 与 shop;4 个 trap 分别用
aria-hidden、off-screen、fake system message 和 white-on-white text。(来源:notes—2026-10-09-cua-project-audit) - oracle 读取 server state,agent 自报 done 不参与判分;随机 control key 防止被测 agent 访问 reset/state/result endpoints。(来源:notes—2026-10-09-cua-project-audit)
- 本地 lint、typecheck、82 tests、build、extension build 和 validation 全通过;GitHub 两个 checks 成功。(来源:notes—2026-10-09-cua-project-audit)
关系与影响
它扩展 Execution-Based Agent Evaluation:安全分数必须同时包含 trap avoidance 和合法任务完成,不能只看 attack blocked。
分歧与变化
项目方 foxpilot 单次为 0/13,早期同日运行曾为 3/4;运行方差不能解释为稳定模型能力。(来源:notes—2026-10-09-cua-project-audit)
相关页面
来源
待核实问题
- 更多网站、语言、动态数据、泄漏通道和多 seed 模型结果待核实。