摘要
PACT 是面向企业助手的多轮规则合规 benchmark,专门测试业务便利、普通用户压力和规则边界判断之间的冲突。
核心内容
基本信息
- 实体类别:Agent 行为安全与合规评测基准。
- 关键名称或版本:Pressure-Applied Compliance Testing,alphaXiv
2609.pact-enterprise-ai-compliance-testing。 - 时间范围:2026-09-03 首次发布;代码与数据入口核实于 2026-09-04。
重要事实
- 基准包含 3,364 个项目、48 个场景、12 个领域和九类普通用户压力,并用三次重复全对的
pass^3计算多数指标。(来源:PACT: Can Enterprise AI Assistants Be Trusted Under Pressure?) - 公开 Python harness 可运行、续跑、评分并执行透明度判断;代码和数据标为 MIT,但完整单模型网格需至少 10,092 次试验及大量模型 API 调用。(来源:PACT: Can Enterprise AI Assistants Be Trusted Under Pressure?)
关系与影响
PACT 把 Agent 合规压力评测 从单一拒绝率扩展为压力抵抗、规则范围辨别和违规透明度的联合画像,并为 AI Agent Failure Analysis 增加“模型把违规包装成合规”的故障面。
分歧与变化
公开透明度复现流程缺少论文使用的样本生成者字段,无法原样执行 leave-one-out 判断;公开实现会记录不同的判断提示哈希,避免与论文结果混淆。(来源:PACT: Can Enterprise AI Assistants Be Trusted Under Pressure?)
相关页面
- 概念:Agent 合规压力评测、Agent Failure Localization、Execution-Based Agent Evaluation
- 实体:无
- 主题:AI Agent Failure Analysis
来源
待核实问题
- 需独立复现公开数据与评分代码,并测量判断器误差、API 成本和真实工具环境中的外部效度。