Anthropic与Accenture合作开展前沿AI嵌入式独立评估

Anthropic 9月18日宣布与Accenture合作，对前沿人工智能模型开展独立评估。这项合作将由Accenture旗下专注人工智能的Faculty团队牵头。

合作范围包括模型评估、红队测试、对齐评估以及安全措施测试。与传统外部评估不同，嵌入式评估人员将进入人工智能公司的内部环境，并获得接近员工级别的访问权限。

Anthropic表示，这一机制希望在保持独立判断的同时，让评估者更早接触模型开发流程，从而识别真实企业应用中的风险。双方预计未来五年各自至少投入10亿美元建设相关能力。

嵌入式独立评估仍处于早期阶段，具体治理、信息隔离与透明度安排尚待完善。其能否形成可复制的行业标准，将成为前沿模型安全治理的重要观察点。

来源：Anthropic官方公告。 https://www.anthropic.com/news/accenture-embedded-evaluation