人工智能
Anthropic更新使用政策,高风险场景继续要求人工监督
Anthropic10月8日公布新版使用政策,计划11月12日生效。更新细化欺骗活动和高风险应用要求,并对可自主执行物理动作的硬件增加安全控制说明;高风险场景的人类监督要求并非首次提出。
Anthropic10月8日公布2026年使用政策更新,公告注明新版将于11月12日生效。公司表示,多数改动旨在澄清现有规则,并结合Claude承担更长、更独立任务的情况补充示例。
新版将欺骗性活动限制集中为独立章节,涉及隐瞒信息发布者、虚假账号放大传播等行为。对可能影响健康、财务、法律权利或基本服务的高风险应用,公司继续要求具备资质、能审核并更改建议的人类参与,同时向受影响者说明AI的使用。
政策也补充自主物理动作相关控制:合格操作人员应能观察设备并在必要时停止,模型断开连接后设备需维持安全状态。公告强调,高风险场景的人工监督要求原本已存在,不能将本次文字细化理解为首次设立该要求。
配图:AI生成示意图。 来源:Anthropic https://www.anthropic.com/news/2026-usage-policy-update
END← 返回首页