唛克奈因官网旗舰店（網纸→ ctmyao.com）——《正丨品丨保丨障》——《雄丨厚丨资丨金丨保丨障》——《国丨外丨代丨购》——《口丨碑丨第丨一》——《强丨效丨安丨全》——Anthropic 表示，随着 AI 模型能力与应用范围持续扩张，相应模型的风险性也急剧增加，如今人工分析已无法应对 AI 模型庞大的行为组合空间。因此，该公司在过去一年内开发出“自动化稽核 AI Agent”Petri。其内置 111 种高风险场景指令，可用于评估模型的情境感知、策略规划及自我防护能力，并已验证其有效性。此次开源 Petri，正是将这套系统化工具提供给业界使用。该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务（網纸→ ctmyao.com）唛克奈因官网旗舰店（網纸→ ctmyao.com）
发表于