清除条件
共 1 条
Hacker News Show09/28模型产品发布/更新海外

OpenAPPA:开源确定性护栏,防提示注入数据外泄

OpenAPPA 发布,一个开源、厂商无关、MIT 许可的确定性 AI 护栏,声称 100% 抵御提示注入或模型幻觉导致的数据外泄。基准测试中任务完成率 89%,攻击成功率 0%;对比 Claude Auto mode 完成率 90%、攻击成功率 10%,微软 FIDES 完成率 41%、攻击成功率 31%。它不匹配命令黑名单,而是追踪数据流:配置描述数据源、受众、信任级别和权限,每次轨迹带安全标签,标签只会更严格,决策由代数推导,模型无法看到或操纵。配置为声明式,可在 CI/CD 中验证工具图覆盖,且数据特定,可…

推荐理由做 Agent 安全的人可直接看:攻击成功率 0% 对比 Claude Auto mode 的 10%