#提示注入

全部资讯模型
清除条件
共 1 条
OpenRouter 公告18 小时前模型技巧与观点海外

OpenRouter 实测 13 种提示注入攻击:仅靠标签过滤不够

OpenRouter 发布教程,针对让模型读取文档、邮件或网页的应用场景,用 25 种攻击对 4 款当前模型做了防御开关对比测试。结果显示,给内容加标签能减少攻击邮件,但只有对每次工具调用都做 Armor 校验才能全部拦截。原文信息有限,未披露具体模型名单和攻击成功率数字。

推荐理由做 RAG 或让模型读外部内容的产品,可直接参考「逐次校验工具调用」这条防御结论