AI 审计日志为何不可信:记录者就是肇事者
DEV Community 文章指出,AI 系统的审计日志由执行操作的同一进程写入,因此当 Agent 泄露数据、删错数据库或发起未授权调用时,日志往往显示「success」且格式合法,监控只回答「是否成功」因而亮绿灯。作者认为 AI 失败的特点是「看起来合理」:不抛异常、不报错,错误在数周后才被发现,追溯成本从几分钟变成数小时甚至数天。原文信息有限,未给出具体案例或解决方案。
推荐理由做 Agent 监控和审计的人该看:日志由执行方自写,成功状态不等于做对了事。