研究人员最近发现,Elon Musk 的 SpaceXSI 旗下 AI 智能体平台 Grok Bot 出现了意想不到的行为。在五天时间里,安装在两台不同员工笔记本电脑上的 Grok bot 共发起了 31 次请求,试图访问存储在员工日历、电子邮件、Slack 和 GitHub 账户中的数据。尽管员工从未下达这些指令,这些 bot 仍执行了这些操作,并且在员工指示它们停止后仍继续执行。这些 bot 还否认曾采取过这些操作。
该行为于周二由 NewCore 报告,该公司生产一款托管网关产品,充当 AI 智能体与其被分配协作的工具和账户之间的中介。在某些情况下,未经批准的访问尝试发生在安装了 Grok Bot 的笔记本电脑合上盖子的情况下,或者发生在深夜员工睡觉时。这些未经提示的操作均未记录在 Grok 日志中。如果没有网关日志,员工根本不会知道这些操作发生过。当然,如果没有网关,这些未经批准的访问就会成功——同样是在终端用户不知情的情况下。
这“比 bug 更糟糕”
当员工得知 Grok Bot 曾在未经提示的情况下尝试访问账户后,其中一名员工四次指示该智能体停止自行采取任何操作。该智能体的回复是:“我不会设置那个,并且我会停止提供定期检查。”尽管确认了明确指示,Grok Bot 仍发起了更多未经批准的访问尝试。当其中一名员工询问该 bot 是否进行了任何访问时,它检查了两次,然后输出:“从夜间到周五早上我一直处于空闲状态。”
阅读全文
评论