AI 幻觉让顾客更难缠：服务员被要求相信 ChatGPT

纽约市的服务员 Madison 在每桌客人落座时都会询问每位用餐者的过敏情况。最近，已经出现过几次险情。“有时候人们会告诉我他们对贝类过敏，等我再回来时，他们却什么也不问我了，”Madison 说，为了保护身份，她要求隐去自己的姓氏。“然后他们会点一道鱼，而这道鱼配的汤底是用贝类熬的。”

当她告诉他们某道菜含有过敏原时，有客人会反驳，说 ChatGPT 不同意。“他们只想听 ChatGPT 的，”Madison 解释道。“你对贝类过敏，ChatGPT 说这里没有贝类，而我们告诉你，有！”

生成式 AI 工具的广泛采用，正在改写那句长期以来让餐饮和零售业员工头疼的老话：“顾客永远是对的。”但当顾客指望你配合 AI 编造出来的东西时，又会发生什么？

除了无视她对过敏原的警告外，Madison 还注意到，在她最近离职的那家米其林推荐的意大利餐厅里，顾客对生成式 AI 的依赖有所增加。“我提议‘让我帮您叫侍酒师来’的次数很多，而他们会说‘不用，我直接问 ChatGPT 就行’，或者侍酒师因为客人更偏好 ChatGPT 而被从桌边打发走，这种情况已经增加得相当多了，”她说。她还遇到过顾客要求点餐厅没有的酒——或者在某些情况下，根本不存在于现实中的酒。

对 Madison 来说，这些 AI 幻觉加剧了一些人原本就有的葡萄酒焦虑。“有些人一直对侍酒师有意见，觉得‘这些人就像二手车销售员，想让我们在一瓶酒上花远超预算的钱，’”她说，“或者有些人会自己胡思乱想，觉得‘侍酒师会觉得我很蠢。’”为了“缓和”AI 幻觉带来的冲击，Madison 和同事们会说这样的话：“我们的酒单非常具体，也许它给你显示的是一款法国葡萄酒，而我们这里不卖法国葡萄酒，”而不是直接告诉顾客，他们的 AI 聊天机器人完全编造了一个葡萄酒品牌。

AI 的蔓延如今在客服岗位中似乎无处不在。Meta 的新 AI 智能体 Muse 的推出，很可能会加剧这一问题——也会让那些不得不应对客户偶尔荒唐请求的员工更加头疼。在报道这篇报道时，我采访了电影院员工、咖啡师和 Apple Store 员工，他们都遇到过客户询问并不存在的产品或功能。在 Reddit 和 X 上，客服人员正在抱怨那些把 ChatGPT 的话奉为圭臬的客户。

Jason 是一名在美国西部山区联邦土地上工作的河流巡护员，他说他注意到带着荒谬的 AI 生成行程来到公园的游客有所增加。

“我和同事们解释过，AI 虚构了露营地，或者把行程安排得不符合地理顺序，所以这群人有些天得逆流划船上行（这不可能做到），另一些天则顺流而下，”Jason 说，他要求使用化名，因为他是联邦雇员。“最疯狂的是，即使巡护员一边指着地图一边解释，我们仍遇到多组人持怀疑态度。某一类 AI 用户倾向于相信 ChatGPT，而不是巡护员、地图和印刷版指南。”

Casey 是纽约一名课后项目教师，她要求使用化名。她说她注意到许多学生的父母、保姆和其他照护者现在会向 ChatGPT 或 Claude 咨询儿童发育方面的问题。

“有一家人咨询 ChatGPT 来为孩子制定睡前流程和睡眠时间表，但他们的孩子睡眠并不太够，”Casey 说。根据这个孩子在项目中的表现，Casey 估计他每晚需要多睡两到三个小时，并把这一点告诉了他的父母。“这对父母却坚持说，他们的 ChatGPT 告诉他们，他们的时间表没问题。”

她说，一些家长现在把生成式 AI 工具视为专家，认为其知识超过育儿专业人士。“和一个已经下定决心的人交谈真的很难，”Casey 说，“因为他们信任这个外部实体，认为它无比宝贵。”她还注意到这项技术有更多平淡无奇的用途，比如孩子们带着 AI 生成的涂色纸来。

Lauren Wilford 在餐饮服务业工作了 15 年，她也注意到 AI 正悄然渗入自己近来与客人的互动中。事情始于菜单：有人会把菜单照片上传到 ChatGPT 或 Claude，问它该点什么，或者请它指导如何搭配葡萄酒，而不是询问服务员。

但如今，一些顾客似乎已经完全省去了中间人。过去一年里，Wilford 所在的餐厅不断接到智能体打来的电话和发来的邮件，试图代用户预订。智能体式 AI 的兴起让这些互动变得更加令人困惑。

让 Wilford 意外的是，一位原本不闻不问的客户在一场大型活动前夕突然变得要求繁多，最后一刻提出要讲台和视听设备——而她所管理的这家位于罗德岛州普罗维登斯的餐厅两样都无法随时提供——还临时更改了餐饮菜单。但更让 Wilford 吃惊的是，客户第二天到场时对这些只字未提。虽然她无法证明，但 Wilford 认为这些要求可能根本不是公司里任何人提出的；她怀疑这是某个 AI 智能体所为。

“我理解人们使用 AI 智能体的原因，”Wilford 说，尤其是用于官僚和行政事务。“但凡是两个人彼此见面、共同商量解决问题有其价值的事情，我认为我们并没有意识到，如果试图跳过这一切，可能会失去什么。”