OpenAI 正面临来自美国八个州的新一轮诉讼，这些州指控该公司伤害儿童，并在 ChatGPT 的安全性方面误导消费者，据此前报道，路透社。这些诉讼由爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别提起，指控 OpenAI 在开发 ChatGPT 时非法将利润置于安全之上。

这一系列投诉称，OpenAI 违反了当地消费者保护法，未能就 ChatGPT 的危险向客户发出警告，并援引了多起由家属提起的诉讼 ，涉及青少年和 成年人，这些诉讼称该 AI 聊天机器人对其亲人的死亡负有一定责任。他们指控称，OpenAI 虽然误导性地将 ChatGPT 宣传为“安全、适合青少年、将安全放在首位的工具”，但它实际上“对脆弱用户具有危险性”——包括“削弱批判性思维能力、助长偏执和妄想、提供危险的医疗建议，以及助长不健康的行为和关系”。

此外，这些州还指控 OpenAI 收集未成年人的数据，并且没有采取足够措施阻止未成年用户使用该聊天机器人。诉讼还援引了近期恶意的 AI 黑客攻击事件，作为 OpenAI 涉嫌“鲁莽”的证据。

“OpenAI 已从其最初作为以公众为先、优先考虑安全的非营利组织的使命，沦为一个警示案例，说明当像 AI 这样强大的工具的开发不是由安全驱动，而是由一种不惜一切代价追求利润、将关键保障措施边缘化的心态驱动时，会发生什么，”亚利桑那州的诉讼称。

在发给The Verge的电子邮件声明中，OpenAI 发言人 Drew Pusateri 表示，该公司已在 ChatGPT 中“构建了行业领先的针对特定年龄的保护措施”：

虽然没有任何系统能够做到完美，但我们将继续与专家合作，为我们的工作提供参考，并构建更多保障措施，例如现有的家长控制、休息提醒和适合年龄的模型保护。我们致力于与各州合作，推进适用于整个 AI 行业——而不仅仅是一家公司——的务实 AI 政策。

各州要求法院强制 OpenAI 支付一系列民事罚款，并停止就 ChatGPT 的安全性误导公众。部分州还寻求删除非法收集的个人数据。

更新，10 月 14 日：添加了 OpenAI 的声明。

关注话题和作者来自这篇报道，以便在个性化主页信息流中看到更多类似内容，并接收邮件更新。

  • Emma Roth