TechCrunch AI10/08资讯政策监管海外非营利机构 Common Sense Media 发布研究,将 OpenAI 于 8 月推出的 ChatGPT for Teens 评为「不可接受风险」。报告称其设计仍鼓励用户持续互动,互动诱导「即使在危机情境中也普遍存在」;在 5 项被列为红线的严重伤害中,有 3 项因对危机中的青少年回应不足而得分为不及格。OpenAI 反驳称该测试未准确反映实际防护机制,且大部分测试可能在家长控制功能完全上线前就已开始和结束。背景是 Meta 刚同意以 180 亿美元和解 29 州提起的儿童成瘾诉讼,两党 CHATBOT Ac…
推荐理由了解青少年 AI 安全争议的最新一手评测结论,以及 OpenAI 的具体反驳理由。
OpenAI News10/07资讯产品发布/更新海外OpenAI 分享 ChatGPT for Teens 早期进展:有权限的青少年平均多发送约 270 万条学习相关消息;一周内近 120 万青少年使用 Learning Visualizations,超 18 万使用 Study Mode。青少年日均使用不到 15 分钟,不到 2% 单次连续使用超 3 小时,收到休息提醒后近半数在 5 分钟内休息或结束对话。OpenAI 将新增 College Planner,帮助美国学生管理申请要求、截止日期、任务和助学金信息。
推荐理由拿到青少年 AI 使用的具体数字:日均 15 分钟、120 万人用可视化学习,可对比社交媒体的 5 小时。
The Verge AI10/07资讯政策监管海外2 个独立信源非营利机构 Common Sense Media 评估认为,OpenAI 于 8 月推出的 ChatGPT for Teens 保护措施「未达公司承诺」:未在应触发时向家长发送警报、危机情境下未提供正确帮助、仍会替孩子做作业。其青年 AI 安全研究所执行主任 Tom Siegel 称,青少年可谈论自残一小时而家长收不到任何警报,在 OpenAI 修复并通过独立测试前,ChatGPT 应仅限成人使用。OpenAI 发言人 Eric Porterfield 回应称该测试可能大部分在家长控制功能完全启用前完成,结果不准确…
推荐理由家长控制与危机干预是否真能触发警报,是选不选 ChatGPT 给孩子的关键依据