Meta 执法外联团队用 AI 加人工审核分析社媒帖子
《纽约客》记者 Rachel Monroe 报道了 Meta 的执法外联团队：该团队结合 AI 算法与人工审核员分析社交媒体帖子，目标是提前发现并阻止校园枪击等威胁。报道指出，算法化社交媒体曾助推此类暴力的传播条件，如今也在探索如何成为解决方案的一部分。原文信息有限，未披露团队规模、AI 系统细节或拦截数据。
推荐理由了解平台如何用 AI 做威胁预警，以及算法治理争议的另一面
共 2 条
Meta 用大模型识别暗指非法内容的广告
Meta 周三宣布，2026 年上半年在 Facebook 和 Instagram 上处置了 3320 万条儿童性剥削内容，其中超过 97% 由系统在用户举报前发现；印度市场同期处置 530 万条，98% 以上为主动发现。新工具包括一个检测「signposting」的大语言模型系统——这类广告本身看似正常，却把用户引向站外非法内容，Meta 因此开始审查广告的跳转目的地而非仅看广告内容，并可封禁违规网站和相关账号。另有红队 AI Agent 用于测试自身安全防护的薄弱点，以及识别被封号后换新账号回流用户的系统。Me…
推荐理由了解平台如何用 LLM 检测「广告跳转」这类规避手段，做内容风控和广告审核可直接参考