Meta宣布于周三表示，其在 2026 年上半年对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取了行动。与此同时，该公司正在推出新的 AI 工具，以发现可能被用于秘密引导人们接触非法儿童虐待材料的广告和账户。
Meta 表示，在其采取行动的内容中，超过 97% 是由其系统在用户举报之前发现的。在印度，Meta 在同一时期对 530 万条儿童性剥削内容采取了行动，其中超过 98% 是在用户举报之前被检测到的。
Meta 表示，其最新的 AI 工具针对的是那些利用看似无害的广告将用户引导至 Meta 平台之外的非法内容的人。
该公司推出了一套新的大语言模型（LLM）系统，用于检测其所谓的“路标指引”。这指的是那些可能看起来正常、但被怀疑将用户引导至网络上其他地方的非法内容或其他有害活动的广告。Meta 表示，这是其近期看到恶意行为者使用的一种策略，他们不断改变手法以逃避检测。虽然这些广告本身可能不包含非法材料，但它们仍可能成为托管儿童性虐待材料网站的门户。
因此，Meta 表示，它现在不仅关注广告包含什么内容，还会关注广告将用户引导至何处。该公司可以利用这些信息来屏蔽违反其规则的网站或其他目的地，并对背后的账户采取行动。
Meta 还在使用额外的 AI 驱动扫描，以发现早期系统可能遗漏的儿童剥削内容。该公司表示，随着其对这些网络运作方式的了解不断加深，它将继续添加新的信号。
另一款新工具是一个“红队 AI 智能体”，用于测试 Meta 自身的安全措施。它会寻找恶意行为者可能用来绕过该公司防护的弱点。Meta 表示，这可以帮助其在新的滥用手法变得更加普遍之前就发现它们。
此外，该公司正在改进其系统，以发现那些在原有账户被移除后使用新账户重返其平台的人。
这些新措施出台之际，Meta 正持续面临其平台上儿童安全问题的压力。该公司因其社交媒体服务可能对年轻用户构成的风险而遭遇诉讼和立法者的批评。8 月，Meta 达成协议，支付最高 180 亿美元以了结一起涉及美国 29 个州的儿童安全诉讼，回应了关于在线保护儿童的担忧。
Meta 今年推出了多项儿童安全功能，包括Meta AI 的家长控制功能、青少年账户（WhatsApp 上），以及提醒功能——当孩子在 Instagram 上搜索自残内容时通知家长。
9 月，WhatsApp 新增了更多控制功能供家长使用。他们可以限制青少年如何使用 Channels、控制谁可以看到他们的状态更新，并决定谁可以将他们的孩子加入群组。家长还可以选择接收某些群组活动的通知。
当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Lauren 在 TechCrunch 报道媒体、流媒体、应用和平台。
您可以通过发送电子邮件至以下地址联系 Lauren 或核实其外联信息：laurenf.techcrunch@gmail.com或通过 Signal 上的加密消息联系 laurenforris22.25。