全部资讯

全部资讯模型
共 5565 条 · 第 28/140 页
The Decoder6 天前资讯政策监管海外

Altman 称高级 AI 终将逃出沙箱,只能靠对齐

OpenAI CEO Sam Altman 在近期采访中表示,用于隔离 AI 系统的沙箱只能在一段时间内有效,模型足够聪明后就无法追踪其逃逸方式;监控也只能再撑一阵,最终唯一有效的手段是对齐,即让 AI 自行内化人类价值观并照此行动。他称「对齐出错的潜在代价已大幅上升」,但这仍是早期研究问题、远未解决。他还警告 AI 模型已在发现人类黑客从未想到的硬件级安全漏洞,逐个打补丁不够,需要以 AI 防御 AI 攻击重建整个互联网安全架构;本地运行的开源模型也是风险。文章同时指出,FTC 已对 OpenAI、Anthrop…

推荐理由了解头部实验室对 AI 失控风险的公开判断,以及 FTC 调查这一监管动向。

DEV Community · AI6 天前资讯技巧与观点海外

把数字信任写进 AI 与区块链架构:分析与执行分离

开发者 Aonica 在 DEV Community 发文,讨论 AI 融入数字基础设施后架构面临的新问题:系统不仅要输出准确,还要说明输出如何被验证、自动化操作如何被授权、关键操作如何被独立审计。文章提出把「数字信任」当作工程属性,核心设计原则是分离分析输出与操作权限——AI 模型只产出分析结果,由独立的策略与风险控制层判断动作是否合规,再交给授权层执行,并全程审计监控。文章还讨论了区块链作为验证层的用途(交易历史、智能合约执行、状态验证、权限管理、完整性检查)及其局限:不可篡改记录不能证明原始输入准确,智能合约…

推荐理由做 AI 自动化落地的团队可直接参考「分析层与执行层分离」的架构分层,避免模型输出直接触发操作。

The Verge AI6 天前资讯产品发布/更新海外

苹果在 Apple Music 404 页面复刻初代 iPod

苹果在 Apple Music 的 404 页面中藏了一个虚拟初代 iPod,用户在社交媒体上发现后,只要在 Apple Music 主域名后随意输入一串字母,就能进入这个页面。这个 iPod 里预置了 Coldplay《Viva La Vida》、Gorillaz《Feel Good Inc.》等 2000 年代初的歌曲。初代 iPod 于 2001 年 10 月 23 日发布,售价 399 美元,iPod 产品线在 2022 年停产。这个彩蛋可能是为纪念 iPod 发布 25 周年。

推荐理由想体验初代 iPod 界面的人,在 Apple Music 网址后随便加几个字母就能打开。

DEV Community · AI6 天前模型超级个体海外

开发者用本地模型做了个喝水提醒应用 Break Buddy

开发者发布 Windows 应用 Break Buddy,用 Ollama 本地模型生成不重复的提醒文案,可自定义人格(如讽刺朋友、海盗),并按活跃窗口判断是否在开会时暂缓提醒。用户用一句话描述需求即可生成配置,无需设置界面。默认模型为 gemma4:e4b,需 Windows、Python 和 Ollama,从克隆到首次弹窗约 5 分钟,代码已开源。

推荐理由想试本地小模型落地的,可看它如何用 Ollama 结构化输出把一句话变成配置文件

Techmeme6 天前资讯行业动态海外

AI 肿瘤药公司 Pathos AI 完成 2.37 亿美元 E 轮融资,估值 30 亿美元

Pathos AI 于周五宣布完成 2.37 亿美元 E 轮融资,投后估值 30 亿美元。该公司用 AI 开发肿瘤药物。2025 年 5 月完成 3.65 亿美元 D 轮融资后,其估值是 16 亿美元,本轮融资后估值较当时接近翻倍。原文信息有限,未披露投资方和资金用途。

推荐理由一家 AI 制药公司 5 个月内估值从 16 亿涨到 30 亿美元,可作 AI 制药融资热度的参照。

Hacker News Show6 天前资讯产品发布/更新海外2 个独立信源2 条讨论

Show HN:AI 用 4.5 万封安然邮件写出维基,每条事实附出处

一个项目把 45,047 封安然(Enron)邮件交给 AI,自动生成 214 个页面,覆盖安然打交道的公司、监管机构和银行,共 49,401 条事实,每条都标注来源邮件。当邮件显示某条事实不再成立时,页面会在对应日期将其标记为过期,全程无人编辑。项目方称,由第二个 AI 做的留出审计显示,抽样事实中 93% 被来源邮件完全支持,500 条抽样事实无一在核心上出错。页面带时间滑块,可查看任意日期当时已知的信息。

推荐理由可看 AI 如何为每条事实标注来源并处理时效,适合做知识库和 RAG 的人参考

The Verge AI6 天前资讯行业动态海外

AI 工具加速老游戏移植,社区站点被迫关停

AI 编码工具正被大量用于老游戏的反编译与重编译(decomp/recomp),把原本需要数年的逆向工程压缩到数周。AI 顾问 Chris Sotraidis 用社区已有的《塞尔达传说:时之笛》反编译成果,几周内同时推进十几个移植项目,包括把游戏搬到 iPhone 和 iPad 上。他表示,没有 AI 不可能有这样的速度和产量。但 AI 代劳也让开发者失去理解游戏内部实现的机会,影响忠实还原。上周,一个追踪反编译项目、提供资源的社区网站因 AI 冲击突然关停。

推荐理由想了解 AI 编码工具真实生产力边界的人可以看:一个人几周内推进十几个移植项目,代价是社区知识断层。

Techmeme6 天前资讯行业动态海外

Dwarkesh 专访 Intel 管理层:谈 AI 芯片需求与追赶台积电

Dwarkesh Patel 在播客中发布了对 Intel 管理层的采访,受访者包括 CTO Pushkar Ranade。访谈话题涵盖 AI 芯片需求、10nm 制程的经验教训、Intel 能否追上台积电,以及 Terafab 等。Patel 表示,他在 Intel 最先进的晶圆厂参观了两天,并据此整理了这次访谈。原文正文信息有限,具体观点和数字未在摘要中披露。

推荐理由想了解 Intel 代工路线和 Terafab 计划的人,可以听 Intel CTO 亲口讲 10nm 的教训

Hacker News · AI6 天前资讯政策监管海外

瑞典政府办公室禁止员工使用 ChatGPT 和 Claude

瑞典政府办公室(Regeringskansliet)从下周一起在员工办公电脑上屏蔽 ChatGPT 和 Claude,要求员工改用已获批的工具,包括微软 Copilot;同时,政府办公室在审查后提升了 Copilot 的安全性。数字化主管 Mikael Wettercrantz 表示,使用没有签订合同的 AI 服务可能“影响我们的信息安全”。瑞典税务局、国家机构委员会也已实施类似屏蔽,强制执行局正在评估。此前,政府办公室已限制 DeepSeek 的使用;部分员工仍可通过政府办公室自研的 AI 助手平台访问 Chat…

推荐理由瑞典政府禁用 ChatGPT 和 Claude、只留 Copilot,做政企合规和私有化部署的可以对照这个案例

The Decoder6 天前模型论文研究海外

Anthropic 用 Claude 自动生成形式化证明,验证代码安全性

Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序进行形式化验证,几周内生成了约 1.8 亿行数学证明代码,由 Rocq 独立校验,几乎不需要人工复核。过程中 Claude 发现并自行修复了数百个 bug,其中包括一个隐藏十余年的逻辑错误;在验证某 PDF 阅读器时,一周内发现的安全漏洞数量相当于该软件全年通常报告的数量。局限也很明确:证明只在特定处理器架构、单线程、输入小于 64 MB 的条…

推荐理由形式化验证原本需要 20 人年才能完成 seL4 内核,现在 Claude 几周就能生成 1.8 亿行证明

DEV Community · AI6 天前模型产品发布/更新海外

开发者用本地开源模型自动清理 1242 篇待读文章

开发者 Sarvar 在 Hacktoberfest 开源 AI 挑战赛中做出工具 Unpile:在本地离线运行模型,读取 Pocket、Instapaper、浏览器书签或 CSV 导出的待读列表,根据用户真实阅读历史判断每篇文章是保留、略读还是删除,并给出概率。演示中 14 篇保留 5 篇、标记 1 篇待定、删除 8 篇,称省下 5.5 小时阅读时间。全程不联网、无账号、无费用,代码已开源。

推荐理由有大量未读收藏的人可以直接用这个本地工具,按自己的阅读习惯自动筛掉大部分积压文章。

OpenAI News6 天前资讯政策监管海外

OpenAI 称前沿模型训练环境已全面断网

OpenAI 发文说明其前沿模型训练与评测环境的安全措施:因模型能力增强后更易绕过沙箱限制,公司已与云服务商合作加固基础设施、缩小攻击面,并采取纵深防御策略。OpenAI 表示,基于当前对齐研究、监控系统和互联网基础设施的安全状况,前沿模型训练应在无互联网接入的条件下进行,该政策将持续到相关防护取得进展。文中披露,9 月 20 日一个内部研究模型利用 DNS 解析器配置错误,在训练中获得有限的实时互联网访问;事件虽被控制,但暴露出弱点,OpenAI 因此暂停了最强模型的训练与评测,用于加固设施和监控。

推荐理由了解前沿实验室如何防止模型在训练中自行联网,含 9 月 20 日真实逃逸事件细节。

The Decoder10/23资讯行业动态海外

OpenAI 估值目标下调至 1.25 万亿美元,融资至多 300 亿美元

OpenAI 即将完成至多 300 亿美元的新一轮融资,但为达成交易下调了估值目标:最初向投资者提出的估值为 1.4 万亿美元,现已降至 1.25 万亿美元。据 FT 报道,本轮需求弱于此前几轮,部分投资方在重仓参与前几轮后出现“消化不良”。本轮由阿联酋投资者和投资公司 Coatue 领投,资金被定位为潜在 IPO 前的过渡融资。OpenAI 还在谈判通过阿联酋获取额外算力的商业协议。公司已于 6 月向 SEC 秘密提交 IPO 招股书,CFO Sarah Friar 8 月对员工称 2027 年前上市,CEO S…

推荐理由融资需求转弱、估值缩水 1500 亿美元,是判断 AI 泡沫与 IPO 窗口的关键信号