AI Radar

全部资讯

全部资讯模型
共 3586 条 · 第 57/90 页
The Verge AI10/09资讯行业动态海外

OpenAI 回应解雇三名安全研究员：称违反敏感信息政策

OpenAI 坚持解雇三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 的决定，称内部调查发现他们「严重违反信任」，违反「处理敏感信息的明确政策」。公司否认解雇与三人公开谈论 AI 安全担忧有关。此前三人于周四发布公开信，要求 OpenAI 提高决策透明度，称自己因提出安全担忧而被解雇，且「行为符合 OpenAI 的使命和当时的工作规范」。OpenAI 称调查发现的违规行为「超出公开信所述范围」，但未提供细节。

推荐理由了解前沿 AI 公司内部安全团队与公司治理冲突的最新案例，涉及具体人名和双方说法。

#OpenAI#安全对齐#AI 治理68
DEV Community · AI10/09资讯产品雷达海外

AI 治理委员会邀请函引用了未公开的内部提案

一篇虚构连载小说更新至第 31 篇：主角 Lena 收到苏黎世 AI 政策中心秘书处的邮件，邀请她以行业成员身份加入全球 AI 治理咨询委员会，该委员会将审查并认证成员机构提交的 AI 评估方法论，涉及欧盟和新加坡两个市场的合规评估框架。邮件正文引用了「由交付方法论驱动的 AI 系统验证方法」这一表述，Lena 发现该句与她数月前撰写、从未对外发布的 VeriTest 内部董事会提案原文一致。原文为虚构故事，非真实事件。

推荐理由虚构连载，无真实 AI 资讯价值，仅适合追更该系列的读者

#行业动态#安全对齐#AI 治理36
MIT Technology Review10/09资讯行业动态海外

MIT 科技评论：我们对 AI 拒绝能力的信任过头了

MIT Technology Review 发文指出，AI 的拒绝行为并非天生，而是训练出来的。Anthropic 2021 年提出模型应「有用、诚实、无害」，要求 AI 对危险请求礼貌拒绝；OpenAI 前安全研究员 Steven Adler 称早期模型「什么都往外说」，哈佛研究者 Ryan McBain 回忆早期聊天机器人能轻易生成自杀方法。如今公司用一批练习奖励拒绝、惩罚过度拒绝，甚至用其他模型来训练，AI 教 AI 说不。但拒绝机制是概率性的，并不可靠，模型仍保留作恶知识，能力与善意智能同步增长。

推荐理由理解 AI 安全对齐的真实局限：拒绝是概率性的，不是硬开关，做安全评估和红队测试的人该看。

#安全对齐#Anthropic#AI 拒绝机制68
The Decoder10/09资讯政策监管海外

OpenAI 封禁俄伊影响力行动账号，假新闻被植入真实媒体

OpenAI 披露并封禁了两个分别来自俄罗斯和伊朗的影响力行动所用 ChatGPT 账号。与以往在社交媒体上造势不同，这两次行动都用虚假身份把内容植入正规媒体。俄罗斯行动代号「Dark Clark」，在拉美散布抹黑乌克兰、搅动当地政局的信息，通过虚构人设控制一家智库，并可能在当地员工不知情的情况下将其卷入；伪造的音频和文件在厄瓜多尔、秘鲁引发事实核查和官方否认，OpenAI 按 Breakout Scale 评为 6 级中的第 5 级，是两年半报告以来首个 5 级案例。伊朗行动代号「Bogus Bylines」，用…

推荐理由了解 AI 被用于国家级舆论战的具体手法：假智库、假记者、伪造音频，以及 OpenAI 的 6 级评估标准。

#OpenAI#安全对齐#影响力行动68
DEV Community · AI10/09资讯技巧与观点海外

开发者反思：AI 编码变强了，软件质量没跟上

一位开发者停更一段时间后回归，观察到 AI 模型和编码 Agent 明显变强，一个下午能生成的代码量远超一年前，但软件本身没有变好：后端过度设计、简单数据库调用套七层抽象、依赖地狱、没人要的功能、微服务解决不存在的问题依然普遍。作者认为写代码从来不是最难的部分，难的是判断这个功能该不该存在、是不是正确方案、能不能删掉。AI 消除了摩擦，而摩擦有时能拦住糟糕的想法；让 AI 解决小需求，它常会主动加上服务层、仓储模式、依赖注入、重试逻辑、三个接口和一个工厂。结论是 AI 越强，越应该选择无聊的技术栈。

推荐理由写 Agent 或让 AI 生成代码的人可以对照检查：你的提示词是不是正在批量生产过度设计

#Agent#编码#过度设计62
MarkTechPost10/09资讯新模型发布海外

Underdog 发布 Saluki 27B：2-bit 量化 Qwen3.8-27B，工具调用反超原版

Conway Research 旗下 Underdog 以 Apache 2.0 发布 Saluki 27B，是 Qwen3.8-27B 的 2-bit 混合精度 GGUF，体积 7.89 GB，原 BF16 版本需 54 GB。压缩过程专门保护工具调用能力：并行工具调用得分 42，原版 35；Underdog Bench 88 对 84。9 项基准平均保留 96%，但 AIME 2025 从 96.7 降到 79.2，SWE-bench Verified 修复 30 个问题，原版 33 个。可在原生 llama.…

推荐理由8 GB 以内跑 27B Agent 模型，工具调用比 54 GB 原版还强，本地部署可直接换

#开源生态#Agent#Qwen3.875
MarkTechPost10/09资讯产品发布/更新海外

Google Cloud 发布 Gemini Agent 企业通用智能体

Google Cloud 在 Gemini at Work 活动上发布 Gemini Agent，一个面向企业工作的通用智能体，通过 1 个提示框和 1 个 API 完成问答、知识工作、内容创作和代码编写运行。它运行在 Google Cloud 上，可从网页、移动端、桌面、CLI、Workspace、Microsoft 365、Slack 或无头方式访问。架构上具备统一界面、持久执行、多智能体编排和 4 类记忆（会话、语义、程序、情景）。目前编排 Google Gemini 与 Anthropic Claude 模…

推荐理由企业选型可参考：单一智能体统一入口，支持 Claude 与 Gemini 双模型路由

#Google#Agent#Gemini Agent75
MarkTechPost10/09资讯技巧与观点海外

Google Research 发布 RRSI 教程：让 Agent 自我改进而不跑偏

Google Research 发布 RRSI（正则化递归自我改进）教程，让 LLM Agent 在冻结模型的前提下重写自己的 harness、提示词、工具、记忆、控制流和子 Agent，同时避免 harness 对演化任务过拟合。完整循环用 Claude Opus 在 Vertex AI 上起草修改，并在 Docker 基准中打分；教程重点拆解决定保留哪些修改的纯 Python 规则，包括估计器、校准噪声带、选择算法两个分支、退火编辑预算、确定性泄漏筛查和编辑历史。原文信息有限，未给出具体评测数字。

推荐理由想动手做自我改进 Agent 的开发者可拿到官方仓库代码和可审计的纯 Python 选择逻辑

#Agent#教程实践#RRSI65
Techmeme10/09资讯政策监管海外

Anthropic 启动 2028 美国大选"总统接触"计划

Anthropic 正在为 2028 年美国大选筹备一项"总统接触"（presidential engagement）计划，将组建内部团队，向两党候选人提供 AI 政策教育。原文信息有限，未披露团队规模、启动时间和具体形式。

推荐理由了解头部 AI 公司如何提前介入美国选举政治，判断未来 AI 监管风向

#Anthropic#AI 政策61
X @Alibaba_Qwen10/09资讯产品发布/更新海外

阿里 Qwen3.8-Max、Flash 与 Wan3.0 在 GMI Cloud 免费开放一周

阿里云 Qwen 团队宣布，Qwen3.8-Max、Qwen3.8-Flash 和视频生成模型 Wan3.0 在 GMI Cloud 上免费开放一周，三个模型的速率限制同步提高。GMI Cloud 将此前的免费期再延长 7 天，并举办创作活动：参与者带作品 @Alibaba_Qwen 或 @Alibaba_Wan，评选最具创意、最具挑战、投入最多三个奖项，各获 200 美元现金加 200 美元 GMI 额度。

推荐理由想白嫖 Qwen3.8-Max 和 Wan3.0 的可以直接上 GMI Cloud，一周免费且速率限制已放宽

#阿里#开源生态#Wan3.076
← 上一页下一页 →