#本地推理

全部资讯模型
清除条件
共 2 条
Ars Technica AI20 小时前模型产品雷达海外

开发者做恶搞脚本:内存空闲超 10% 就给 Altman 发邮件

开发者 Iain Kay 受 Sam Altman 在 Cheeky Pint 播客上的言论启发,写了一个讽刺脚本 Ram-Altman:当用户系统内存空闲超过 10% 时,脚本会每天给 OpenAI CEO 发一封邮件。Altman 在 10 月 29 日与 Stripe 总裁 John Collison 的对谈中称,让全世界用户把有限的 DRAM 放在自己电脑里、只用 5% 时间是「相当糟糕的」全球资源分配。他随后表示言论被断章取义,并一度把 X 显示名改为「RAM Altman」,Kay 称这正是项目名字的来…

推荐理由一个周末就能复刻的玩笑项目,顺带看懂 Altman 关于本地推理与内存分配的争议原话。

Hacker News · AI11/02资讯产品雷达海外

HN 讨论:大家都在用什么硬件跑本地大模型

Hacker News 上一位用户发帖询问,其他人在日常工作中用什么硬件运行本地 LLM,并提到希望看到成本效益高的方案,也不排除有人在家里搭了小型数据中心。原帖只有提问,没有给出具体配置、价格或性能数据,讨论内容需看评论区。

推荐理由想自己搭本地推理机器的人,可以去评论区收集真实配置清单