2026年8月20日
摘要: 手里就一张 4070Ti,12G 显存,加 32G 内存。能跑的模型非常少。 后来发现 DeepReinforce 放出了 Ornith-1.5 系列,其中 35B-A3B 这个是混合专家架构,据说 12G 显存就能跑。好奇,就拉下来实战了一把。 结果有点出乎意料——170k 上下文,稳定 60 t 阅读全文
posted @ 2026-08-20 10:08 shmiluyu 阅读(104) 评论(0) 推荐(0)
  2026年8月19日
摘要: 你的 RTX 5090,是不是也经常「跑不满」? 32G 显存的旗舰卡,跑 Qwen 这种 27B 的模型,token 吞吐勉强三位数,风扇都懒得转。卡本身没毛病,问题出在通用框架上——它们要照顾全世界的显卡、全世界的模型,就像大食堂的师傅,一道菜得照顾所有口味,没法专门给你开小灶。 但有人就是不信 阅读全文
posted @ 2026-08-19 16:05 shmiluyu 阅读(15) 评论(0) 推荐(0)
  2026年8月13日
摘要: 本文为转载翻译,原文《A Complete Guide To AGENTS.md》 作者:Matt Pocock(AI Hero 创始人,TypeScript 领域知名作者) 原文链接:https://www.aihero.dev/a-complete-guide-to-agents-md 内容忠实 阅读全文
posted @ 2026-08-13 20:59 shmiluyu 阅读(14) 评论(0) 推荐(0)