8 月 6 日,AMD 宣布收购 Taalas——一家把 AI 模型"硬连线"进芯片的创业公司。没有公布收购金额,但 Taalas 自 2023 年成立以来累计融资 2.19 亿美元。
这笔交易放在一个背景里看才够味:7 个月前,Nvidia 刚花 200 亿美元买了 Groq 的资产。两家巨头在同一个方向下注——通用 GPU 之外,推理需要专门的硅片。
Taalas 在做什么:把模型变成电路
先理解 Taalas 的路线。普通 GPU 是"通用硬件 + 可编程指令":模型权重存在显存里,计算时一条条指令把权重搬进计算单元做乘加。Taalas 反过来,把特定模型的权重直接蚀刻(etch)进硅片,模型的计算图变成芯片上的物理连接。
代价是放弃灵活性:这颗芯片只能跑它为之设计的那个模型。换模型 = 重新流片。
收益是三项硬指标:
- 推理速度:官方口径是比传统 GPU 快"数千倍"(thousands of times faster),针对特定模型
- 能效:不用搬权重,省掉内存带宽这个最大的功耗黑洞
- 延迟:低到"时间到首 token"(TTFT)接近纯电路延迟
Taalas 现任 CEO Ljubisa Bajic 的说法很直接:"我们围绕模型构建硬件"(build the hardware around the model)。官网还有一句更狠的:"平台可以把任何 AI 模型转化为定制硅片,从收到一个从未见过的模型到硬件实现,只需要两个月。"
当前 Taalas 的芯片跑的是 Meta Llama 3.1 的一个小版本,正在做更大模型的支持。制造上用的是台积电的较老制程(具体节点未披露),关键在片上 SRAM,权重直接放芯片里,不依赖 HBM 外存。
为什么是 SRAM 而不是 HBM
这里有个值得展开的技术点。GPU 推理的瓶颈从来不是算力,是权重搬运。
以 Llama 3.1 405B 为例:4050 亿参数,BF16 精度下光权重就 810GB。HBM3e 的带宽约 8-10TB/s,但每次 token 生成都要把所有权重扫一遍——memory-bound 到极致,算力利用率可能只有 10-20%。
Taalas 的选择是:模型小(一个特定的小模型),权重全放片上 SRAM。SRAM 延迟是 HBM 的 1/10 甚至更低,带宽密度高一个数量级,而且不需要庞大的 DRAM 控制器和 PCB 走线。权重变成物理连接的瞬间,"搬运"这个概念就消失了——计算图在哪,权重就在哪。
Groq 也是 SRAM 路线(LPU 用 230MB 片上 SRAM 跑 Llama),但 Groq 是"软件把模型调度到 SRAM",Taalas 是"电路即模型"。两者哲学接近,实现深度不同。
"两个月出硬件"靠什么:结构化 ASIC 的思路
"从收到模型到硬件实现只要两个月"——这句话听起来像 PR 话术,但它指向一个具体的技术路线:结构化 ASIC(structured ASIC)。
传统 ASIC 是全定制:每个逻辑门都重新布局布线,流片周期 12-18 个月,NRE(一次性工程成本)几千万美元起步。结构化 ASIC 折中:底层金属层预置好通用的逻辑阵列,只定制最上面几层金属的互联。好处是设计周期从"年"压到"月",NRE 降到传统 ASIC 的零头;代价是逻辑密度比全定制低一些、性能打点折扣。
对"模型即电路"来说这个权衡很划算:Transformer 的计算图(attention 的 QKV 投影、FFN 的矩阵乘、残差连接)结构高度规整,正好适合映射到预置逻辑阵列上。模型换了,大部分底层阵列不用动,只重连上层金属。这解释了 Taalas 为什么敢说"两个月"——它不是在为每个模型重新设计一颗芯片,而是在同一套结构化平台上快速重配。
当然这也意味着:Taalas 的"蚀刻"不是把权重做成真值表级别的硬编码,而是把计算图结构固化进互联层,权重本身还是存在 SRAM 里、可在运行时加载。所以"模型专用"的精确含义是"计算结构专用 + 权重可换"——换同架构的模型(比如 Llama 3.1 换 Llama 4 同尺寸)可能不用重新流片,换不同架构的模型才要。
AMD 买它干什么:Instinct 的补充而非替代
AMD 官方新闻稿把 Taalas 的定位说得很清楚:与 Instinct GPU 一起交付系统级方案,互补而非替代。
看 AMD 的算盘子:Helios 机架级方案(CNBC 报道里提到 Meta 今年晚些时候会部署 Helios 的一种配置)、Instinct GPU、EPYC CPU、ROCm 软件栈,现在是 Taalas 的专用推理芯片。全栈覆盖的最后一环——低延迟、高能效的专用推理,恰好是通用 GPU 最不擅长、而推理市场增长最快的部分。
AMD 在 AI 加速器市场的短板一直不是训练,是推理的性价比和延迟。数据中心客户要跑"实时、高吞吐"的推理(语音、推荐、Agent 调度),通用 GPU 又贵又耗电。Taalas 给了一个"模型专用芯片"的选项:特定模型上性能碾压 GPU,功耗低得多,成本也低——毕竟老制程 + 无 HBM 的芯片成本结构完全不同。
交易背景还有个有意思的对照:Nvidia 200 亿美元买 Groq 资产,AMD 收购 Taalas——两大厂都在承认:GPU 不是推理的终极答案,至少不是唯一答案。推理市场正从"通用算力"分化出"专用硅片"这一层,而大厂的选择是买而不是自己造。
技术评论界的两种声音
HN 上这则新闻有 900+ 分、700+ 评论,热度说明分歧不小。乐观派认为:模型专用芯片在固定场景(单一模型、固定 batch、延迟敏感)里确实能赢,SRAM 路线规避了 HBM 的供应链瓶颈。怀疑派的理由也很实在:
- 模型迭代太快:GPT 级别的大模型几个月一换,芯片流片周期 12-18 个月,"两个月出硬件"对当前模型成立,但追赶大模型版本是持续烧钱
- 只赢小模型:目前只能跑小模型,大模型权重塞不进片上 SRAM——除非未来用 chiplet 堆叠或 HBM 混合方案
- "蚀刻模型"的历史包袱:这是 1980 年代"固件化算法"(algorithm-in-silicon)的翻版,历史上每次都被通用硬件 + 编译器优化追平
这些质疑都成立,但注意一个细节:Taalas 声称"两个月把新模型变成硬件"。如果这个周期是真的,配合可重新配置的金属层(类似结构化 ASIC),"模型专用"和"迭代快"之间的张力可能没那么大。关键要看 AMD 拿到手后怎么把 Taalas 的流片流程和 Instinct 路线图融合。
我的看法
三点。
第一,这笔交易的技术方向(模型→电路)和 Groq 收购案(模型→SRAM 调度)殊途同归:推理正在从"算力问题"变成"内存问题"。谁先把权重搬运成本压到物理极限,谁就赢了推理市场。
第二,AMD 的战略越来越像"全家桶":通用训练(Instinct)+ 通用推理(Instinct/EPYC)+ 专用推理(Taalas)+ 机架方案(Helios)。对标 Nvidia 的 CUDA 护城河,AMD 在硬件形态上反而更激进——Nvidia 靠生态锁,AMD 靠形态覆盖。
第三,对开发者,这类专用芯片短期内不会直接改变我们的工作方式——你的模型还是要跑在 CUDA 或 ROCm 上。但"模型专用硬件"如果跑通了成本曲线,中长期会影响推理定价:延迟敏感场景会越来越便宜,这会反过来影响 Agent 类应用的架构选择(把更多推理推到边缘、推到专用节点)。
方向对不对,看 AMD 2027 年的产品路线图就知道了。现在至少可以说:"GPU 万能"的时代,正在被两笔收购案悄悄终结。
浙公网安备 33010602011771号