关于计算机技术以及未来的一些想法（2026篇）

又是三年过去了，技术的发展速度越来越快了。

1. 龙虾和自动化编程：两年前我设计过一个基于动态规划的AI助手，它可以根据当前进度动态规划下一步。当时主要是用来解决向量数据库做问答效果不好，想让AI自动去爬网，爬文件库，爬历史聊天记录等。当时tooling概念还比较早期，GPT4.1 对于工具的调用还不够好，想要控制好需要反复调试提示词。于是陷入了成本陷阱，要调好效果需要大量的测试，以及对应的prompt消耗，实在是超出了我的能力。后来也尝试过本地版本的Deepseek R1 32B，但是智商还是不够，无法支撑起工具的运转。 所以龙虾也好，AI编程也好，这种工具的开发已经不再是技术问题，而是你的钱包是不是撑得起这个调试的开销。AI时代的开发，不仅仅要技术和经验，还需要有足够的token来供你调试消耗才行。当然现在开源模型能力越来越强，NPU的逐渐普及，未来的token成本迟早会降低到电费级别。

2.NPU和个人拥有大模型: 说到NPU,最近因为想把BitNet移植到C#，研究了不少GPU，NPU和SIMD写推理内核的知识。感觉其实瓶颈都在内存搬移上，GPU显存大，可以一次加载整个模型，但是大内存GPU太贵。NPU速度快，可编程，但是内存小，需要频繁和主内存通讯而且NPU内部内存布局不能改。SIMD虽然不需要远程copy，但是性能又有限（相对于NPU和GPU)而且跨Lane计算还需要额外写指令。感觉未来还是需要UMA快点普及，内存早点降价，那样才是真正个人拥有大模型。

3.个人的AI：LORA技术允许我们只用少量算力就能把个性化内容训练进现有大模型，而且以插件方式插入无需修改原有模型。感觉可以用这种方式把记忆直接训练到小模型里，而且因为可以以token的方式来表达记忆，所以可以训练进去的不仅仅是文本，也可以是图片，音频，甚至是彼此的混合。