手写8000行代码构建完整AI训练推理流水线
Andrej Karpathy 称 nanochat “完全手写”,而非“氛围编程”
前某中心联合创始人、Eureka Labs 创始人 Andrej Karpathy 透露,其最新的开源项目 nanochat 是完全手写的,证实了他在编码过程中没有依赖 AI 工具。
在 10 月 13 日于 X 上的一篇帖子中,Karpathy 宣布发布了 nanochat,这是一个开源项目,为一个简单的类 ChatGPT 模型提供了完整的训练和推理流水线。该代码库延续了他早期的项目 nanoGPT(该项目仅关注预训练阶段)。
该代码库包含约 8000 行代码,涵盖了整个流水线。
当有用户询问有多少代码是手动编写时,Karpathy 回复道:“好问题,基本上全是手写的(使用 Tab 键自动补全)。我尝试过几次使用 Claude/Codex 等智能体,但它们根本不起作用,总体没有帮助,可能是因为这个代码库偏离它们训练数据分布太远了。”
这一声明引起了 AI 研究员 Gary Marcus 的注意,他指出 Karpathy 的评论强化了 AI 泛化方面持续存在的挑战。Marcus 在 X 上写道:“‘氛围编程’一词的发明者 Andrej Karpathy,正在进行手写编码。并且再次证实——当前的 AI 尚未解决分布偏移问题(这是我从 1998 年以来就一直强调的核心问题)。”
更多精彩内容 请关注我的个人公众号 公众号(办公AI智能小助手)或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号(网络安全技术点滴分享)
公众号二维码

公众号二维码


浙公网安备 33010602011771号