摘要： 第七章：为什么“预测下一个 Token”可以产生智能？ 目录 零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园 本章导读 如果只用一句话概括大语言模型： 给定前文，预测下一个 Token 听起来非常简单，甚至有点过于低级。 但现实却是大模型确实会： 会写代码 会推理 会 阅读全文

摘要： 第六章 从 SwiGLU 到 MoE —— FFN 才是大模型真正的算力核心 目录 零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园 本章导读 这篇我们还是继续讲FFN.因为,这个模块一直在更新和升级 本章建议与上一章联合食用,效果更佳. 上一章地址: 零基础认识大语言 阅读全文

摘要： 最近正好有空,打算抽时间复盘总结一下这些年零零散散学习的AI知识. 下面是目录 零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园 FFN(前馈神经网络) 到底是什么？ 在上一章中，我们已经知道,Attention 的作用是：让模型能够在生成每个 Token 时，回看并加 阅读全文

摘要： 第四章 Attention(注意力机制)：模型是如何“看懂上下文”的？ 最近正好有空,打算抽时间复盘总结一下这些年零零散散学习的AI知识. 下面是目录 零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园 在上一章中，我们知道 Transformer 做了三件事： 把文字变 阅读全文

摘要： 最近正好有空,打算抽时间复盘总结一下这些年零零散散学习的AI知识. 下面是目录 零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园 如果说上一章介绍的是： 模型吃进去什么。 那么这一章介绍的就是： 模型的大脑到底是如何工作的。 第三章 Transformer 到底是怎么工 阅读全文

摘要： 最近正好有空,打算抽时间复盘总结一下这些年零零散散学习的AI知识. 下面是目录 零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园 上一章我们大概总结了一下LLM到底是什么,这一章我们主要讲在LLM中 经常提及和广为人知的Token到底是什么. 首先,我们先从一个疑问开始 阅读全文

摘要： 零基础认识大语言模型（LLM）工作原理(1.引子--为什么 AI 突然变聪明了？)零基础认识大语言模型（LLM）工作原理(2.Token 到底是什么？) 零基础认识大语言模型（LLM）工作原理(3.大模型绕不开的架构--Transformer到底是怎么工作的?)零基础认识大语言模型（LLM）工作原理 阅读全文

摘要： 最近正好有空,打算抽时间复盘总结一下这些年零零散散学习的AI知识. 下面是目录 零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园 好了,废话不多说,我们直接开始 第一章 为什么 AI 突然变聪明了？ 1.1 AI 真的突然变聪明了吗？ 如果你是在 2022 年底第一次接 阅读全文

摘要： 前言 很久没更新这个组件了,主要是没想到加什么东西 后来经过群友提醒,其实可以加个仪表盘的功能,方便在任务比较多的时候监听执行情况. (PS:有些群友的定时任务已经干到了上百条..) 说加就加.. 所以就有了2.8的版本.. 2.8.0正式发布. 更新内容: 1.新增任务界面搜索功能,可根据任务名称 阅读全文

摘要： 前言 这周系统更新了一个版本,部署到线上. 客户反馈整个系统全部都卡顿,随即我们上服务器检查 发现整个服务器内存竟然达到了20-30G的占用..如图: 其中有一个订单服务,独自占用13-18G内存, 当它重启以后,内存会降低下来一段时间,但过不了多久 就又会增长上去 高度怀疑出现了内存溢出的情况,由 阅读全文