zrq96

摘要： 当我们在说计算图优化的时候，我们在说什么？ 各种各样的计算图 计算图 首先是对于“计算图”这个最高层、最抽象、但也相对来说最好理解的概念：一个计算图就是其节点代表数学运算，其边代表输入输出数据的有向无环图。Tensorflow最初设计论文里对其的描述是 In a TensorFlow graph, 阅读全文

摘要： 最近在研究大模型压缩的各种流派和好用的方法，然后发现模型稀疏分解、剪枝、蒸馏这些虽然学界研究得很多，但实际上效果都比不上量化。因此在这里整理一下对于大模型量化的一些基础。 概念 所谓模型量化，简单来说就是用更低位宽格式来表示模型的权重参数。 在我们学习C或Java的编程入门的时候，我们学过浮点数的表 阅读全文

摘要： 半年前我开始了一份新工作，干的就是让现有业务的大模型跑得更快。我从一开始的懵懵懂懂到现在的初窥门径，感觉跌跌撞撞浪费了不少时间。如果半年前我能读到一些提纲挈领性的文章，整个进程会不会加快一些？这就是本文的初衷，写给半年前对推理加速懵懂无知的自己。 现如今几乎所有人都会认可，以Transformers 阅读全文

摘要： 前文再研究AMF的sbi接口后，又研究了其nas和ngap接口，本文折返回去继续研究sbi接口剩下的几个功能 AMF的sbi接口模块，虽然看起来代码和函数很多，但其基本功能也就两个，一是提供对UE Context的操作，这功能还基本上旨在新旧AMF之间切换时才会用到；第二个功能是作为UE/RAN与核 阅读全文

摘要： 前文分别研究了AMF的sbi模块、nas模块、和ngap模块。本文深入研究与AMF强相关的用户设备注册流程。 “注册”，顾名思义，就是“注释名字于簿册之中”。从free5gc的程序逻辑来看，用户设备注册的本质工作是在AMFContext.UePool中正确地创建该设备的AmfUe结构，并设置好相应的 阅读全文

摘要： 前文再续，本文研究AMF与用户设备通信的的nas协议，和与接入网基站通信的ngap协议 AM的实现 考察free5gc/amf/internal/的文件目录，会发现与之前研究的NF相比多了三个陌生的包 amf/internal/ ├─context ├─gmm ├─logger ├─nas ├─ng 阅读全文

摘要： 本文研究核心网控制面中最重要的功能，Access and Mobility Management Function（AMF）所主要实现的功能 AMF主要负责管理用户设备的注册流程及跟踪其移动位置。虽然听起来很轻巧，但AMF的处理逻辑是所有NF中最复杂琐碎的，其代码量占到了free5gc所有代码的四分 阅读全文

摘要： 前文已经研究过SMF的概念和Nsmf_PDUSession的创建和释放，本文继续研究其更新，以及SMF的其他服务。 SMF实现 Nsmf_PDUSession SMContext的更新是SMF中的一个核心功能，负责处理PDU会话的各种状态更新和转换。它需要处理多种不同类型的更新请求，并确保会话状态的 阅读全文

摘要： 本文研究Session Management Function （SMF）的功能 SMF的概念 对于free5gc各NF的研究来到了最终阶段，只剩SMF和AMF两个功能，是时候回顾一下TS23.501中的这几张网络架构图。首先是这一张经典的非漫游情境下各NF的交互架构： 这张图里，核心网所有的NF通 阅读全文

摘要： 前文再续书接上一回，继续研究Free5GC中所实现的PCF的另外两组服务：SMPolicy和PolicyAuthorization SMPolicy PCF中与SMF的交互，对session的控制有着很重的的分量，甚至连TS23.503中对与Policy Control的定义都是指PCF指示SMF去 阅读全文