Adara

摘要： 推理阶段是大模型「服务化」和「产品化」的关键环节，并且推理通常是实时的、在线的，对延迟、吞吐量和资源消耗有较高要求。大模型的部署和应用过程中，通常需要很高的计算成本，内存访问和存储占用成本，在资源受限的场景中，推理效率也会大幅降低（如延迟、吞吐量，功耗和存储等问题），以致于严重影响大模型服务的可用性 阅读全文

摘要： 微调： LoRA 与QLoRA：有何区别 LoRA（低秩自适应）和 QLoRA（量化低秩自适应）技术均可用于训练 AI 模型。更具体地说，它们都属于参数高效微调（PEFT），这种微调技术比训练大语言模型（LLM）所用的其他方法更节省资源，因此广受欢迎。 LoRA 的工作原理： LoRA 技术使用新参 阅读全文

摘要： 1: RocketMQ https://juejin.cn/post/7340909611099045929 1: Rabbitmq https://blog.csdn.net/weixin_47303191/article/details/124693751?ops_request_misc=%2 阅读全文

摘要： 1: 单列模式 单列模式是保证系统唯一性的重要的手段，单列模式首先通过把类的构造器私有化来防止程序通过其它的方式创建该类的实列，然后通过提供一个全局的唯一方法来帮助用户来获得该类的实例，用户只需要也只能通过调用该方法获得该类实列 常见的方法：1、懒汉模式 2、饿汉模式 3、双重校验锁 4 静态内部类 阅读全文

摘要： 1: 实战算法篇 1、URL黑名单（布隆过滤器） 100亿黑名单URL，每个64B，问这个黑名单要怎么存？判断一个URL是否在黑名单中 散列表： 如果把黑名单看成一个集合，将其存在 hashmap 中，貌似太大了，需要 640G，明显不科学。 布隆过滤器： 它实际上是一个很长的二进制矢量和一系列随机 阅读全文

摘要： 1: spring 1、Spring是什么? Spring是一个轻量级的IoC和AOP容器框架。是为Java应用程序提供基础性服务的一套框架，目的是用于简化企业应用程序的开发，它使得开发者只需要关心业务需求。主要包括以下七个模块： Spring Context：提供框架式的Bean访问方式，以及企业 阅读全文

摘要： 前序加中序序列，分解过程图示如下（王道数据结构P120） 思路： 由先序序列第一个pre[0]在中序序列中找到根节点位置gen 以gen为中心遍历 0~gen左子树 子中序序列：0~gen-1，放入vin_left[] 子先序序列：1~gen放入pre_left[]，+1可以看图，因为头部有根节点 阅读全文

摘要： 一、链表的基本结构 链表是通过一个个节点（Node）组成的，每个节点都包含了称为数据域(value)和指针域(next)的基本单元，它也是一种递归的数据结构。它能保持数据之间的逻辑顺序，但存储空间不必按照顺序存储。 链表的基本元素有： 节点：每个节点有两个部分，左边部分称为值域，用来存放用户数据；右 阅读全文

摘要： 1、数组的创建 1 intArr = [1, 4, 2, 5, 3, 7, 9, 0] #整型数组 2 strArr = ["北京", "上海", "杭州", "深圳"] #字符串数组 3 mixArr = [1, 3.44, "hello", [1, 2, 3]] #混合数组 4 emptyArr 阅读全文

摘要： 一、什么是vector？ 向量vector是一个封装了动态大小数组的顺序容器（sequence container).和任意其他类型容器一样，它能够存放各种类型的对象，即向量是一个能够存放任意类型的动态数组。 二、容器特性 1.顺序序列 顺序容器中的元素按照严格的线性顺序排序。可以通过元素在序列中的 阅读全文