我的随笔

关于磁盘对拷的一系列trick

AlphaInf 2025-09-03 17:11 阅读:33 评论:0 推荐:2

关于大模型系统吞吐量计算的方法

AlphaInf 2025-08-26 19:31 阅读:480 评论:0 推荐:1

git submodule小记

AlphaInf 2024-06-15 21:07 阅读:161 评论:0 推荐:3

给vllm添加热添加lora的功能

AlphaInf 2024-06-02 15:21 阅读:1029 评论:0 推荐:9

基于Deepspeed实现LLaMA-13B或70B模型的微调

AlphaInf 2024-02-02 19:00 阅读:8248 评论:2 推荐:80

基于vllm 0.3.0部署 llama2-70B模型

AlphaInf 2024-02-02 01:30 阅读:2227 评论:0 推荐:23

基于TigerBot-13b训练其函数调用能力

AlphaInf 2023-12-23 16:01 阅读:195 评论:0 推荐:6

使用双卡/8卡3090微调llama2-70B/13B模型

AlphaInf 2023-12-10 14:26 阅读:16079 评论:4 推荐:150

8卡3090GPU云服务器上采用VLLM部署中文llama2-70b模型及OpenAI格式接口

AlphaInf 2023-12-07 21:44 阅读:10959 评论:3 推荐:114

Llama2模型预训练，推理与微调测试

AlphaInf 2023-09-14 18:07 阅读:3025 评论:0 推荐:46

GLM-130B 部署 - 8*3090-24G

AlphaInf 2023-09-14 17:52 阅读:640 评论:0 推荐:12

OpenBuddy-LLaMA2-70B的三种部署方式

AlphaInf 2023-09-14 17:33 阅读:4599 评论:1 推荐:50

强化学习及过程监督学习笔记

AlphaInf 2023-06-11 23:31 阅读:731 评论:0 推荐:12

基于80C51单片机的出租车计费器设计

AlphaInf 2023-06-11 12:31 阅读:634 评论:1 推荐:16

chatglm-6b云端微调

AlphaInf 2023-05-06 10:05 阅读:390 评论:0 推荐:10

chatglm-6b法律名词数据训练

AlphaInf 2023-05-06 09:58 阅读:1582 评论:0 推荐:22

ChatGLM-6B云服务器部署（以恒源云为例）

AlphaInf 2023-04-09 14:31 阅读:1667 评论:2 推荐:21

如何使用OpenAI Fine-tuning API微调GPT-3模型

AlphaInf 2023-04-04 13:21 阅读:2671 评论:1 推荐:31

算法设计与分析 Assignment 1(第一章)

AlphaInf 2023-03-30 20:29 阅读:295 评论:0 推荐:4

实现OpenAI的API调用

AlphaInf 2023-03-27 17:56 阅读:4791 评论:2 推荐:82