摘要: 一、环境配置 ChatGLM2-6B至少需要13G GPU(虽然官网说12G即可),int8需要8G,int4需要4G。 Win10系统,GTX1060显卡6GB(只能用int4模型,亲测开启GLM2时占了5GB以上) 1、git 2、conda 3、python 3.9 4、pip 5、CUDA 阅读全文
posted @ 2024-04-19 16:40 Auler 阅读(6) 评论(0) 推荐(0) 编辑
摘要: 前言 Redis 集群是一种分布式数据库解决方案,旨在提供高性能、高可用性、可扩展性的数据存储服务。目前比较普遍流行的搭配则是三主三从配置,共6台redis服务进行集群配置。 Redis的三主三从配置是一种集群模式,其中包含三个主节点和三个从节点。每个从节点对应一个主节点,当主节点出现故障时,从节点 阅读全文
posted @ 2024-04-15 23:08 Auler 阅读(19) 评论(0) 推荐(0) 编辑
摘要: 一、安装nginx 查看这篇博客 https://www.cnblogs.com/zrl66/p/14118063.html 二、负载均衡upstream 下面就是访问www.qwe.com域名反向代理,然后请求转到upstream backend权重配置,根据配置进行访问。 http { .... 阅读全文
posted @ 2024-04-12 21:20 Auler 阅读(8) 评论(0) 推荐(0) 编辑
摘要: 前言 Docker基本掌握使用方式,但是在限制其资源方面还没有接触。本篇就简单介绍一下有关CPU、内存等配置。让每个容器的资源分配更加合理,也能够避免一些容器遇到内存泄漏,CPU过载等问题影响其他容器的正常运行。 一、配置文件 Docker中,配置文件可以用来调整守护进程的行为,包括磁盘、内存和CP 阅读全文
posted @ 2024-03-07 22:33 Auler 阅读(47) 评论(0) 推荐(0) 编辑
摘要: 前言 前面介绍docker基本都是以控制台命令行为主,但是对于不太熟悉命令行的人来说,确实有点麻烦。再者控制台很多配置虽然能够配置,对于我们长期使用图形界面开发者来看,还是有界面比较容器上手。 总的来说,Docker在Windows图形界面上的优势在于提供了直观、便捷和高效的管理和操作体验,使得用户 阅读全文
posted @ 2024-03-07 19:05 Auler 阅读(47) 评论(0) 推荐(0) 编辑
摘要: 前言 前面介绍的都是单个容器部署,对于多容器部署也是一个个部署。这里Docker开发了docker-compose.yml。它是一个YAML格式的文件,用于定义和运行多容器的Docker应用程序。它允许你使用单个命令来启动、停止和重启应用程序,以及管理应用程序依赖的服务。 一、配置yml文件 ver 阅读全文
posted @ 2024-03-07 17:34 Auler 阅读(207) 评论(0) 推荐(0) 编辑
摘要: 前言 Dockerfile是一个文本文件,用于自动化构建Docker镜像。它包含了一系列指令和说明,用于描述如何构建所需的Docker镜像。这些指令涵盖了执行代码或文件、环境变量、依赖包、运行时环境、动态链接库、操作系统的发行版、服务进程和内核进程等多个方面的内容。通过docker build命令构 阅读全文
posted @ 2024-03-06 22:56 Auler 阅读(17) 评论(0) 推荐(0) 编辑
摘要: 前言 前面都以Nginx容器为例,介绍很Docker容器的运用。但是对于数据库的容器,在创建的时候却涉及到了Docker的环境变量设置,这个对于很多项目都是非常重要的。所以这里单独深入了解这类型的容器创建。 一、创建 这里以Mysql容器为例,用之前Nginx的创建方式来创建容器。 ~]# dock 阅读全文
posted @ 2024-03-05 23:27 Auler 阅读(6) 评论(0) 推荐(0) 编辑
摘要: 前言 前面学了Docker基本的使用和通信,但是由于容器的生命周期是短暂的,当容器被删除后,容器内的数据也会一并删除。为了保存数据,我们可以使用Docker Volume将数据存储在宿主机上,从而实现数据的持久化。 一、数据修改 一般来看配置、数据等重要数据都需要变动,所以数据修改也是Docker容 阅读全文
posted @ 2024-03-05 17:43 Auler 阅读(3) 评论(0) 推荐(0) 编辑
摘要: 前言 前面介绍了Docker容器的基础服务搭建,对于Docker容器来说一般都是多个容器项目运行在服务器上。所以这篇主要讲述多容器之间的交互,以及宿主与容器之间的交互问题。 一、部署多容器 接着以Nginx为例,部署多个Nginx容器进行测试。 ~]# docker run -d --name ng 阅读全文
posted @ 2024-03-05 15:19 Auler 阅读(6) 评论(0) 推荐(0) 编辑