上一页 1 ··· 18 19 20 21 22 23 24 25 26 ··· 55 下一页

2022年12月26日

Scrapy Spider类介绍

摘要: 一.介绍 Spider是定义如何抓取某一个站点(或一组站点的类),包括如何执行Crawl,以及如何从其页面中提取结构化数据。 对于spider,抓取周期是这样的: 1)首先生成初始请求以抓取第一个 URL,并指定一个回调函数以使用从这些请求下载的响应调用。 第一个要执行的请求是通过调用start_r 阅读全文

posted @ 2022-12-26 12:11 花阴偷移 阅读(56) 评论(0) 推荐(0)

Scrapy 命令行工具

摘要: 1.Scrapy是通过 scrapy命令行工具控制的,Scrapy 工具提供了多个命令,用于多种用途,每个命令都接受一组不同的参数和选项。 2.配置设置 scrapy.cfg 文件位置: 1)系统级的位置:我这里是在D:\Users\AndyH\AppData\Local\Programs\Pyth 阅读全文

posted @ 2022-12-26 12:10 花阴偷移 阅读(106) 评论(0) 推荐(0)

Scrapy 第一个示例

摘要: 前置条件 安装python3.6 + 安装vs code scrapy 包安装 pip3 install scrapy 一.打开vs code ,在终端输入命令, Scrapy创建项目,这样项目就创建在F:\python_work\scrapy_Sample\tutorial 文件夹中 PS F:\ 阅读全文

posted @ 2022-12-26 12:09 花阴偷移 阅读(11) 评论(0) 推荐(0)

2022年12月19日

linux 磁盘分析

摘要: 一. 案例分析1 1. 首先查看磁盘整体使用率 [root@iZwz97yqubb71vyxhuskfxZ ~]# df -h Filesystem Size Used Avail Use% Mounted on devtmpfs 3.8G 0 3.8G 0% /dev tmpfs 3.8G 0 3 阅读全文

posted @ 2022-12-19 17:21 花阴偷移 阅读(40) 评论(0) 推荐(0)

修改docker中运行程序的配置参数(keycloak修改配置演示)

摘要: 首次在docker中创建 容器时,命令如下,可以不指定start-dev后面的参数 (指定参数太多?可以使用dockerfile文件,用docker build来构建容器,参考(更多参数也参考该链接):https://www.keycloak.org/server/containers) 这里使用8 阅读全文

posted @ 2022-12-19 17:21 花阴偷移 阅读(238) 评论(0) 推荐(0)

docker 安装和容器的路径

摘要: 一. centos 8 上 /var/lib/docker 这里是docker安装路径。 /var/lib/docker/containers 这里是容器的路径,注意容器中的日志过大,分析参照:https://www.cnblogs.com/MrHSR/p/16739163.html 阅读全文

posted @ 2022-12-19 17:20 花阴偷移 阅读(98) 评论(0) 推荐(0)

docker 清除无用的容器和无用的镜像

摘要: 一.清除无用的容器 以前linux主机down机后,每次使用docker run 镜像时会产生一个容器(这种操作是错误的,正确的方法是找到容器id,再启动就行了),久而久之,里面有了很多无用的容器,如下所示: docker container ls --all 如下图所示:keycloak有很多容器 阅读全文

posted @ 2022-12-19 17:20 花阴偷移 阅读(107) 评论(0) 推荐(0)

docker 系列14 数据管理 上(待整理)

摘要: 一.介绍 在生产环境中使用docker,往往需要对数据进行持久化,或者需要在多个容器之间进行数据共享,这必然涉及到容器的数据管理操作。容器中的管理数据主要有两种方式:1.数据卷(data volumes) 容器内数据直接映射到本地主机环境。2.数据卷容器(data volume Containers 阅读全文

posted @ 2022-12-19 17:17 花阴偷移 阅读(13) 评论(0) 推荐(0)

docker 系列10 端口映射

摘要: 一.dockerfile准备 有时多个容器之间需要互相访问到对方的服务,docker除了通过网络访问之外,还提供了两个功能来满足服务访问的基本需求:1.允许映射容器内应用的服务端口到本地宿主主机;2.互联机制实现多个容器间通过容器名来快速访问。 dockerfile如下所示: FROM mcr.mi 阅读全文

posted @ 2022-12-19 17:16 花阴偷移 阅读(29) 评论(0) 推荐(0)

docker 系列12 dockerfile介绍

该文被密码保护。 阅读全文

posted @ 2022-12-19 17:16 花阴偷移 阅读(1) 评论(0) 推荐(0)

上一页 1 ··· 18 19 20 21 22 23 24 25 26 ··· 55 下一页

导航