Loading

Docker--高级网络配置

Docker 高级网络配置

当 Docker 启动时,会自动在宿主机上创建一个 docker0 虚拟网桥,实际上是Linux 的一个 bridge,可以理解为一个软件交换机。它会在挂载到它的网口之间进行转发。

[root@server ~]# ifconfig 
docker0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 172.17.0.1  netmask 255.255.0.0  broadcast 0.0.0.0

同时,Docker 随机分配一个本地未占用的私有网络(在RFC1918中定义)中的一个地址给 docker0接口。比如典型的 172.17.0.1,掩码为255.255.0.0。此后启动的容器内的网口也会自动分配一个网段(172.17.0.0/16)的地址。

当创建一个 Docker 容器的时候,同时会创建一个 veth pair 接口(当数据包发送到一个接口时,另外一个接口也可以接收相同的数据包)。这对接口一端在容器内,即 eth0;另一端在本地并被挂载到docker0 网桥,名称以veth 开头(例如 veth4c45933)。通过这种方式,主机可以跟容器通信,容器之间也可以相互通信。Docker 就创建了在主机和所有容器之间的一个虚拟共享网络。

快速配置指南

Docker 网络相关的命令列表

只有在Docker 服务启动的时候才能配置,而且不能马上生效的有:

-b  BRIDGE  or --bridge=BRIDGE        --指定容器挂载的网桥
--bip=CIDR                     --定制docker0的掩码
-H SOCKET... or --host=SOCKET...      --Docker服务端接收命令的通道
--icc=true|false                --是否支持容器之间进行通信
--ip-forward=true|false            --请看下文容器之间的通信
--iptables=true|false              --是否允许Docker添加iptables规则
--mtu=BYTES                     --容器网络中的MTU

既可以在启动服务时指定,也可以 Docker容器启动(docker run)时候指定。在Docker 服务启动的时候指定则会成为默认值,后面执行 docker run 时可以覆盖设置的默认值:

--dns=IP_ADDRESS...          --使用指定的DNS服务器
--dns-search=DOMAIN...        --指定DNS搜索域
    

只有在 docker run 执行时使用,因为它是针对容器的特性内容:

-h  HOSTNAME  or  --hostname=HOSTNAME        --配置容器主机名
--link=CONTAINER_NAME:ALIAS              --添加到另一个容器的连接
--net=bridge|none|container:NAME_or_ID|host  --配置容器的桥接模式
-p  SPEC  or  --publish=SPEC              --映射容器端口到宿主主机
-P  or  --publish-all=true|false           --映射容器所有端口到宿主主机

配置 DNS

Docker 没有为每个容器专门定制镜像,那么怎么自定义配置容器的主机名和DNS配置?秘诀就是它利用虚拟文件来挂载到容器的3个相关的配置文件。

在容器中使用mount命令可以看到挂载信息:

[root@server ~]# docker run --rm --name myCentos -it centos /bin/bash   #创建一个执行完命令自动终止的容器
[root@fb589b253bba /]# mount
...
/dev/mapper/cl-root on /etc/resolv.conf type xfs (rw,relatime,attr2,inode64,noquota)
/dev/mapper/cl-root on /etc/hostname type xfs (rw,relatime,attr2,inode64,noquota)
/dev/mapper/cl-root on /etc/hosts type xfs (rw,relatime,attr2,inode64,noquota)
...

这种机制可以让宿主机DNS信息发生更新后,所有Docker容器的 dns 配置通过 /etc/resolv.conf 文件立刻得到更新。

如果想要手动指定容器的配置,可以利用下面的选项。

-h HOSTNAME or --hostname=HOSTNAME 设定容器的主机名,它会被写到容器的/etc/hostname 和 /etc/hosts。
但它在容器外部看不到,既不会在docker ps中显示,也不会在其它容器的 /etc/hosts看到

[root@server ~]# docker run --rm -h mydocker_test --name myCentos -it centos /bin/bash   #创建一个指定 HOSTNAME的容器
[root@mydocker_test /]# cat /etc/hostname  #查看hostname文件信息
mydocker_test
[root@mydocker_test /]# cat /etc/hosts  #查看hosts文件信息
...
172.17.0.5    mydocker_test
--link=CONTAINER_NAME:ALIAS   选项会在创建容器的时候,添加一个其他容器 的主机名到/etc/hosts 文件中,让新容器的进程可以使用主机名 ALIAS 就可以 连接它。

实例参考:https://www.cnblogs.com/yanjieli/p/10218842.html#autoid-7-6-1
--dns=IP_ADDRESS 添加DNS服务器到容器的 /etc/resolv.conf中,让容器利用这个服务器来解析所有不在 /etc/hosts 中的主机名

[root@server ~]# docker run --rm --dns=114.114.114.114 --name myCentos -it centos /bin/bash   #创建一个容器,并指定dns为114.114.114.114
[root@aa199cd14e2a /]# cat /etc/resolv.conf 
nameserver 114.114.114.114
--dns-search=DOMAIN 设定容器的搜索域,当设定搜索域为 .example.com时,再搜索一个名为 host的主机时,DNS不仅搜索host,还会搜索host.example.com。

注意:如果没有--dns 和--dns-search选项时,Docker会默认用宿主机上的 /etc/resolv.conf 来配置容器。

容器访问控制

容器的访问控制,主要通过Linux上的 iptables 防火墙来进行管理和实现。 

容器访问外部网络

容器要想访问外部网络,需要本地系统的转发支持,在linux系统中,检查转发是否打开

[root@server ~]# sysctl net.ipv4.ip_forward
net.ipv4.ip_forward = 1

如果为0,说明没有开启转发,则需要手动打开

[root@server ~]# sysctl -w net.ipv4.ip_forward=1

如果在启动Docker服务的时候指定 --ip-forward=true,Docker就会自动设定系统的 ip_forward 参数为1。

[root@server ~]# docker run --rm --name myCentos -it centos /bin/bash   #启动一个容器
[root@2bdfb90cb3e0 /]# ping qq.com  #测试是否能够访问外部网络
PING qq.com (180.163.26.39) 56(84) bytes of data.
64 bytes from 180.163.26.39 (180.163.26.39): icmp_seq=1 ttl=52 time=29.6 ms
64 bytes from 180.163.26.39 (180.163.26.39): icmp_seq=2 ttl=52 time=29.3 ms

容器之间访问

容器之间互相访问,需要两方面的支持。

  • 容器的网络拓扑是否已经互联。默认情况下,所有容器都会被连接到 docker0 网桥上
  • 本地系统的 iptables 是否允许通过

默认情况下,容器之间是可以相互通信的

访问所有的端口

当启动Docker 服务时,默认会添加一条转发策略到iptables 的FORWARD链上。策略为通过(ACCEPT)还是禁止(DROP)取决于配置 --icc=true 还是 --icc=false。如果手动指定 --iptables=false 则不会添加iptables 规则。

可见,默认情况下,不同容器之间是允许网络互通的。如果是为了安全考虑,可以在/etc/default/docker 文件中配置 DOCKER_OPTS=--icc=false 来禁止它。

容器访问外部网络

容器所有到外部网络的连接,源地址都会被NAT成本地系统的IP地址,这是使用iptables 的源地址伪装操作实现的。

查看主机的NAT规则

[root@server ~]# iptables -t nat -nL  #查看防火墙nat表的规则
...
Chain POSTROUTING (policy ACCEPT)
target     prot opt source               destination         
MASQUERADE  all  --  172.17.0.0/16        0.0.0.0/0 
...

其中,上述规则将所有源地址在 172.17.0.0/16 网段,目标地址为其它网络(外部网络)的流量动态伪装为从系统网卡发出。MASQUERADE 跟传统的 SNAT的好处就是它能动态从网卡获取地址。

外部网络访问容器

容器允许外部访问,可以在docker run 时候通过 -p 或 -P 参数来启用。不论用哪种,其实也是在本地的 iptables 的nat表中添加相应的规则。使用 -P 时:

[root@server ~]# iptables -t nat -nL  #查看防火墙nat表的规则
...
Chain DOCKER (2 references)
target     prot opt source               destination                  
DNAT       tcp  --  0.0.0.0/0            0.0.0.0/0            tcp dpt:32770 to:172.17.0.3:443
DNAT       tcp  --  0.0.0.0/0            0.0.0.0/0            tcp dpt:32771 to:172.17.0.3:80
...

使用 -p 88:80 时:

[root@server ~]# iptables -t nat -nL  #查看防火墙规则
Chain DOCKER (2 references)
target     prot opt source               destination         
DNAT       tcp  --  0.0.0.0/0            0.0.0.0/0            tcp dpt:88 to:172.17.0.5:80

注意:这里规则映射了 0.0.0.0,意味着将接收主机来自所有的接口的流量。

配置 docker0 网桥

Docker 服务默认会创建一个 docker0 网桥(其实有一个 docker0 内部接口),它在内核层连通了其它的物理网卡或虚拟网卡,这就将所有容器和本地主机都放到同一个物理网络。

Docker 默认指定了 docker0 接口的 IP 地址和子网掩码,让主机和容器之间可以通过网桥相互通信,它还给出了MTU(接口允许接收的最大传输单元),通常是1500Bytes,或宿主机网络路由上支持的默认值,这些值都可以在服务启动的时候进行配置。

--bip=CIDR   --IP地址加掩码格式,例如 192.168.1.2/24
--mtu=BYTES  --覆盖默认的 Docker mtu配置

也可以在配置文件中配置 DOCKER_OPTS, 然后重启服务,由于目前Docker网桥是Linux网桥,可以使用 brctl show 来查看网桥和端口连接信息

[root@server ~]# brctl show  #查看网桥和端口信息
bridge name    bridge id        STP enabled    interfaces
docker0        8000.0242d8da46c0    no        veth07c5f5c
                                       veth0bed0f7

每次创建一个新容器的时候,Docker 从可用的地址段中选择一个空闲的 IP 地址分配给容器的 eth0 端口。使用本地主机上 docker0 接口的IP 作为所有容器的默认网关

[root@server ~]# docker run -it --rm --name myCentos centos /bin/bash
[root@4636797a8e7c /]# ifconfig 
eth0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 172.17.0.6  netmask 255.255.0.0  broadcast 172.17.255.255
...

[root@4636797a8e7c /]# route -n
Kernel IP routing table
Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
0.0.0.0         172.17.0.1      0.0.0.0         UG    0      0        0 eth0
172.17.0.0      0.0.0.0         255.255.0.0     U     0      0        0 eth0

自定义网桥

除了默认的 docker0 网桥,也可以指定网桥来连接各个容器

在启动Docker 服务的时候, 使用 -b BRIDGE --bridge=BRIDGE 来指定使用的网桥

(1)先创建网桥

[root@server ~]# systemctl stop docker  #停止docker服务
[root@server ~]# ip link set dev docker0 down  #停止docker0网桥
[root@server ~]# brctl delbr docker0  #删除docker0网桥

[root@server ~]# brctl addbr bridge0  #新建bridge0网桥
[root@server ~]# ip addr add 192.168.2.1/24 dev bridge0  #绑定ip给bridge0网桥
[root@server ~]# ip link set dev bridge0 up  #启动bridge0网桥
[root@server ~]# brctl show   #查看网桥信息
bridge name    bridge id        STP enabled    interfaces
bridge0        8000.000000000000    no        
virbr0        8000.525400caf93e    yes        virbr0-nic
[root@server ~]# ifconfig bridge0  #查看bridge0网桥信息
bridge0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.2.1  netmask 255.255.255.0  broadcast 0.0.0.0

(2)配置Docker 服务

[root@server ~]# vim /lib/systemd/system/docker.service  #由于新版本的没有/etc/default/docker配置文件,so 需要自己添加。
ExecStart=/usr/bin/dockerd -H unix:// $DOCKER_OPTS  #在ExecStart末尾添加 $DOCKER_OPTS
EnvironmentFile=-/etc/default/docker    #指定配置文件的路径

[root@server ~]# vim /etc/default/docker  #自定义编辑配置文件,写入启动指定网桥的网桥信息
DOCKER_OPTS="-b=bridge0"

[root@server ~]# systemctl start docker  #启动docker服务
[root@server ~]# docker run --rm -ti --name Mycentos centos /bin/bash  #创建一个容器

[root@0a13bd05faae /]# ifconfig  #查看容器的ip地址,检查是否桥接到birdge0上面
eth0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.2.2  netmask 255.255.255.0  broadcast 192.168.2.255

[root@0a13bd05faae /]# ping 192.168.2.1  #测试和网桥是否通
PING 192.168.2.1 (192.168.2.1) 56(84) bytes of data.
64 bytes from 192.168.2.1: icmp_seq=1 ttl=64 time=0.094 ms

说明:在老版本docker上面默认就有/etc/default/docker配置文件,直接编辑即可, 在新版本上面没有,所以需要自己指定。

创建一个点到点的连接

默认情况下,Docker 会将所有的容器连接到由 docker0 提供的虚拟子网中。

如果我们需要两个容器之间可以通信,而不通过宿主机网桥进行桥接。

解决办法:创建一对 peer 接口,分别放到两个容器中,配置成点对点链路类型即可。

(1)首先启动2个容器:

[root@server ~]# docker run -i -t --rm --name myCentos01 --net=none centos /bin/bash  #在第一个终端启动第一个容器

[root@server ~]# docker run -i -t --rm --name myCentos02 --net=none centos /bin/bash  #在第二个终端启动第二个容器

(2)找到进程号,然后创建网络命名空间的跟踪文件(在第三个终端操作)

[root@server ~]# docker inspect -f '{{.State.Pid}}' myCentos01  #找到myCentos01的进程号
16614
[root@server ~]# docker inspect -f '{{.State.Pid}}' myCentos02  #找到myCentos02的进程号
16713
[root@server ~]# mkdir -p /var/run/netns
[root@server ~]# ln -s /proc/16614/ns/net /var/run/netns/16614
[root@server ~]# ln -s /proc/16713/ns/net /var/run/netns/16713

(3)创建一对 peer 接口,然后配置路由(在第三个终端操作)

[root@server ~]# ip link add A type veth peer name B
[root@server ~]# 
[root@server ~]# ip link set A netns 16614
[root@server ~]# ip netns exec 16614 ip addr add 10.1.1.1/32 dev A
[root@server ~]# ip netns exec 16614 ip link set A up
[root@server ~]# ip netns exec 16614 ip route add 10.1.1.2/32 dev A
[root@server ~]# 
[root@server ~]# ip link set B netns 16713
[root@server ~]# ip netns exec 16713 ip addr add 10.1.1.2/32 dev B
[root@server ~]# ip netns exec 16713 ip link set B up
[root@server ~]# ip netns exec 16713 ip route add 10.1.1.1/32 dev B

(4)测试两个容器之间的通信

[root@90709b31ef86 /]# ping 10.1.1.2  #在myCentos01上面测试与myCentos02之间的通信
PING 10.1.1.2 (10.1.1.2) 56(84) bytes of data.
64 bytes from 10.1.1.2: icmp_seq=1 ttl=64 time=0.075 ms

[root@96af03d9ad15 /]# ping 10.1.1.1  #在myCentos02上面测试与myCentos01之间的通信
PING 10.1.1.1 (10.1.1.1) 56(84) bytes of data.
64 bytes from 10.1.1.1: icmp_seq=1 ttl=64 time=0.075 ms

通过测试,这两个容器可以互相ping通,并成功建立连接。点到点链路不需要子网和子网掩码。

此外,也可以不指定 --net=none 来创建点到点链路。这样容器还可以通过原先的网络来通信。

 

posted @ 2019-01-06 17:48  别来无恙-  阅读(2152)  评论(0编辑  收藏  举报