代理的基本原理

代理:防止ip被封,通过代理设置代理服务器频繁的更换ip地址,来解决ip会被封的问题。

原理:。 如果设置了代理服务器, 实际上就是在本机和服务器之间搭建了一个 桥, 此时本机不是直接向 Web 服务器发起请求,而是向代理服务器发出请求,请求会发送给代理服务 器,然后由代理服务器再发送给 Web 服务器,接着由代理服务器再把 Web 服务器返回的响应转发给 木机。 这样我们同样可以正常访问网页,但这个过程中 Web 服务器识别出的真实 IP 就不再是我们本 机的 IP 了,就成功实现了 IP 伪装,这就是代理的基本原理。

2.5.2代理的作用

1.突破门身 IP访问限制,访问一些平时不能访问的站点(翻----墙)

2.访问一些单位或团体内部资惊:比如使用教育网内地址段免费代理服务器,就可以用于对教 育网开放的各类 FTP下载上传,以及各类资料查询共享等服务。

3.提高访问速度:通常代理服务器都设置一个较大的硬盘缓冲区,当有外界的信息通过时,同 时也将·其保存到缓冲区中,当其他用户再访问相同的信息时,则直接由缓冲区中取出信息, 传给用户,以提高访问速度。

4.隐藏真实 IP: 上网者也可以通过这种方法隐藏自己的 ip, 免受攻击。 对于爬虫来说,我们用 代理就是为了隐藏自身 IP,防止 向身的 IP 被封锁。

爬虫代理

对于爬虫来说,由于爬虫爬取速度过快,在爬取过程中可能遇到同一个 IP 访问过于频繁的问题, 此时网站就会让我们输入验证码登录或者直接封锁 ,这样会给爬取带来极大的不便。

使用代理隐藏真实的 IP,让服务器误以为是代理服务器在请求向己。 这样在爬取过程中通过不断 更换代理,就不会被封锁,可以达到很好的爬取效果。

代理分类

1.根据协议区分

FTP 代理服务器: 主要用于访问FTP服务器,一般有上传、 下载以及缓存功能,端口一般为 21 、 2121 等

HTTP 代理服务器: 主要用于访问网页,一般有内容过滤和缓存功能,端口一般为 80 、 8080、 3128 等。

SSL/TLS 代理: 主要用于访问加密网站, 一般有 SSL 或 TLS 加密功能(最高支持 128 位加密 强度),端口一般为 443。

RTSP 代理: 主要用于访问 Real 流媒体服务器, 一般有缓存功能,端口一般为 554。 

Telnet代理: 主要用于telnet远程控制(黑客人侵计算机时常用于隐藏身份),端口一般为 23。 

POP3/SMTP 代理: 主要用于 POP3/SMTP方式收发邮件, 一般有缓存功能,端口一般为 110/25

SOCKS 代理: 只是单纯传递数据包,不关心具体协议和用法,所以速度快很多, 一般有缓 存功能,端口一般为 1080。 SOCKS代理协议又分为 SOCKS4和 SOCKS5 ,前者只支持 TCP, 而后者支持 TCP 和 UDP ,还支持各种身份验证机制、服务器端域名解析等。 简单来说, SOCKS4 能做到的 SOCKS5 都可以做到,但 SOCKS5 能做到的 SOCKS4 不一定能做到。

2.根据匿名程度区分

高度匿名代理: 会将数据包原封不动地转发,在服务端看来就好像真的是一个普通客户端在 访问,而记录的 IP 是代理服务器的 IP。 

普通匿名代理: 会在数据包上做一些改动, 服务端上有可能发现这是个代理服务器,也有一定几 率追查到客户端的真实E。 代理服务器通常会加入的Hπ?头有HTTP VIA和 HTTP X FOR帆DED FOR。 

透明代理: 不但改动了数据包 还会告诉服务器客户端的真实 IP。 这种代理除了能用缓存技 术提高浏览速度,能用内容过滤提高安全性之外,并无其他显著作用,最常见的例子是内网 巾的硬件防火墙。 

间谍代理: 指组织或个人创建的用于记录用户传输的数据,然后进行研究、 监控等 目的的代 理服务器。

2.5.5 常见的代理设置

使用网上的免费代理: 最好使用高匿代理, 另外可用的代理不多,需要在使用前筛选一下可 用代理,也可以进一步维护一个代理池

使用付费代理服务: 互联网上存在许多代理商,可以付费使用, 质量比免费代理好很多。 

ADSL 拨号:拨一次号换一次 E,稳定性高,也是一种比较有效的解决方案
posted @ 2020-03-28 14:47  ACWink  阅读(670)  评论(0编辑  收藏  举报