换ip软件,代理ip软件,更改ip地址-智游代理
首页 IP软件套餐 HTTP代理套餐 API提取 使用帮助 新闻资讯 长效IP 注册 登录 实名验证

在线咨询

800819380 售前客服
在线客服,实时响应

客户经理:
13326404693

473197630 QQ群
473197630

微信客服

您的位置: 首页 > 新闻资讯 > 爬虫代理 > 正文

解决爬虫采集网站时被封IP的几种方法

发布时间:2018年10月15日 来源:智游代理 www.zhiyoudaili.com

本文主要介绍了使用爬虫采集网站时,解决被封IP常见的几种方法的相关资料,需要的朋友可以参考下。

 

方法1:

之前由于公司项目需要,采集过google地图数据,还有一些大型网站数据。

经验如下:

1.IP必须需要,如果有条件,可以直接使用成熟的代理IP服务商,类似像智游代理这种。

2.在有外网IP的机器上,部署代理服务器。

3.你的程序,使用轮训替换代理服务器来访问想要采集的网站。

好处:

1.程序逻辑变化小,只需要代理功能。

2.根据对方网站屏蔽规则不同,你只需要添加更多的代理就行了。

3.就算具体IP被屏蔽了,你可以直接把代理服务器下线就OK,程序逻辑不需要变化。

 

方法2:

有小部分网站的防范措施比较弱,可以伪装下IP,修改X-Forwarded-for即可绕过。

大部分网站么,如果要频繁抓取,一般还是要多IP。我比较喜欢的解决方案是国外VPS再配多IP,通过默认网关切换来实现IP切换,比HTTP代理高效得多,估计也比多数情况下的ADSL切换更高效。

 

方法3:

ADSL + 脚本,监测是否被封,然后不断切换 ip

设置查询频率限制

正统的做法是调用该网站提供的服务接口。

 

方法4:

1 user agent 伪装和轮换

2 使用代理 ip 和轮换

3 cookies 的处理,有的网站对登陆用户政策宽松些

友情提示:考虑爬虫给人家网站带来的负担,be a responsible crawler :)

 

方法5:

尽可能的模拟用户行为:

1、UserAgent经常换一换;

2、访问时间间隔设长一点,访问时间设置为随机数;

3、访问页面的顺序也可以随机着来

 

方法6:

网站封的依据一般是单位时间内特定IP的访问次数.

我是将采集的任务按 目标站点的IP进行分组 通过控制每个IP 在单位时间内发出任务的个数,来避免被封.当然,这个前题是你采集很多网站.如果只是采集一个网站,那么只能通过多外部IP的方式来实现了。

 

方法7:

1. 对爬虫抓取进行压力控制;

2. 可以考虑使用代理的方式访问目标站点。

-降低抓取频率,时间设置长一些,访问时间采用随机数

-频繁切换UserAgent(模拟浏览器访问)

-多页面数据,随机访问然后抓取数据

-更换用户IP

转载注明来自:智游代理IP http://www.zhiyoudaili.com/

相关文章内容简介

1 企业爬虫为什么不能使用免费代理IP

对于爬虫来说,为了防止在爬取的过程中IP被封禁,一个最有效的方式就是选择使用代理IP,代理IP可以说是爬虫的“黄金搭档”了。代理IP有免费和收费之分,虽然选择免费代理可以有效地节约成本,不过带来的不良影响也是巨大的。一、免费代理IP可用率低事实上免费代理非常的多,而且因为是免费,用户也非常的多。不过正是因为用户数量庞大,所以可用的资源非常少。1万个免费IP,能用的数量也许不足100,速度和稳定性也很差,大大增加了时间成本——时间就是金钱!二、免费代理安全性无法保障代理IP的作用就是代理网络客户去获取网络信息,它就相当于一个网络信息中转站。代理IP分为透明代理、普通匿名代理和高匿代理三种,只有高匿代理才能达到隐藏IP的目的。而免费代理都是透明代理,会暴露自己的真实IP,安全性无法保障。三、账号易受牵连我们在进行投票、发贴、信息采集等工作时,为了防止IP受限,都会选择使用代理IP。如果选择的是免费代理IP,那就很有可能和别人同时使用,那么你的IP和账号被封的风险就大大增加了。以上就是企业爬虫为什么不能使用免费代理IP的主要原因,所以,为了保证工作效率... [阅读全文]

2 破解反爬用代理IP

随着大数据时代的来临,爬虫已经成为了获取数据的必不可少的方式,做过爬虫的想必都经历过,爬取的时候IP会莫名其妙地就被网站封掉了,毕竟各大网站都不希望自己的数据被轻易地爬走。对于爬虫来说,为了防止IP被封禁,一个有效的方式就是使用代理,使用代理之后可以让爬虫伪装自己真实的IP,只要使用大量的随机的IP进行爬取,那么网站就不知道是我们的爬虫在一直爬取了,这样就有效的解决了反爬的问题。代理IP有免费代理和收费代理。免费代理虽然不用花钱,但IP可用率低,速度及稳定性较差,无形中增加了大量的时间成本。而收费代理IP可用率高,资源海量,速度及稳定性都很高。所以,对于爬虫等一些需要高质量代理IP的用户,建议选择收费代理。... [阅读全文]

热门标签

推荐阅读

  1. 05

    2018-12

    爬虫为什么喜爱HTTP代理IP?

    大家都知道,HTTP代理IP指使用代理服务器使网络用户访问外部网站,简单的说就是换个IP访问网站。

  2. 13

    2020-04

    爬虫如何伪装和防Ban?

    在一次真实的请求中,我们都会带着各种样的请求参数,如果将这些参数补全,那我们被ban的机率也会相应的减少很多。如何将这些参数在scrapy的项目补齐?在开始这个问题之前,我们回头来看

  3. 28

    2018-11

    Python如何使用http/https代理

    在国内利用Python从Internet上爬取数据时,有些网站或API接口被限速或屏蔽,这时使用代理可以加速爬取过程,减少请求失败,Python程序使用代理的方法主要有以下几种

  4. 05

    2020-06

    企业爬虫为什么不能使用免费代理IP

    对于爬虫来说,为了防止在爬取的过程中IP被封禁,一个最有效的方式就是选择使用代理IP,代理IP可以说是爬虫的“黄金搭档”了。代理IP有免费和收费之分,虽然选择免费代理可以有效地节约

  5. 24

    2019-10

    爬虫ip代理服务器的简要思路

    爬虫有的时候会遇到被禁ip的情况,这个时候你可以找一下代理网站,抓取一下ip,来进行动态的轮询就没问题了,也可以用别人做好的第三方ip代理平台,比如说crawlera,crawlera是一个利用代理IP

  6. 11

    2019-06

    企业爬虫为什么不能用免费代理ip

    在大数据的前提下,现在会用代理IP的人增多,本着有便宜不占王八蛋的心里,还是有很多用户不愿意使用付费的爬虫代理ip.而是选择网上公开的免费代理ip,尽管是完全免费,但是老话说得好