换ip软件,代理ip软件,更改ip地址-智游代理
首页 IP软件套餐 HTTP代理套餐 API提取 使用帮助 新闻资讯 长效IP 注册 登录 实名验证

在线咨询

800819380 售前客服
在线客服,实时响应

客户经理:
13326404693

473197630 QQ群
473197630

微信客服

您的位置: 首页 > 新闻资讯 > 爬虫代理 > 正文

python怎么验证http代理ip

发布时间:2018年11月14日 来源:智游代理 www.zhiyoudaili.com

社会科技在不断的进步,互联网行业发展迅速,有很多朋友不断加入互联网大军,今天我们来说一下互联网大军中的爬虫工作。我们都知道一般的网站都有反爬虫的系统限制,我们长时间对一个网站进行抓取的时候可能会遇到IP被封的情况,其实这样的情况,我们可以使用代理IP来解决,来突破IP服务器对IP的限制。那么我们怎么知道HTTP代理IP是可以使用的呢?这个时候我们可以用python 验证一下,下面跟大家分享一下验证的具体方法:


image.png


可以使用requests包进行验证:import requests try: requests.get('http://wenshu.court.gov.cn/', proxies={"http":"http://121.31.154.12:8123"}) except: print 'connect failed' else: print 'success'

  把验证通过的IP保存在redis里面,在IP被禁止的时候可以从redis中取出来使用。

  也使用telnet来验证的方法:

  mport telnetlib

  try:

  telnetlib.Telnet('127.0.0.1', port='80', timeout=20)

  except:

  print 'connect failed'

  else:

  print 'success'


这就是小编所带来的分享了,大家明白了吗?

转载注明来自:智游代理IP http://www.zhiyoudaili.com/

相关文章内容简介

1 爬虫用自建代理效果怎么样

爬虫是抓取数据的主要途径,现在很多企业都需要。但由于反爬虫的限制,想让爬虫顺利进行就要用代理IP,那么,爬虫用自建代理效果怎么样?自建服务器来获取代理IP的方法很好,稳定性也很强,但是需要大量的服务器。但是在正常情况下,爬虫用户并没有技术能力去维护服务器,这是因为对技术要求和成本都很高。作为用户来说,没有资源,也没有技术,所以并不推荐爬虫用户自建代理。现在有很多可以提供代理IP的商家,提供的IP质量都不错,并且稳定性也不错,所以建议爬虫用户试试付费的代理IP。如果没有目标,可以尝试智游代理,可以提供IP资源,还可以根据用户的需求来制定套餐,用来爬虫稳定又高效。... [阅读全文]

2 使用代理IP做爬虫的正确姿势

  没有被封过IP的爬虫工程师,肯定不是一个好的工程师。在爬虫工作的过程中,总是会遇到封IP的烦心事,今天这样爬,被封,明天那样爬,还是被封,到底要怎样爬呢,才不会被封。  很多人认为之所以被封IP,是因为爬取的太快了,确实是这样。那好吧,我就放慢速度,依然被封,再放慢速度,再被封,再再放慢速度,终于不被封了,但这速度和蜗牛没什么差别了,爬虫失去了它存在的意义。  很多人想到了使用代理IP来做爬虫,提升速度爬,被封,再换一个IP,再被封,再再换,再再被封,进入了“封了一个IP,还有千千万万IP”模式,工作效率终于提高了。  但这种方法也有一个致命的问题,上哪找这么多高效稳定的代理IP?  有人很快行动,写了个爬虫爬取网上的代理IP,然后筛选验证,最后封装在IP池里。结果发现,这种方法效率太低,IP质量太低,当然花费的成本也最低,只不过时间成本最高。  也有人迟疑,在网上经过各种筛选,找到了收费的代理IP,购买了一批。结果发现,这种方法一般般,勉强可以正常工作,但还达不到自己的预期,不是理想中的完美解决方案。  终于,有人找到了智游代理IP平台上的... [阅读全文]

热门标签

推荐阅读

  1. 07

    2019-08

    如何使用智游代理保证爬虫顺利完成工作

    我们在进行网络爬虫业务时,常会碰到一些问题,不是返回一些乱七八糟的状态码,就是限制我们的ip地址,甚至封ip,或是什么内容都不返回,让我们自己来猜测。所以,网络爬虫工作这么的

  2. 06

    2019-12

    网络爬虫伪装的三种方式

    爬虫和反爬虫相爱相杀,没有了爬虫,反爬虫毫无存在的意义,有了反爬虫,爬虫的日子也别想好过。爬虫每天都在想怎么甩了反爬虫,反爬虫则是每天都在想怎么黏住爬虫,它们不断的在对抗

  3. 31

    2019-12

    爬虫使用代理防封IP

    在我们使用爬虫进行数据爬取的时候,爬着爬着就经常会遇到这种情况出现“HTTP Error 403:Forbidden”的提示,这是啥意思呢?其实他是一种http状态码,表示你在请求一个资源文件但是nginx不允许你

  4. 04

    2018-12

    使用代理ip如何突破反爬虫限制?

    ​在互联网中,有网络爬虫的地方,绝对少不了反爬虫的身影。网站反爬虫的拦截前提是要正确区分人类访问用户和网络机器人,当发现可疑目标时,通过限制IP地址等措施阻止你继续访问。

  5. 13

    2020-03

    如何通过代理IP保证爬虫程序稳定运行

    使用爬虫代理IP的最佳方案是用智游代理软件,这样才能更有效的保障爬虫工作的高效稳定持久的运行,那么怎么在本地维护IP池呢?

  6. 05

    2019-07

    如何使用代理IP进行高效的爬虫工作

    如何使用代理IP进行高效的爬虫工作?说起爬虫,很多人第一时间想到的就是Python,Python作为一门入门极易并容易上瘾的语言,已经成为很多人的标配语言。Python与其它语言(比如Java或者C、C#)