换ip软件,代理ip软件,更改ip地址-智游代理
首页 IP软件套餐 HTTP代理套餐 API提取 使用帮助 新闻资讯 长效IP 注册 登录
在线咨询
大客户经理
大客户经理
13318873961

大客户经理微信

微信公众号

微信公众号

回到顶部
您的位置: 首页 > 新闻资讯 > 爬虫代理 > 正文

python 怎样设置http代理

发布时间:2018年11月27日 来源:智游代理 www.zhiyoudaili.com

HTTP代理大家应该听说过很多遍了,小编前面的文章中介绍了很多相关的知识,今天给大家介绍一下在python程序中要如何设置HTTP代理,请看下面的介绍。


  1. urllib2/urllib 代理设置

  urllib2是Python标准库,功能很强大,只是使用起来稍微麻烦一点。在Python 3中,urllib2不再保留,迁移到了urllib模块中。urllib2中通过ProxyHandler来设置使用代理服务器。

  proxy_handler = urllib2.ProxyHandler({'http': '121.193.143.249:80'})

  opener = urllib2.build_opener(proxy_handler)

  r = opener.open('http://httpbin.org/ip')

  print(r.read())

  也可以用install_opener将配置好的opener安装到全局环境中,这样所有的urllib2.urlopen都会自动使用代理。

  urllib2.install_opener(opener)

  r = urllib2.urlopen('http://httpbin.org/ip')

  print(r.read())

  在Python 3中,使用urllib。

  proxy_handler = urllib.request.ProxyHandler({'http': 'http://121.193.143.249:80/'})

  opener = urllib.request.build_opener(proxy_handler)

  r = opener.open('http://httpbin.org/ip')

  print(r.read())

  2.requests 代理设置

  requests是目前最优秀的HTTP库之一,也是我平时构造http请求时使用最多的库。它的API设计非常人性化,使用起来很容易上手。给requests设置代理很简单,只需要给proxies设置一个形如 {'http': 'x.x.x.x:8080', 'https': 'x.x.x.x:8080'} 的参数即可。其中http和https相互独立。

  In [5]: requests.get('http://httpbin.org/ip', proxies={'http': '121.193.143.249:80'}).json()

  Out[5]: {'origin': '121.193.143.249'}

  可以直接设置session的proxies属性,省去每次请求都要带上proxies参数的麻烦。

  s = requests.session()

  s.proxies = {'http': '121.193.143.249:80'}

  print(s.get('http://httpbin.org/ip').json())


以上就是全部内容了,大家明白了吗?程序员大牛可以动手试试哦。

转载注明来自:智游代理IP http://www.zhiyoudaili.com/

相关文章内容简介

1 为什么爬虫需要代理IP

现在已经是大数据时代,爬虫是数据采集的重要手段,而爬虫在数据采集的过程中,常常会因为IP受到限制而无法继续采集,这时候需要更换爬虫的IP才能继续下去。爬虫的IP在数据采集的过程中为什么会受到限制呢?因为现在很多网站都会有反爬虫措施,爬虫在采集过程中会发出大量的请求,触发了网站的反爬虫措施,因此IP就会被限制,导致采集工作无法继续。如果想让爬虫继续下去,就需要更换它的IP,而代理IP就是一种快捷方便的换IP工具,爬虫换了新的IP之后就可以继续工作了。我们使用爬虫,最大的目的就是为了提高工作效率,如果IP受限就毫无效率可言,所以为了保证爬虫的效率,搭配稳定可靠的代理IP就显得非常必要了。... [阅读全文]

2 优质爬虫http代理ip怎么选择?

最近跟多个爬虫采集的客户聊天,无论互联网行业发展到何种地步,“资源”永远是任何互联网公司必不可少的弹药粮草。夸大些讲,任何一个互联网公司都会用到不同类型的数据。那么数据从何而来,这就要讲到爬虫http代理IP的重要性了。因为我们的爬虫采集无论如何都绕不过去http爬虫IP代理。传统意义上讲,代理服务器主要用于安全领域,而爬虫代理IP主要用于突破互联网访问限制,但今天,随着我们对营销要求的提高,高质量代理IP就起到了必不可少的作用。1、高质量代理IP是什么?所谓高质量代理IP,必须要具体3个特点:A.高匿名,B.私密性,C.纯净资源;2、如何做到“高匿名”?智游代理所提供的高质量代理ip均为高匿类型,对方服务器检测不到你的真实源IP。3、如何做到“私密性”?在使用智游代理所提供的代理IP时,可以使用安全IP白名单授权,并且是即时生效型,即只有绑定的IP才可以使用代理IP,最大化化解客户IP所有权的安全问题。4、什么是“纯净资源”?智游代理的IP的资源来自自建机房,阿里云平台进行节点管理和运营支撑,也有P2P CDN节点,这种IP具有活跃时间长,真实... [阅读全文]

热门标签

推荐阅读

  1. 15

    2018-11

    Python语言需要代理ip

    网络科技发达的今天,很多语言随之诞生,如Java、.net、php等等,但是作为现在最热门的网络爬虫语言,Python在编程语言中的地位也是无可取代的。

  2. 31

    2019-07

    爬虫刷量代理ip提供商怎么选择?

    现在的网络业务中,越来越多的需要使用到高匿真实动态,尤其是http代理,相比https以及socks5代理,http更加常见,需求量也更加广泛。对于初学者,可能更多的是去寻找一些免费的代理ip,虽然

  3. 13

    2019-09

    python爬虫怎能离开代理IP

    做过python爬虫的人应该都知道,抓取网站数据多了,如果爬得过快,免不了触发网站的防爬机制,而最普遍的防爬手段,几乎用的同一招就是封IP。解决方案有2个:

  4. 30

    2018-11

    反爬虫策略去哪找代理IP?

    ​大家应该都听过爬虫和反爬虫吧,它们两就是一对天敌,这么说其实一点都不过分。在大数据时代,数据就是金钱,很多网站为了保护自己网站数据运用了反爬策略。

  5. 18

    2019-01

    如何选择合适的爬虫代理ip

    ​在我们学习各种编程语言的时候,出现各种异常是很常见的,拿最简单最基础的爬虫采集数据为例,过程中就会面临,IP被封,爬取受限、违规操作等多种问题

  6. 01

    2019-06

    爬虫动态代理ip服务器选择哪家好

    爬虫动态代理ip服务器选择哪家好?我们在做爬虫的过程中经常会遇到这样的情况,最初爬虫正常运行,网络爬虫的基本工作流程例如以下:1.选取种子URL;2.将这些URL放入待抓取URL队列;3.从待