【Python_requests学习笔记(五)】requests模块中proxies参数用法

这篇具有很好参考价值的文章主要介绍了【Python_requests学习笔记(五)】requests模块中proxies参数用法。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

requests模块中proxies参数用法

前言

此篇文章中介绍requests模块中的代理IP参数proxies的详细用法。

正文

1、proxies参数介绍

proxies参数:代替本机的IP地址, 去对接网络的IP地址;其作用是,隐藏真实IP,避免被目标网站封掉。

2、代理IP分类

常见两种分类依据:匿名度、协议

2.1、根据匿名度分类
  1. 高匿代理:Web端只能看到代理IP;
  2. 普通代理:Web端知道有人通过此代理IP访问,但不知用户真实IP;
  3. 透明代理:Web端能看到用户真实IP,也能看到代理IP。
2.2、根据协议分类
  1. http代理:目标url为http协议;
  2. https代理:目标url为https协议;
  3. socks代理 :简单的传递数据包,不关心是何种协议,比http和https代理消耗小, 可以转发http和https的请求。

3、获取代理IP的网站

西刺代理、快代理(https://www.kuaidaili.com/free/)、全网代理、代理精灵…
proxies python,# requests学习笔记,Python学习笔记,python,爬虫,requests,proxies

4、proxies参数语法格式

使用免费代理IP:
免费代理IP:公网IP;每天可用IP数量>30000个;稳定性较差;访问网页的速度较慢;适合代理IP数量需求很大,对稳定性要求不是很高的客户。

proxies={"协议":"协议://IP:端口号"}

5、proxies参数用法示例

使用免费代理IP:

proxies={
    ‘http’:'http://IP:端口号',
    ‘https’:'https://IP:端口号',
}

注意:当抓取的地址为http时,则会选择proxies中的http,反之选择https

6、proxies参数具体示例

使用免费代理IP访问测试网站(http://httpbin.org/get)并确认IP。

import requests
from fake_useragent import UserAgent

url = "http://httpbin.org/get"  # 测试网站url地址
headers = {'User-Agent': UserAgent().random}  # 请求头
proxies = {
    'http': 'http://222.74.73.202:42055',
    'https': 'https://222.74.73.202:42055'
} 
html = requests.get(url=url, headers=headers, proxies=proxies).text  # 获取响应内容
print(html)

proxies python,# requests学习笔记,Python学习笔记,python,爬虫,requests,proxies
可以看到IP为:222.74.73.202

7、私密代理和独享代理

7.1、私密代理

私密代理IP:自营服务器IP;每天可用IP数量>50000个;稳定性较好;访问网页的速度较快;适合代理IP数量要求很大,对代理品质要求高的客户。

7.2、独享代理

独享代理IP:自建服务器IP;每天可用IP数量>100个,按数量购买;稳定性很好;访问网页的速度很快;适合代理IP数量需求不大,但对稳定性要求极高的客户。

7.3、私密代理和独享代理特点

特点:私密代理和独享代理 使用需要用户名和密码的认证,用户名和密码在对应代理IP网站上查找文章来源地址https://www.toymoban.com/news/detail-548948.html

7.4、私密代理和独享代理语法格式
proxies={'协议':'协议://用户名:密码@IP:端口号'}
7.5、私密代理和独享代理用法示例
proxies={
    ‘http’:'http://用户名:密码@IP:端口号'',
    ‘https’:'https://用户名:密码@IP:端口号'',
}

到了这里,关于【Python_requests学习笔记(五)】requests模块中proxies参数用法的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Python 爬虫的学习 day01 ,爬虫的基本知识, requests 和 charde模块, get函数的使用

    1.1什么是网络爬虫 网络爬虫,又称为网页蜘蛛,网络机器人,是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本,另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。 1.2  网络爬虫的特点 网络爬虫是一个自动提取网页的程序,它为搜索引擎从万

    2024年02月15日
    浏览(45)
  • Python学习笔记:Requests库安装、通过url下载文件

    在pipy或者github下载,通常是个zip,解压缩后在路径输入cmd,并运行以下代码  安装完成后,输入python再输入import requests得到可以判断时候完成安装  2.通过url下载文件 使用的是urllib模块

    2024年02月10日
    浏览(49)
  • 【Python学习笔记(五)】csv模块的使用

    CSV是数据处理中经常会用到的一种文件格式,一般也被叫做逗号分隔值文件,是一种纯文本文件,使用特定的结构来排列表格数据,可以使用 Excel 软件或者文本文档打开 。 csv模块 是 python标准库模块,无需手动安装,可以直接导入 import csv # 导入csv模块 ,此篇文章介绍csv模

    2024年02月08日
    浏览(44)
  • 爬虫学习(1)--requests模块的使用

    什么是爬虫 爬虫是一种自动化工具,用于从互联网或其他计算机网络上获取数据。它可以模拟人的行为,自动访问网页,提取感兴趣的数据,并将其存储到本地计算机或数据库中。爬虫通常用于搜索引擎、数据分析、信息聚合等领域,也被许多企业用于市场调研、竞争分析、

    2024年02月03日
    浏览(34)
  • python requests模块

    目录 一:介绍 二:发送get请求 三:发送post请求 四:发送put请求 五:发送delele请求 六:响应信息 一:介绍 requests 是 Python 中的一个非常流行的 HTTP 客户端库,用于发送 HTTP 请求。它使得发送 GET、POST、PUT、DELETE 等请求变得非常简单。 二:发送get请求 import requests      #

    2024年01月20日
    浏览(38)
  • python—requests模块详解

    1、requests简介 requests是一个很实用的Python HTTP客户端库,爬虫和测试服务器响应数据时经常会用到,它是python语言的第三方的库,专门用于发送HTTP请求,使用起来比urllib更简洁也更强大。 2、requests库的安装 方法1:命令行安装 windows操作系统:pip install requests Mac操作系统:p

    2024年02月07日
    浏览(47)
  • 27 Python的requests模块

    概述         在上一节,我们介绍了Python的logging模块,包括:logging的基本使用、logging的选项设置、日志旋转、logging.Filter类等内容。在这一节,我们将介绍Python的requests模块。requests模块是Python中最常用的HTTP客户端库之一,因为它简单易用,功能强大,并可以发送各种类

    2024年02月08日
    浏览(43)
  • Python爬虫之requests模块

    requests文档http://docs.python-requests.org/zh_CN/latest/index.html 1、requests模块的作用: 发送http请求,获取响应数据 2、requests模块是一个第三方模块,需要在你的python(虚拟)环境中额外安装 pip/pip3 install requests 3、requests模块发送get请求 需求:通过requests向百度首页发送请求,获取该页面

    2024年02月09日
    浏览(44)
  • python爬虫——request模块讲解,Python详解

    对于GET方式的请求,浏览器会把http header和data一并发送出去,服务器响应200(返回数据); 而对于POST, 浏览器先发送header,服务器响应100 continue,浏览器再发送data,服务器响应200 ok(返回数据)。 (二)http常见请求参数 url:请求url地址 headers:请求头 **data:发送编码为表

    2024年04月26日
    浏览(36)
  • Python的requests参数及方法

    Python的requests模块是一个常用的HTTP库,用于发送HTTP请求和处理响应。下面是requests模块的一些常用参数和方法的介绍: 要使用requests模块,首先需要安装它。可以使用pip命令来安装: pip install requests url:请求的URL地址。 params:请求的查询参数,可以是一个字典或字符串。

    2024年02月07日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包