目录
1、基本请求
2、代理设置
3、设置请求参数
4、设置请求头
5、文件的写入与读取
6、遍历请求 txt 内的所有 url
7、其他补充
1、基本请求
测试代码:
import requests
re = requests.get("http://www.baidu.com")
print(re.status_code)
print(re.text)
个人理解:
使用 requests 库我们肯定需要先导入它,使用 import 导入;
re 为我们自定义的一个参数,用来接收请求返回的信息,在 python 中点表示调用的意思,我们这里就调用了 requests 库中的 get() 方法,括号内为请求的URL,使用单引号或者双引号包裹;
最后使用 print 函数输出响应结果,也是通过点进行调用;
status_code 为响应状态码,text 返回的是网页源码(str类型)。
运行结果:
常用的调用方法:
re. text # 返回的是unicode 型的数据,一般是在网页的header中定义的编码形式
re.content # 返回的是bytes,二级制型的数据
如果想要提取文本就用 text ,如果想要提取图片、文件,就用 content
re.url # 获取请求的 url
re.status_code # 获取响应的状态码
re.headers # 获取响应头
re.request.headers # 获取请求头
re.cookies # 获取 cookie
re.history # 获取请求历史
2、代理设置
测试代码:
import requests
proxies = {
'http': "http://127.0.0.1:8080",
'https': "http://127.0.0.1:8080"
}
re = requests.get("http://www.baidu.com", proxies=proxies)
print(re.url)
print(re.status_code)
print(re.text)
个人理解:
就是加入一个 proxies ,字典的数据类型,内容为键值对的形式,分别为 http 和https 协议设置代理,我这里是转发到本地的 8080 端口,再使用 burpsuite 进行抓包拦截。
注意在请求中加上 proxies=proxies 即可。
运行结果:
burpsuite 成功抓包
放包之后观察 pycharm 结果回显
代理转发请求成功
3、设置请求参数
最常用的有两种情况:get 和 post 请求
测试代码(以 get 请求为例):
import requests
proxies = {
'http': "http://127.0.0.1:8080",
'https': "http://127.0.0.1:8080"
}
payload = {
'myon': "hello!",
'test': 123456
}
re = requests.get("http://www.baidu.com", proxies=proxies, params=payload)
print(re.url)
print(re.status_code)
print(re.text)
个人理解:
同代理设置一样,新增一个请求的 payload ,也是字典键值对的形式;
注意不同键值对之间使用逗号隔开,否则会报错;
请求中加上 params=payload 即可。
特别说明:
对于 get 请求,我们使用 params;
对于 post 请求,我们使用 data,即:
payload = {
'myon': "hello!",
'test': 123456
}
re = requests.post("http://www.baidu.com", proxies=proxies, data=payload)
抓包结果:
get 请求
post 请求
4、设置请求头
测试代码(以 post 请求为例):
import requests
proxies = {
'http': "http://127.0.0.1:8080",
'https': "http://127.0.0.1:8080"
}
payload = {
'myon': "hello!",
'test': 123456
}
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36 Edg/120.0.0.0',
'Accept-Language': 'zh-CN,zh;q=0.9,en;q=0.8,en-GB;q=0.7,en-US;q=0.6',
'test': 'hello Myon!'
}
re = requests.post("http://www.baidu.com", proxies=proxies, data=payload, headers=headers)
print(re.url)
print(re.status_code)
print(re.text)
个人理解:
新增请求的 headers ,也是字典键值对的形式,这里设置了三个请求头;
同理需要在请求中加上 headers=headers 。
使用 burpsuite 抓包看看:
这里如果直接运行会报错:
这个错误是由于 SSL 证书验证失败引起的
我们需要在请求中增加 verify=False
即:文章来源地址https://www.toymoban.com/news/detail-860249.html
re = requests.post("http://www.baidu.com", proxies=proxies, data=payload, headers=headers, verify=False)
运行结果:
因为这里 payload 我们是随便添加的所以找不到
5、文件的写入与读取
写入文件:
比如我们想将百度的图标下载下来
我们前面说过,这种图片类是二进制文件,因此使用 content
测试代码:
import requests
re = requests.get("https://www.baidu.com/favicon.ico")
with open('save.ico', 'wb') as f:
f.write(re.content)
个人理解:
'wb' 表示二进制写入,save.ico 为保存的文件名,如果当前目录下没这个文件名则会新建;
将这个文件作为 f (可自定义名字),调用 write() 方法写入请求返回的数据。
运行结果:
在同一目录下找到 save.ico 即我们下载的文件
如果我们想写入的是文本,则使用 text 和文本写入模式('w')
即:
with open('save.txt', 'w') as f:
f.write(re.text)
补充说明:
如果返回的内容不是 str 类型,可以使用 str() 方法进行类型转换,比如
f.write(str(re.status_code))
读取文件:
测试代码:
import requests
with open('ip.txt', 'r') as file:
for i in file:
print(i.strip())
个人理解:
其中 ip.txt 是一个本地存在的文件,'r' 表示以只读方式打开,并赋给 file(可自定义名字);
使用 for 循环,遍历 file ;
使用 print() 函数输出结果,strip() 用于去除行尾的换行符和空白字符。
运行结果:
这里其实还不用引入 requests 库,但是后面就会需要了
6、遍历请求 txt 内的所有 url
测试代码:
import requests
with open('url.txt', 'r') as urls:
for i in urls:
url = i.strip()
try:
re = requests.get(url)
print(f"请求URL为:{url}, 响应状态码为:{re.status_code}")
except Exception as e:
print(f"请求出错:{url},{e}")
在本地准备一个 url.txt
前三个为可正常访问的网站,最后一个为错误的地址
说明:
f 是 f-string 的语法,是一种用于字符串格式化的快捷方式;
在 f-string 中,可以直接嵌入变量和表达式,而不需要使用传统的字符串格式化方法;
{} 内放的是表达式,可以是变量、常量、表达式等;
这部分被称为花括号或占位符,用于在字符串中表示将在运行时被替换的值。
基本的 try 和 except 结构:
try:
# 你的代码块
# 可能会引发异常的代码
except SomeExceptionType as e:
# 处理异常的代码
# e 是异常对象,包含有关异常的信息
这里使用 requests.RequestException 更好,即:
except requests.RequestException as e:
运行结果:
7、其他补充
在请求中我们还可以设置超时时间,使用 timeout 指定
即:
向百度发出请求,如果 3 秒内没有得到响应,则抛出错误
re = requests.post("http://www.baidu.com", timeout=3)
请求分为两个阶段:连接(connect)和读取(read)
# 如果给 timeout 参数指定一个数值,则超时时间是这两个阶段的总和
# 可以传入一个元组,分别指定连接超时时间和读取超时时间文章来源:https://www.toymoban.com/news/detail-860249.html
即:
re = requests.post("http://www.baidu.com", timeout=(2,10))
到了这里,关于python 学习之 request 库的基本使用的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!