首先需要 pip install beautifulsoup4
安装
然后为了方便学习此插件,随便打开一个网页,然后鼠标右键,打开源网页,如下图片
这样就可以获得一个网页源码,全选复制粘贴到本地,存储为 .html
文件,后续的学习以此html文件为模版进行
from bs4 import BeautifulSoup
import os
# html文件放置的路径和名字
filePath = os.path.join(os.getcwd(), "HTML", "1.html")
print(filePath)
# 打开html文件,注意encoding格式
with open(filePath, "r", encoding="UTF-8") as f:
html_content = f.read()
# 把这个html进行解析
soup = BeautifulSoup(html_content, 'html.parser')
# 这里是抓第一个 <h1>标签的文本内容
h1_content = soup.find('h1').get_text()
# 这里是抓第一个<p> 标签的文本内容
p_content = soup.find('p').get_text()
print('h1 content:', h1_content)
print('p content:', p_content)
print("--------------------------")
# 这里是抓取所有<p> 标签
p_content_all = soup.find_all('p')
# 利用for 循环进行逐条解析,获取文本内容
for p_content in p_content_all:
print(p_content.get_text())
如,html文件中含结构
<div class="title_box pd10">
<h1>六年前的今天:湖人退役科比的8号和24号球衣</h1>
<div class="info_box">
<span class="time">2023-12-19</span>
<span class="source">直播吧</span>
</div>
</div>
我使用如下命令:
# 使用此命令获取 <h1>标签的文本内容
soup.find('h1').get_text()
# 结果:
六年前的今天:湖人退役科比的8号和24号球衣
soup.find('span', class_='time')
# 结果
2023-12-19
例二:
html内容含结构如下:
<div class="disZoom bq_bar">
<div class="disZoom bar_info">
<span class="biaoqian">
<a href="/?cateid=1005" class="tags">体育</a>
</span>
<span class="laiyuan">来源:阿希啥都聊</span>
</div>
</div>
使用命令:
# 抓取html中出现的第一个以下结构内的内容
soup.find('a', herf="/?cateid=1005")
# 结果是:
体育
类似的结构还有:文章来源:https://www.toymoban.com/news/detail-797004.html
</span>
<p class="tit">早报:华为nova 12价格全曝光 蔚来获22亿美元融资</p>
</a>
soup.find('p', class_="tit")
基本上你想要抓取的内容都可以按照格式进行解析获取,是非常方便的
先行记录:
在之后自己构建网页后,自主进行管理,获取,导出网页内容应该都是非常有帮助的,避免反复使用re工具自己分析,太过于繁琐,结合 requests 库等,可以更加高效进行网页访问及内容获取。文章来源地址https://www.toymoban.com/news/detail-797004.html
到了这里,关于使用bs4 分析html文件的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!