python 的selenium自动操控浏览器教程(2)

这篇具有很好参考价值的文章主要介绍了python 的selenium自动操控浏览器教程(2)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

人生苦短,我用py



关于部分网页无法找到元素的问题1

问题描述
这个问题我想,大概还是基础知识不牢靠的原因

selenium中的寻找元素,只是能寻找到当前页面的一个html中的元素,如果出现嵌套的网页就无法寻找到所嵌套网站中的元素的!!对我说的就是iframe!!!这个自带黑魔法的东西

上图:
python 的selenium自动操控浏览器教程(2),脚本,python,python,selenium,java

出现这种情况是找不到的!

方案1

我们需要先获取iframe中的src也就是嵌套网页的地址,然后再去请求就好了

# 寻找第一层框架入口
s = Driver.find_element(By.ID, "frame_content").get_attribute("src")
# 进入第一层框架入口
Driver.get(s)

方案2

当然我们页可以直接去对iframe执行点击操作,这样更快,更人性化

关于部分网页无法找到元素的问题2

问题描述
这种情况是出现打开新的网页的情况,当我们打开了新的页面时,但是我们WebDriver并不会自动跳转的!他还在原来的页面时,所以我们去寻找新页面中的元素就会找不到了!!

如图所示

python 的selenium自动操控浏览器教程(2),脚本,python,python,selenium,java

解决方案

那怎么样让驱动也去跳转那?

那我们需要获取句柄了(我只会windows平台上的)

注意这是我们获取的时当前驱动的所有句柄,如果有两个页面的话就会有两个句柄的,于是我们取出最后也个句柄,并使用switch_to.window方法使我们的浏览器驱动跳转到我们需要的(及第二个)页面。

  # 获取当前句柄,这很重要!!
   url = Driver.window_handles
   # 跳转到我们需要的网页
   Driver.switch_to.window(url[1])

被网站检查出来我们使用了selenium了怎么办?

问题描述
现在自动化工具越来越火了,一些厂商就针对与自动化工具做了限制,如:如果加了无头模式

一些网站的js就会检测出来,使我们的操作失效

解决方法
直接看代码吧,这玩意不好解释

    # 创建option对象
    options = Options()
    # 设置无头模式即浏览器不弹出,只在后台运行
    options.add_argument("headless")
    # 解决部分网站的对于Selenium的js监测机制,
    # 以下2行
    options.add_experimental_option('excludeSwitches', ['enable-automation'])
    options.add_experimental_option('useAutomationExtension', False)
    # 加载浏览器驱动
    Webdriver = Service(driverfilename)
    # 加载驱动和无头
    driver = webdriver.Edge(service=Webdriver, options=options)
    # 解决部分网站的对于Selenium的js监测机制,
    # 以下1行
    driver.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument",
                           {'source': 'Object.defineProperty(navigator,"webdriver",{get:()=>undefind})'})

如何实现前进后退

前进及不用说了,直接请求即可了,但是怎么去实现后退那?

上代码,这么少?哈哈其实坑多着哩!这个后退只能实现一个,也就是说如果连续写多个back()就会失效的!所以说该用driver.current_url去获取网址时就多用,不要去懒省事的

                # 回到上一个页面
                Driver.back()
                # 获取当前url
                driver.current_url

当使用py删除文件时报禁止访问怎么办

不要慌不要慌,这种情况多出现在删除文件夹时这时我们就需要去使用shutil这个模块了,它可以保保证删除文件夹时不出错,但是用它去删除文件时却会出错的,要牢记

import shutil
if os.path.exists(name1):
    shutil.rmtree(name1)
if os.path.exists(name):
    os.remove(name)

怎么使用py实现解压文件?

我们使用zipfile模块,去实现首先打开文件 使用extratall()就可以实现解压了

import zipfile
        # 文件解压
        with zipfile.ZipFile(name) as zf:
            zf.extractall()
        print("解压完成")

注意:解压完成是会自动删除源文件的

怎么打开系统的图片应用向用户展示图片?

注意这里好像只支持win系统

代码

def showimg(path):
    userPlatform = platform.system()  # 获取操作系统
    if userPlatform == 'Windows':  # Mac
        os.startfile(path)
    else:
        print("暂且不支持您的操作系统")

效果展示
python 的selenium自动操控浏览器教程(2),脚本,python,python,selenium,java

怎么去下载网络资源?

下载网络资源

        dow = requests.get(downloadurl, headers)
        open("drive.zip", "wb").write(dow.content)

下载网页
使用的是py自带的标准库,不需要去下载第3方库

urllib.request.urlretrieve("URL路径","保存路径")

怎么获取当前路径?

一句

os.getcwd()

怎么使用Webderive截图?

Driver.save_screenshot(path)

JSON数据的天坑?

当我们去使用xhr,窃取响应时,通常会使用post请求,但是请注意,这里post 请求中的参数

1 必须是双引号
2 就算是数字也必须加上引号
3 没有值的话就加空字符串
4 布尔值必须是小写的true/false

请注意第2条,如果不加引号,js会把它按照int32类型处理但是当创出int32的范围时就会请求失败,这就是为什么int类型的数据也要加引号的 原因

1、传统表单post请求(xhr的请求)

import requests
url = “https://tests”
data = {“key”:“value”}
res = requests.post(url=url,data=data)
print(res.text)

2、json类型的post请求
import requests
url = “https://tests”
data = ‘{“key”:“value”}’
#字符串格式
res = requests.post(url=url,data=data)
print(res.text)
**
最后的一些未解决的问题
我们使用selenium获取到的cooike不全怎么办?
怎么根据快捷方式找到源文件的位置?
恳请大佬们解答**

通用代码分享

import platform
import os
import sys
import zipfile
import shutil
import requests
from selenium import webdriver
from selenium.webdriver.edge.service import Service
from selenium.webdriver.edge.options import Options
from win32com.client import Dispatch


# 初始化Drvier
def init(driverfilename, isHeadless):
    print("开始浏览器初始化\n")
    # 创建option对象
    options = Options()
    if isHeadless:
        # 设置无头模式即浏览器不弹出,只在后台运行
        options.add_argument("headless")
    # 解决部分网站的对于Selenium的js监测机制,
    # 以下2行
    options.add_experimental_option('excludeSwitches', ['enable-automation'])
    options.add_experimental_option('useAutomationExtension', False)
    # 加载浏览器驱动
    Webdriver = Service(driverfilename)
    # 加载驱动和无头
    driver = webdriver.Edge(service=Webdriver, options=options)
    # 解决部分网站的对于Selenium的js监测机制,
    # 以下1行
    driver.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument",
                           {'source': 'Object.defineProperty(navigator,"webdriver",{get:()=>undefind})'})
    print("浏览器初始化完成")

    return driver


# 获取当前浏览器的版本
def getversion(filename):
    parser = Dispatch("Scripting.FileSystemObject")
    version = parser.GetFileVersion(filename)
    print("当前Edge浏览器版本为:" + version)
    return version


# 获取浏览器的源路径
def getEdgePath():
    while True:
        print("""
        请输入您的Edge浏览器的源路径(不是快捷方式的路径)
        方法:
        1 找到桌面上的Edge浏览器,右击鼠标选择“打开文件位置”
        2 进入新打开的文件夹之后找到“msedge.exe”文件右击复制文件路径
        3 将刚刚复制的路径,复制过来即可
        """)
        path1 = input("")
        if path1 != "":
            return path1
        else:
            print("请输入Edge浏览器的源路径")


# 打开路径中的文件
def showFile(path):
    userPlatform = platform.system()  # 获取操作系统
    if userPlatform == 'Windows':  # Mac
        os.startfile(path)
    else:
        print("暂且不支持您的操作系统")


# 获取是否开启后台模式
def isHeadless():
    while True:
        isHeadless = input("是(Y)否(N)开启后台模式")
        if (isHeadless == "Y" or isHeadless == "N"):
            if isHeadless == "Y":
                return True
            else:
                return False
        else:
            print("请输入正确指令")


# 浏览器驱动下载
def downloadandZip(downloadurl, headers, name):
    try:
        print("正在下载驱动")
        dow = requests.get(downloadurl, headers)
        open("drive.zip", "wb").write(dow.content)
        print("驱动下载完成,正在解压")
        # 文件解压
        with zipfile.ZipFile(name) as zf:
            zf.extractall()
        print("解压完成")
        return True
    except:
        print("浏览器驱动下载失败")
        # 程序终止
        sys.exit()


# 获取下载的浏览器驱动的路径
# 同时:
# 1 删除无关文件
# 2 检测浏览器驱动是否受损
def startDownloadandZipexc(downloadurl, headers):
    name = "drive.zip"
    temp1 = "Driver_Notes"
    downloadandZip(downloadurl, headers, name)
    # 删除无关文件
    print("正在删除无关文件")
    drivername = "msedgedriver.exe"
    if os.path.exists(temp1):
        shutil.rmtree(temp1)
    if os.path.exists(name):
        os.remove(name)
    print("无关文件删除成功")
    if os.path.exists(drivername):
        return os.getcwd() + "\msedgedriver.exe"
    else:
        while True:
            t = input("浏览器驱动受损或被删除,是(Y)否(N)重新下载")
            if t == "Y" or t == "N":
                if t == "Y":
                    # 驱动下载
                    downloadandZip(downloadurl, headers, name)
                    return os.getcwd() + "\msedgedriver.exe"
                else:
                    print("正在退出")
                    return False


# 入口
if __name__ == "__main__":
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3861.400 QQBrowser/10.7.4313.400'}
    print("欢迎使用xxx系统\n")
    # 获取浏览器的源路径
    path1 = getEdgePath()
    # 格式化路径
    path2 = path1.replace("\\", "//").replace("\"", "")
    # 获取浏览器版本
    oldversion = getversion(path2)
    # 浏览器驱动下载地址
    downloadurl = "https://msedgedriver.azureedge.net/" + oldversion + "/edgedriver_win64.zip"
    # 获取浏览器驱动的地址
    driverfilepath = startDownloadandZipexc(downloadurl, headers)
    if driverfilepath != False:
        print("浏览器驱动器路径为:" + driverfilepath + "不必要,请勿删除!!!")
        # 是否开启无头模式
        isHeadless = isHeadless()
        # 初始化Driver
        Driver = init(driverfilepath, isHeadless)

如何截长图?

效果
python 的selenium自动操控浏览器教程(2),脚本,python,python,selenium,java

不过请注意要实现截长图浏览器必须开启无头模式!!!!
不过请注意要实现截长图浏览器必须开启无头模式!!!!
不过请注意要实现截长图浏览器必须开启无头模式!!!!
文章来源地址https://www.toymoban.com/news/detail-614007.html


        driver.get("https://blog.csdn.net/yutu75/article/details/115524985")
        # 用js获取页面的宽高,如果有其他需要用js的部分也可以用这个方法
        width = driver.execute_script("return document.documentElement.scrollWidth")

        height = driver.execute_script("return document.documentElement.scrollHeight")

        # 获取页面宽度及其宽度
        print(width, height)

        # 将浏览器的宽高设置成刚刚获取的宽高
        driver.set_window_size(width, height)

        time.sleep(1)

        # 截图并关掉浏览器
        driver.get_screenshot_as_file("xx.png")

        driver.quit()


到了这里,关于python 的selenium自动操控浏览器教程(2)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • python selenium 模拟浏览器自动操作抢购脚本

    每逢秒杀,都在遗憾网速和手速慢没能抢购到商品吧。 手写一个脚本,让程序帮你抢,抢到的概率会大大提升。 废话不多说,直接上代码。 本实例以华为官网抢购手机为例

    2024年02月09日
    浏览(41)
  • 【python爬虫】10.指挥浏览器自动工作(selenium)

    上一关,我们认识了cookies和session。 分别学习了它们的用法,以及区别。 还做了一个项目:带着小饼干登录,然后在博客中发表评论。 除了上一关所讲的登录问题,在爬虫过程中,我们还可能会遇到各种各样棘手的问题—— 有的网站登录很复杂,验证码难以破解,比如大名

    2024年02月10日
    浏览(61)
  • python自动化测试selenium浏览器操作

    2024年02月16日
    浏览(74)
  • Python+Selenium程序执行完,浏览器自动关闭问题

    最近在学Selenium的时候遇到一个问题,当我 执行完程序,浏览器自动关闭了 ,我在程序中也没有写driver.quit()方法,代码如下: 后面发现是因为我把driver = webdriver.Chrome(r’d:chromedriver.exe’)放在了函数内部,在函数执行完毕之后,程序内所有的步骤都结束了,关于这段程序的

    2024年02月11日
    浏览(63)
  • Python selenium自动化操作Chrome浏览器

    ​ ​ 活动地址:CSDN21天学习挑战赛 Selenium是一个用于Web应用程序测试的工具。Selenium测试直接运行在浏览器中,就像真正的用户在操作一样。支持目前比较主流的浏览器。它也实现了诸多自动化功能,比如软件自动化测试,检测软件与浏览器兼容性,自动录制、生成不同语言

    2024年02月02日
    浏览(64)
  • python使用selenium操作浏览器的教程

    重复的操作令手工测试苦不堪言,于是自动化测试出现了!作为web应用里最出名的自动化测试工具,selenium让web应用的测试轻松了很多。今天我们就来简单的介绍一下一些简单的selenium浏览器操作。接下来我们就来看看python怎么操作浏览器的吧! 我们使用selenium进行自动化测试

    2024年02月05日
    浏览(72)
  • Python+Selenium4浏览器交互_web自动化(2)

    目录 0. 上节内容回顾 1 . 浏览器基本操作 1.1 启动 退出 1. 手动安装driver ,启动浏览器时,需要传递2个参数: 1.2 窗口设置 1.3 页面导航 1.4 获取页面信息 1.5 页面截图 2. 浏览器的高级操作 2.1 窗口切换 2.2 操作Cookies 2.3 执行JavaScript 今日内容:浏览器交互(调整窗口大小、导航

    2023年04月08日
    浏览(67)
  • Python selenium与pyautogui控制浏览器实现modis数据自动下载

    目录 序言: 准备工作: 基本思路: 完整代码:         上次提到通过modis连接下载数据的方式有很多,本文选择selenium模拟登录的方式通过谷歌浏览器下载,但是并不推荐这种方法,只是恰好学习了selenium的一些操作,所以写这个代码做了一些测试。         本文章只需要

    2024年02月11日
    浏览(50)
  • Python+Selenium程序执行完,chrome浏览器自动关闭解决方案

    因为把driver = webdriver.Chrome()放在了函数内部,在函数执行完毕之后,程序内所有的步骤都结束了,关于这段程序的进程也就结束了,浏览器包含在内,所以才会自动退出。 设置全局变量,即把打开浏览器的操作放在函数外部,函数执行完毕,浏览器就不会关闭 关闭浏览器代

    2024年02月16日
    浏览(85)
  • selenium+python自动化测试之使用webdriver操作浏览器的方法

    WebDriver简介 selenium从2.0开始集成了webdriver的API,提供了更简单,更简洁的编程接口。selenium webdriver的目标是提供一个设计良好的面向对象的API,提供了更好的支持进行web-app测试。从这篇博客开始,将学习使用如何使用python调用webdriver框架对浏览器进行一系列的操作 打开浏览

    2024年01月25日
    浏览(65)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包