selenium 无头模式 以及防止被检测

发布时间:2020-11-02 10:05:31编辑:admin阅读(200)

    一、无头模式

    from selenium import webdriver
    from selenium.webdriver.chrome.options import Options # => 引入Chrome的配置
    import time
    
    # 配置
    ch_options = Options()
    ch_options.add_argument("--headless")  # => 为Chrome配置无头模式
    
    # 在启动浏览器时加入配置
    driver = webdriver.Chrome(options=ch_options) # => 注意这里的参数
    
    driver.get('http://baidu.com')
    driver.find_element_by_id('kw').send_keys('测试')
    driver.find_element_by_id('su').click()
    
    time.sleep(2)
    
    # 只有截图才能看到效果咯
    driver.save_screenshot('./ch.png')
    
    driver.quit()


    二、防止被检测

    防止网站识别Selenium代码(针对老版本)

    from selenium.webdriver import Chrome
    from selenium.webdriver import ChromeOptions
    
    option = ChromeOptions()
    option.add_experimental_option('excludeSwitches', ['enable-automation'])
    bro = Chrome(options=option)
    
    url = "fudan.bbs.kaoyan.com"  # 首页
    bro.get("http://fudan.bbs.kaoyan.com/")
    bro.implicitly_wait(10)

     

    新版本如下:

    from selenium.webdriver import Chrome
    from selenium.webdriver import ChromeOptions
    
    options = ChromeOptions()
    options.add_experimental_option('excludeSwitches', ['enable-automation'])
    options.add_experimental_option('useAutomationExtension', False)
    
    bro = Chrome(options=options)
    bro.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument", {
      "source": """
        Object.defineProperty(navigator, 'webdriver', {
          get: () => undefined
        })
      """
    })
    
    url = "fudan.bbs.kaoyan.com"  # 首页
    bro.get("http://fudan.bbs.kaoyan.com/")
    bro.implicitly_wait(10)

     

    它是怎么做的的呢?一般情况下,我们使用Selenium打开一个网页时,会有一个提示:Chrome正受到自动测试软件的控制。

    1.png

     

     

     

    然后打开调试工具,点击consile,输入代码

    window.navigator.webdriver

    结果如下:

    1.png

     

    以淘宝为首,众多网站都针对 Selenium的js监测机制,就是上面的方法实现的。

     

    那么如何解决呢?

    只需要设置Chromedriver的启动参数即可解决问题。

    在启动Chromedriver之前,为Chrome开启实验性功能参数excludeSwitches,它的值为['enable-automation'],代码同上。

    运行上面的代码,就没有Chrome正受到自动测试软件的控制的提示了。

    1.png

     

     

    再次js代码

    1.png

     

     发现已经是undefined了,这样才是一个正常的浏览器了。

     

     

    本文参考链接:

    https://www.cnblogs.com/wukai66/p/12773479.html

    https://zhuanlan.zhihu.com/p/117506307

     


关键字

上一篇: Selenium 动态爬取51job招聘信息

下一篇: 没有了