V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
LinJunzhu
V2EX  ›  程序员

Selenium + Chromedriver 抓取时,如何动态更改 header 头 / proxy 呢?

  •  
  •   LinJunzhu · 2018-09-13 20:15:17 +08:00 · 8464 次点击
    这是一个创建于 2023 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近需要用到 Selenium + Chromedriver 去抓取, 伪代码如下:

    from selenium import webdriver
    
    url = "http://demo.testfire.net"
    chrome_options = webdriver.ChromeOptions()
    chrome_options.add_argument('--headless')
    chrome_options.add_argument('--disable-gpu')
    chrome_options.add_argument('--http_proxy=118.18.188.188')
    
    driver = webdriver.Chrome(chrome_options=chrome_options,executable_path='/Users/xxxx/driver/chromedriver')
    
    driver.get('http://demo.testfire.net')
    
    

    但是遇到一个非常严重的问题:

    header 头 只能够在创建 driver 时传入,不知如何在创建 driver 后进行动态修改? 否则的话我每请求一次就得把 driver.quit 掉(每次请求都得动态修改下 user-agent / proxy,防止被 block), 相当于每次都要重启下浏览器,这样子极其的耗费资源。

    在网上搜索了许久,一直没有好的解决方案,不知道 V2 上哪位大神有比较好的解决方案呢?叩谢!!

    8 条回复    2018-09-14 14:47:02 +08:00
    tulongtou
        1
    tulongtou  
       2018-09-13 20:20:23 +08:00 via iPhone
    试试 htmlunit
    LinJunzhu
        2
    LinJunzhu  
    OP
       2018-09-13 23:25:13 +08:00
    @tulongtou 这个好像不太适合我目前的需求哈
    SP00F
        3
    SP00F  
       2018-09-13 23:53:19 +08:00
    动态 adsl
    LinJunzhu
        5
    LinJunzhu  
    OP
       2018-09-14 09:39:45 +08:00
    @kran 这 link 点进去就自动 302 到 bing 首页去了, 能否给几个关键词 或者正确的 link 哈,谢谢
    LinJunzhu
        6
    LinJunzhu  
    OP
       2018-09-14 09:40:14 +08:00
    @SP00F adsl 也只是解决代理而已,依旧无法解决动态修改 header 头哈。
    LinJunzhu
        8
    LinJunzhu  
    OP
       2018-09-14 14:47:02 +08:00
    @kran 这个貌似可行。ff 支持动态设置。 感谢哈
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1544 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 17:03 · PVG 01:03 · LAX 10:03 · JFK 13:03
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.