V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
Sequencer
V2EX  ›  Python

发个来自 baidu 的爬虫 不是程序员 写的不好请轻喷

  •  
  •   Sequencer · 2016-04-01 12:44:25 +08:00 · 3282 次点击
    这是一个创建于 2918 天前的主题,其中的信息可能已经有所发展或是发生改变。
    import urllib.request
    import re
    import pdb
    import webbrowser
    from time import sleep
    
    
    class Webpage:
        def __init__(self, url):
            # init page
            self.url = url
            header = {
                'User-Agent': 'Mozilla/5.0 (iPhone; CPU iPhone OS 8_2 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12D508 Safari/600.1.4'}
            request = urllib.request.Request(url, headers=header)
            sleep(2)
            webpage = urllib.request.urlopen(request)
            webpage = webpage.read()
            webpage_decode = webpage.decode()
            self.webpage = webpage_decode
            DCIM = re.compile(r'来自')
            title = DCIM.findall(webpage_decode)
            if len(title) != 0:
                webbrowser.open(url)
    def Page(min ,max):
        for i in range(min, max):
            url ='http://yun.baidu.com/share/home?uk='+str(i)
            yield url
    
    if __name__ == '__main__':
        for i in Page(1,5000):
            Webpage(i)
    
    7 条回复    2016-04-01 13:50:05 +08:00
    knightdf
        1
    knightdf  
       2016-04-01 13:06:05 +08:00
    webbrowser.open(url)
    leavic
        2
    leavic  
       2016-04-01 13:21:00 +08:00
    10 年前,我们管这种一次打开 5000 个网页的东西叫做恶意脚本,确实很适合在愚人节用。
    Tink
        3
    Tink  
       2016-04-01 13:32:19 +08:00
    我昨晚下载完了,正在往数据库里导
    Sequencer
        4
    Sequencer  
    OP
       2016-04-01 13:41:40 +08:00 via iPhone
    @knightdf @leavic 有个判断语录 还有个 sleep 5000 个里面可能能找到一个
    Sequencer
        5
    Sequencer  
    OP
       2016-04-01 13:43:51 +08:00
    @Tink 你用的分布式爬的?
    Tink
        6
    Tink  
       2016-04-01 13:48:09 +08:00
    @Sequencer 我从 mega 上手动下载的。。。。
    aksoft
        7
    aksoft  
       2016-04-01 13:50:05 +08:00
    今天是愚人节。。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3236 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 00:39 · PVG 08:39 · LAX 17:39 · JFK 20:39
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.