V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  locoz  ›  全部回复第 300 页 / 共 312 页
回复总数  6223
1 ... 296  297  298  299  300  301  302  303  304  305 ... 312  
2018-09-29 11:32:00 +08:00
回复了 wateryessence 创建的主题 Python 如何用爬虫爬取猫眼等网站上的电影信息?
看了一下,猫眼的票房是有做字体加密的,如果是第一次写爬虫的话可能有点难度;豆瓣是入门级,无难度随便爬。
“数据爬取功能需满足登录用户在系统中输入一段时间,系统能够将时间段内爬取返还给用户”这个需求的实现可以有两种方式:
1、数据实时性要求较高的
接口得到用户输入的时间段参数后再去爬,爬完格式化好了返回,缺点是速度可能较慢、容易触发反爬。
2、数据实时性要求不那么高的
爬虫和接口分开,爬虫每隔一段时间爬一次数据并存到数据库,接口得到时间段参数之后去查数据库就行了

量少没必要分布式,拿 requests 写都行
2018-09-28 17:20:30 +08:00
回复了 q770787217 创建的主题 JavaScript JS 代码如何合并? 都是跳转代码 功能不同
@lqh9428 #3 hhhhh
2018-09-28 17:00:45 +08:00
回复了 Sunxb 创建的主题 程序员 请教一个 img 标签的引用的图片问题
网站 url 发一下呗
2018-09-28 11:30:21 +08:00
回复了 amon 创建的主题 游戏 周五了来点轻松的,为什么 LOL 玩家如此仇恨王者荣耀玩家
周五又怎么样,明天后天还要上班的
2018-09-28 10:41:01 +08:00
回复了 foxyier 创建的主题 Python 求助一个网站视频加密方式, 已排除是 base64 加密
半天没看这楼就歪成这样了
2018-09-27 20:26:04 +08:00
回复了 foxyier 创建的主题 Python 求助一个网站视频加密方式, 已排除是 base64 加密
借题发挥了一下。。写了个知乎文章 https://zhuanlan.zhihu.com/p/45508079
2018-09-23 14:03:37 +08:00
回复了 ifwangs 创建的主题 问与答 锐捷 web 认证是如何检测代理上网的
以前在学校的时候干过从宿舍楼对面的居民楼飞一条网线到宿舍这种事。。
2018-09-23 11:41:12 +08:00
回复了 walle007 创建的主题 职场话题 吐槽新来的同事
@zr8657 #81 天猫这种要看爬到什么程度。如果只是爬个几十万、拿点商品基础信息的话堆 IP 或者用官方接口都能做;如果爬几千万商品还要拿什么店铺信息、工商信息、营业执照之类的话就比较麻烦了。
2018-09-22 20:01:06 +08:00
回复了 walle007 创建的主题 职场话题 吐槽新来的同事
之前碰到过一个类似的,差不多三年经验爬虫,也是说自己要熟悉,掌握了之后就会很好。
刚入职态度有点问题就不说了,熟悉了两个多星期让他写个入门级的网站的爬虫写了一个星期,还一堆问题,比如:for+range 做翻页逻辑、异步框架内直接用 requests 库发请求、正则解析 json。
然后就劝退了🙄
2018-09-20 11:02:02 +08:00
回复了 bethebetter 创建的主题 Android 小米在系统设置中插入广告了
ADUI 就这样了 还是原生好用
2018-09-16 19:38:05 +08:00
回复了 xoxo419 创建的主题 深圳 周末有没有一起练下车的(用共享汽车)
还是找陪驾吧,没副驾驶刹车的情况下练车害人害己
不用刻意学,虽然用的是不同的语言但是逻辑是一样的,看着看着就懂了,不知道是干什么的函数就查一下
2018-09-13 20:17:35 +08:00
回复了 lyujunwei 创建的主题 Android Android 你们都用什么输入法
Gboard
2018-09-13 19:47:18 +08:00
回复了 Mrrrrr10 创建的主题 Python aiohttp 怎么禁用 cookie
2018-09-12 16:19:58 +08:00
回复了 jiafaner 创建的主题 程序员 用什么样的方法防止图片被抓取?
注册需要正常手机号+注册最后一步付费验证+登陆付费可见+每天可见高清图片数量限制+图片加密后 js 渲染+隐式水印,js 高度混淆+动态生成+每次更换。
这样够复杂了吧?然而还是挡不住人家招一群实习生手动截图保存
2018-09-08 13:54:03 +08:00
回复了 v2gg 创建的主题 奇思妙想 滴滴车主端的录音有可破解的可能吗
这个确实是个问题
2018-09-08 13:52:29 +08:00
回复了 xmge 创建的主题 程序员 golang 视频教程。包括 docker go 进阶 区块链 等等
不觉得看视频效率很低吗
2018-09-08 13:50:56 +08:00
回复了 zhijiansha 创建的主题 Python 话说 aiohttp 不支持 https 代理的么?
@zhijiansha 没记错的话限制 http 客户端数量可以控制住
2018-09-08 13:50:14 +08:00
回复了 zhijiansha 创建的主题 Python 话说 aiohttp 不支持 https 代理的么?
@zhijiansha #14 tornado 的 curl 客户端碰上 https 就会有内存泄漏的问题。。
2018-09-07 17:24:58 +08:00
回复了 vamxmen 创建的主题 Telegram 怎样才能正常收到telegram推送?
SSR 被 ADUI 干掉了?
1 ... 296  297  298  299  300  301  302  303  304  305 ... 312  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5683 人在线   最高记录 6547   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 76ms · UTC 06:01 · PVG 14:01 · LAX 23:01 · JFK 02:01
Developed with CodeLauncher
♥ Do have faith in what you're doing.