V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
The Go Programming Language
http://golang.org/
Go Playground
Go Projects
Revel Web Framework
qianguozheng
V2EX  ›  Go 编程语言

自动下载 Twitter 视频图片 golang 实现

  •  
  •   qianguozheng ·
    qianguozheng · 2018-09-03 14:33:57 +08:00 · 1043 次点击
    这是一个创建于 2277 天前的主题,其中的信息可能已经有所发展或是发生改变。

    Github 地址

    Github: https://github.com/gohiweeds/twitterdownloader.git

    功能

    • 支持 Socks5 代理配置

    国内的:支持设置 SOCK5 代理,下载 Twitter 视频图片

    如果已经配置了就不需要了使用 SOCK5 下载了,如下,直接下载即可,无须配置 HTTP 代理。 MacOS:

    export http_proxy=xxx
    export https_proxy=xxx
    

    原因

    前一段时间浏览 Twitter 看到了一个搞笑的视频,想保存下来,但是发现都是 hls 的视频片段,下载挺麻烦的,于是用 golang 实现了一个自动下载 Tweet 的视频功能。

    实现原理

    Twitter 的视频是通过 javascript 的执行来完成的,都是 xhr 的请求。 这种方式下载比较麻烦,之前我的打算是 golang 中搭建一个 javascript 的解释器然后计算执行,但是执行过程中遇到了一些问题,javascript + DOM 的绑定等,比较复杂,对于一个嵌入式工程师来说,对 javascript 也不是很熟悉,作罢。

    后来在 github 上找到了一个直接请求相对 uri 直接获取配置的,现在已经过期了还是 python 实现,依赖过多,没有用处,但是提供了思路。

    我就按照获取的视频 json 的配置信息 url,来获取,又遇到了难题,就是访问此路径需要认证,没办法,抓取数据包分析,然后模拟了 guest 的认证,最终可获取了视频配置,然后根据视频 url 下载 m3u8,然后下载视频文件,重组成 mp4 格式的文件即可。

    总结

    本来在实现过程中发现 Twitter 的视频请求方式的时候,我是打算算了,反正无关痛痒的项目,但是内心的小执着觉得不能这么算了,虽然后来又遇到了认证问题,但还是有惊无险的完成了。

    1 条回复    2018-09-21 17:53:32 +08:00
    qianguozheng
        1
    qianguozheng  
    OP
       2018-09-21 17:53:32 +08:00
    难道没有人想要 twitter 的小视频?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5911 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 01:53 · PVG 09:53 · LAX 17:53 · JFK 20:53
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.