V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
jeffxjh
V2EX  ›  问与答

Python 对比两个文件的最优方法?

  •  
  •   jeffxjh · 159 天前 · 1130 次点击
    这是一个创建于 159 天前的主题,其中的信息可能已经有所发展或是发生改变。
    需要实现如下功能,现在有两个文件,每个文件每行都包含文件名和 md5 ,现在需要对比 a 文件每行 md5 码和文件名是否存在 b 文件中,为了防止文件过大,现在是采用双重循环逐行对比的方式。发现单次遍历 10000 次需要 1.4 秒左右(性能比较好的台式机),两个 10000 行的文件时间不可估量,试过了多线程和多进程遍历,效果不明显,对 python 不是很了解,在这求教大佬解答,有没有好的思路,谢谢!
    12 条回复    2022-03-13 20:31:22 +08:00
    BrettD
        1
    BrettD  
       159 天前 via iPhone
    把双层嵌套循环改成两个单独的循环
    qaweqa
        2
    qaweqa  
       159 天前
    hash set
    liprais
        3
    liprais  
       159 天前
    B 文件弄成字典 name -> md5 遍历 a 完事
    Building
        4
    Building  
       159 天前
    先排序,再对比
    jeffxjh
        5
    jeffxjh  
    OP
       159 天前
    @liprais 感谢!刚试了一下能够解决问题。 @Building 排序好像不行,因为就算排序也不能只对比一行,可能我没理解你的意思 @qaweqa 用 hash 能解决 @BrettD 没理解你的意思~
    duke807
        6
    duke807  
       159 天前 via Android   ❤️ 1
    @jeffxjh 比較理想的做法是 rb tree 實現的 dict ,rb tree 本身是自帶排序的,查找的速度很快。

    然而 python 默認的 dict 不是基於 rb tree 或類似的 tree ,而是用 hash 和數組的方式,數據量大的時候,hash 重複比較多,要循環查子數組,查找效率相對低一些。
    xupefei
        7
    xupefei  
       159 天前
    分别排序后用两个指针从前到后对比,复线性杂度。
    loading
        8
    loading  
       158 天前   ❤️ 1
    我选择导入到数据库用 SQL 跑,join 一下就好了。
    whusnoopy
        9
    whusnoopy  
       158 天前   ❤️ 1
    这个不是 Python 的问题,是算法时间复杂度的问题,虽然有一部分和语言或系统相关的性能开销(如磁盘 IO 啥的)

    你原始的做法是把两个文件打开,然后双重循环按行比较,这是 O(n^2) 的时间复杂度,O(1) 的空间复杂度(不算读取文件本身的空间开销)

    如果按楼上说的用 dict (其实就是 hash ),先读文件 A ,这是 O(n) 的时间复杂度,为了构建这个 dict 需要额外的 O(n) 的空间复杂度,然后拿着这个 dict 去遍历文件 B 来做比较,又是 O(n)*O(1) 的时间复杂度(按行读取和每次比较),总的时间复杂度是 O(n),空间复杂度是 O(n)

    如果用排序后比较,先对文件 A 和文件 B 读取后排序,这需要 O(nlogn) 的时间复杂度(排序的开销),存储两个排序后的文件需要 O(n) 的空间复杂度(没有额外开销,只是需要存着),然后用归并的思路对两个排序后的列表双指针遍历,这是 O(n) 的时间复杂度,总的时间复杂度是 O(nlogn),空间复杂度是 O(n)

    综上,排序后比较有更高的时间复杂度和算法开销(能很快完整写对双指针遍历且处理好边界情况的三脚猫程序员并不多),不如直接用 dict ,就是第二个文件顺序读一遍,把每行内容作为 key 放进一个 dict ,然后遍历第一个文件,如果第一个文件行内容的 key 不在 dict 里,那就是 a 文件这行内容不存在 b 文件里
    ASpiral
        10
    ASpiral  
       158 天前 via Android   ❤️ 1
    先排序后对比,排序将占用这个功能的绝大部分时间;应该参考 3 楼说的方法,先把小的文件转成字典,再遍历大的文件,这样比较好
    d5
        11
    d5  
       158 天前
    排序比较消耗时间。可以直接利用哈希表的特性。可以参考 Linux diff 命令:
    https://segmentfault.com/q/1010000005699153
    paopjian
        12
    paopjian  
       158 天前
    不能直接用 pandas 读取后 join 看结果吗?
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   1132 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 20:16 · PVG 04:16 · LAX 13:16 · JFK 16:16
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.