hzhengy
V2EX  ›  问与答

谷歌计算器的结果和微软计算器的结果不一致

  •  1
     
  •   hzhengy · Jul 24, 2021 · 4415 views
    This topic created in 1756 days ago, the information mentioned may be changed or developed.

    Imgur

    https://imgur.com/2NNQec5

    计算 9^17: 谷歌计算器:16,677,181,699,666,568 微软计算器:16,677,181,699,666,569

    最后一位,一个是 8,一个是 9,这是为什么?

    18 replies    2021-07-26 16:18:34 +08:00
    CatCode
        1
    CatCode  
       Jul 24, 2021   ❤️ 8
    google 的错了啊 奇数自乘怎么可能得到偶数呢
    webshe11
        2
    webshe11  
       Jul 24, 2021 via Android
    Python:
    >>> 9**17
    16677181699666569
    看来微软的对
    maplerecall
        3
    maplerecall  
       Jul 24, 2021 via Android   ❤️ 5
    Google 网页版是 js 实现,直接用了原始 Number 类型,所以存在大数精确度的问题。这个数已经超过 js 原生支持的最大安全整型了,内部是 float,所以不准确。
    xiangyuecn
        4
    xiangyuecn  
       Jul 24, 2021
    js 超过最大支持的范围了,结果不精确

    Number.MAX_SAFE_INTEGER

    Math.pow(9,17)
    ryd994
        5
    ryd994  
       Jul 24, 2021 via Android
    Bing 直接显示科学计数法了。虽然不精确但也没有错
    XavierWang3P
        6
    XavierWang3P  
       Jul 24, 2021
    Siri 算出来也是 16,677,181,699,666,568

    ![]( https://i.loli.net/2021/07/24/UeGJNXgwifYkuBr.png)
    autoxbc
        7
    autoxbc  
       Jul 24, 2021
    9 ** 17 ×
    9n ** 17n √
    JensenQian
        8
    JensenQian  
       Jul 24, 2021 via Android
    🐒厂计算器
    [img][/img]
    klh
        9
    klh  
       Jul 24, 2021
    c#也跑错了,

    Lemeng
        10
    Lemeng  
       Jul 24, 2021
    这种计算都是用的自带,没用过谷歌的
    sutra
        11
    sutra  
       Jul 24, 2021
    应该是计算过程中使用的是 double 的问题,计算过程改成 int/long 应该就不会了。
    mcoo1997
        12
    mcoo1997  
       Jul 24, 2021 via Android
    python 算下 1.1+2.2 破事水
    TypeError
        13
    TypeError  
       Jul 24, 2021 via Android
    还是 Python 舒适,自带大数运算
    thunderw
        14
    thunderw  
       Jul 24, 2021 via iPhone
    iOS 的计算器比较鸡贼。直接告诉你大约是 1.667718169967e16 自己看着办吧
    BrettD
        15
    BrettD  
       Jul 24, 2021 via iPhone
    @hiplon double 类型精度限制导致的,用高精度类就能算出正确结果
    DeWjjj
        16
    DeWjjj  
    PRO
       Jul 24, 2021
    IEEE754 二进制分数问题。
    kkocdko
        17
    kkocdko  
       Jul 25, 2021 via Android
    @maplerecall 这计算器又不需要多少性能,偷懒不手动实现高精度也太坑了吧
    CodeCodeStudy
        18
    CodeCodeStudy  
       Jul 26, 2021
    9 次幂,最后一个数不是 9 就是 1
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2608 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 71ms · UTC 00:42 · PVG 08:42 · LAX 17:42 · JFK 20:42
    ♥ Do have faith in what you're doing.