V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
tool2d
V2EX  ›  OpenAI

为啥我总有一种被 AI 忽悠的感觉?

  •  
  •   tool2d · 2023-03-11 14:14:59 +08:00 · 2477 次点击
    这是一个创建于 384 天前的主题,其中的信息可能已经有所发展或是发生改变。
    左边是 OpenAI, 右边是我的提问。

    看着 ChatGPT 回答的那么肯定,我陷入了深深的深思。

    21 条回复    2023-03-12 20:13:19 +08:00
    chonger
        1
    chonger  
       2023-03-11 14:26:35 +08:00
    一样的,很多错误回答,再少在中国历史上,比如我问:是赵匡胤的弟弟赵光义毒死他的吗?
    答:历史学家对于赵匡胤和赵光义之间的兄弟关系和赵光义是否毒死赵匡胤的争议有不同的观点和证据。

    根据《资治通鉴》等史书的记载,赵匡胤在太祖即位后被封为晋王,赵光义被封为魏王,两人在太祖晚年时出现了矛盾。一些历史学家认为赵光义可能与他的部下一起策划了一场政变,试图篡位夺权,但失败了,赵光义被赐死。然而,这些学者并没有直接的证据表明赵光义参与了政变。

    至于赵光义是否毒死赵匡胤,历史上没有确凿的证据证明这一点,这个传言可能是后人的臆想或流言。

    因此,对于赵匡胤和赵光义之间的争议和他们之间的关系,历史学家仍然持有不同的观点。
    tool2d
        2
    tool2d  
    OP
       2023-03-11 14:31:52 +08:00
    @chonger 我现在都不敢随便相信 chatgpt 的回答了,什么都要自己去二次验证一下。

    真的就只是闲聊机器人。

    似乎也没有提高 AI 回答正确率的办法。
    chonger
        3
    chonger  
       2023-03-11 14:33:37 +08:00
    据说 4.0 要出来了,到时再看看吧
    SenLief
        4
    SenLief  
       2023-03-11 15:23:56 +08:00
    这玩意只在代码和翻译这类有用。
    ruxuan1306
        5
    ruxuan1306  
       2023-03-11 15:31:58 +08:00   ❤️ 2
    @tool2d 本质是个用大量文字训练出的接龙机器人,就像那种啥都能和你侃两句大爷,没啥言之有物的深度思考,但适合写空洞但形式化的东西。
    churchmice
        6
    churchmice  
       2023-03-11 15:43:29 +08:00
    这东西我觉得用途就只能是 RPG,问点正儿八经的东西真真假假夹杂在一起,不看好他的发展
    RPG 的话现在搞瑟瑟越来越难了
    tgich
        7
    tgich  
       2023-03-11 17:02:56 +08:00
    这玩意适合给建议
    Ayahuasec
        8
    Ayahuasec  
       2023-03-11 17:19:51 +08:00   ❤️ 1
    你应该问集成了 ChatGPT 的 New Bing ,会结合搜索结果给出答复,比直接用 ChatGPT 准确很多。毕竟 ChatGPT 是一个语言模型,只管输出的结果是不是通顺的,要输出准确结果还是要结合一个资料库。
    ispinfx
        9
    ispinfx  
       2023-03-11 17:22:12 +08:00 via iPhone
    本质上和 n 年前的闲聊机器人没什么区别
    vinsa
        10
    vinsa  
       2023-03-11 17:23:58 +08:00
    用错了吧,他是语言模型,不是百科全书。

    语言模型+领域知识,才是你这个测试想要达到的理想效果。
    LZSZ
        11
    LZSZ  
       2023-03-11 17:25:22 +08:00
    bing 问这些准一些
    DTCPSS
        12
    DTCPSS  
       2023-03-11 17:33:34 +08:00
    Bing 会给出参考文献,稍微好点
    billgong
        13
    billgong  
       2023-03-11 17:39:29 +08:00
    @Ayahuasec 我每次问 New Bing 简单的数学问题它都会算错,睁眼瞎的那种,脾气还蛮大😂

    反倒是一直在迭代的 ChatGPT 越来越准了
    hanqian
        14
    hanqian  
       2023-03-11 17:48:24 +08:00 via iPhone
    还是得结合搜索引擎啊。它只是根据语料在那做概率计算,你问他这种事实性问题,还是得让现有的人类知识兜底
    vocaloid
        15
    vocaloid  
       2023-03-11 18:09:21 +08:00
    为何我问的就是对的
    https://imgur.com/02qFjwZ
    Ayahuasec
        16
    Ayahuasec  
       2023-03-11 18:12:37 +08:00
    @billgong 确实,我感觉它还是在用回复语言文本问题的方式回复数学问题。我比较期待 GPT4 所谓的多模态模型,看下是否在数学和逻辑方面有改善。不过现在的消息好像说 GPT4 的多模态是指图形声音视频方面的。
    zhoujinjing09
        17
    zhoujinjing09  
       2023-03-11 21:37:01 +08:00
    chatgpt 不是用来回答事实性问题的,用法不对
    neptuno
        18
    neptuno  
       2023-03-12 09:51:03 +08:00 via iPhone
    这玩意只适合建议,创作,你要是准确的想知道作者,直接谷歌比较好
    dextremao
        19
    dextremao  
       2023-03-12 12:28:51 +08:00 via Android
    你在帮他训练数据而已 没意义
    ladudu
        20
    ladudu  
       2023-03-12 17:57:07 +08:00 via Android
    出了名的大忽悠
    juggtt213
        21
    juggtt213  
       2023-03-12 20:13:19 +08:00
    问他参考文献或者是教程的地址,他会返回很多缝合的文献和作者的组合,或者是编造的 URL.
    问解决方案也有完全编造的,
    问 gist 的 cli 客户端,没有推荐官方的 gh-cli
    不过如果问一些一看就知道教程很多而且有现有方案的问题,或者写个实现小的功能的代码片段还是很好用的,比在搜索引擎的海量内容农场里面翱翔舒服
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5321 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 09:04 · PVG 17:04 · LAX 02:04 · JFK 05:04
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.