V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
AManOnShelf
V2EX  ›  OpenAI

AIGC 将成为人类的噩梦

  •  
  •   AManOnShelf · 2023-02-23 11:54:58 +08:00 · 1792 次点击
    这是一个创建于 661 天前的主题,其中的信息可能已经有所发展或是发生改变。

    ChatGPT 现世以来,互联网上充满了对各种 AIGC 模型的赞美。各路专家都在各种媒体上畅想着科幻小说般的未来。

    然而根据 Murphy's Law: "Anything that can go wrong will go wrong."。在 LLM 革命人机交互方式的同时,在 Diffusion Model 颠覆艺术设计行业的同时,AIGC 不可避免地将成为互联网上极高效的垃圾制造机。比现在多数个数量级的垃圾内容 /虚假内容将把互联网上本就稀少的有价值的信息淹没。未来的人类将把绝大多数计算资源浪费在存储和筛选信息上。

    如今的人类社会可以说完全是建构在互联网之上。而一个完全失去真实性的互联网,将使人类社会建构的基础完全被摧毁。假如一个人看到的文章、图片、音频、视频,都看上去有模有样,实际是完全虚假的 AIGC ,那么他还能相信什么?显然对时间和手段都有限的人类个体来说,是没有精力对这么大量的信息进行 fact check 的。失去了一个可以立足的基点,人的精神世界的崩溃只是早晚的事。

    因此,各国要尽早立法对 AIGC 进行监管。所有内容提供商必须对 AIGC 产生的内容进行明显的标注;所有 model 提供商必须提供对应的 model 对它们产生的内容进行可靠的检测。如果现阶段不能通过技术手段解决这个问题,暂时禁用 AIGC 也绝不为过。

    6 条回复    2023-02-27 17:39:30 +08:00
    zooo
        1
    zooo  
       2023-02-23 13:00:29 +08:00
    过度担心,就算没有 ChatGPT 互联网上的垃圾信息会少吗?技术始终是技术,怎么使用是人的问题。

    另外,你提到,“一个人看到的文章、图片、音频、视频,都看上去有模有样,实际是完全虚假的 AIGC ,那么他还能相信什么”,但是虚假的信息能够使人产生快乐,那么其也有价值,比如艺术绘画、直播美颜、小说等;但是另外一些 zf 公文等一些需要真实无误的信息,完全有能力有技术保持其真实性,比如区块链技术、加密技术等。

    科学技术目前来说不会停滞,一直向前,与其担忧,不如合理引导。

    ChatGPT 的诞生,也同汽车、摄像机的诞生一样,是历史发展到一定程度的必然产物,与其通过各种监管阻碍其发展,不如合理引导应用,“合理引导应用”说着简单,但是做起来确实难,对各国 zf 是个考验,类似的东西还有比特币。

    世界目前向着虚拟化、智能化、、去中心、多中心、并且失控的方向不断发展。

    非 ChatGPT 回答。
    AManOnShelf
        2
    AManOnShelf  
    OP
       2023-02-23 13:24:53 +08:00
    > 就算没有 ChatGPT 互联网上的垃圾信息会少吗?
    机器产生内容的速度可比人工高多了。我打这几百字的时间,ChatGPT 已经几百上千篇类似的文章生成好了。

    > 技术始终是技术,怎么使用是人的问题。
    所有的新技术,都必然会首先应用在非法的领域,因为技术刚出现的时候是没有监管的。

    > 虚假的信息能够使人产生快乐,那么其也有价值,比如艺术绘画、直播美颜、小说等;
    毒品也可以使人产生快乐,虚假信息就是赛博毒品。

    > 但是另外一些 zf 公文等一些需要真实无误的信息,完全有能力有技术保持其真实性,比如区块链技术、加密技术等。
    No ,区块链技术和加密技术解决不了这个问题。最基本的,它们都不能保证上链 /加密之前的内容是非 AIGC 的。

    后面监管的部分我没有太多意见,只是我认为监管力度要做到最大。

    @zooo
    good1uck
        3
    good1uck  
       2023-02-25 05:07:29 +08:00 via Android
    你说仓颉造字那会,有没有人会站出来说大家要警惕文字,因为文字能传播虚假消息
    AManOnShelf
        4
    AManOnShelf  
    OP
       2023-02-25 11:13:00 +08:00
    1OF7G
        5
    1OF7G  
       2023-02-25 14:46:48 +08:00
    大不了人类互联网时代文明重开,浪费个一两百年而已。
    mikeling
        6
    mikeling  
       2023-02-27 17:39:30 +08:00
    反对, 杞人忧天
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   729 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 21:46 · PVG 05:46 · LAX 13:46 · JFK 16:46
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.