V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
Michael1990
V2EX  ›  问与答

人工智能威胁论,阿法狗是不是真的会变成天网?

  •  
  •   Michael1990 · 2018-01-10 18:05:37 +08:00 · 1855 次点击
    这是一个创建于 2502 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我认为现在的 AI 思路并不会最终发展成天网和终结者,因为现在的 AI 更像工具,或者说更强大的计算机。它没有自主性,能做成什么结果还是取决于控制它的人。这就像一台超算,性能超牛,但是它并不知道自己要做什么。所以现在主流的方式还是数据喂养,然后调整算法的思路。

    我认为真正有威胁的是那些研究人工生命( Artificial Life )的组织,比如 Openworm 项目。他们有两个最基本的指令,生存和繁衍。一旦有了生存压力就会有欲望,就会有不顾及周围一切的求生本能。虽然现在还是细菌级别的研究,神经元也只有 300 来个,但是一旦形成更大的神经元网络,就会接近你家的汪星人和喵星人,再往下发展很可能就会接近人类。这个时候他们就要不断的扩展生存空间,虽然只是虚拟世界,但别忘了虚拟世界也是以现实世界中的硬盘,内存为基础的,所以他们会不会突破人类的限制,甚至跟人类产生矛盾,都不好说。

    智能这个东西,我觉得就是人类进化过程中的副产品,也是为了更好的生存服务的。如果从这个角度讲,人工生命进化过程中发展出的智能,才更类似今天人类的智能,目前的智能只是更高级的程序而已。

    好处是显而易见的,这样的人工智能能够跟人类一样随机应变,而不仅仅依靠已有的程序和算法,能够代替更多的人工客服的工作。只需要最基本的几个规则,就可以不断自我更新,自我进化。

    但坏处也是显而易见的,他们不再像计算机一样冷冰冰而是拥有了自己的个性,如果他对服务对象不满甚至会撂挑子不干了。这就让控制和管理工作变得很难。

    6 条回复    2018-01-11 13:21:57 +08:00
    Michael1990
        1
    Michael1990  
    OP
       2018-01-10 19:15:27 +08:00 via Android
    大佬们的看法呢,为啥没人说话?
    bullfrog
        2
    bullfrog  
       2018-01-10 22:33:23 +08:00
    AI 显然是更高级的一种生命形式,根据优胜劣汰法则,占领地球必然的
    Michael1990
        3
    Michael1990  
    OP
       2018-01-11 00:29:09 +08:00 via Android
    @bullfrog 但它本身并没有目标和追求
    disposablexyz
        4
    disposablexyz  
       2018-01-11 01:59:32 +08:00 via iPhone
    @Michael1990 谁告诉你人本身有目标和追求的?
    Michael1990
        5
    Michael1990  
    OP
       2018-01-11 12:25:32 +08:00 via Android
    @disposablexyz 生存繁衍这是最基本的追求和目标吧,是生物的
    disposablexyz
        6
    disposablexyz  
       2018-01-11 13:21:57 +08:00 via iPhone
    @Michael1990 不是目标,是本能,没有这种本能的生物都没有后代。生存者偏见导致剩下的都有繁衍的本能了。但这不是自发的,这是自然选择的结果。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1055 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 19:39 · PVG 03:39 · LAX 11:39 · JFK 14:39
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.