V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
ChaosPark
V2EX  ›  问与答

自动驾驶在突发事故前如何做道德选择?

  •  
  •   ChaosPark · 2016-11-08 12:20:45 +08:00 · 3806 次点击
    这是一个创建于 2921 天前的主题,其中的信息可能已经有所发展或是发生改变。

    突发危机状况,直接撞过去可能死一车人,转弯躲过车会撞死一个路人,自动驾驶怎么选?

    开发自动驾驶的公司会不会因为选择了撞死谁而承担法律责任?

    第 1 条附言  ·  2016-11-08 17:37:19 +08:00
    不是要问你救女友还是救妈妈,强制要求你面对道德困境的问题。这可能是自动驾驶发展过程中必须面对的问题,当然也可能自动驾驶开发公司会通过提前让用户选择,免责声明等来规避这个问题。
    第 2 条附言  ·  2016-11-08 17:42:02 +08:00
    可能我说的不清楚有人以为死一车人是自己的车完蛋。

    我的本意和电车难题差不多,就是在不可避免的撞死 5 个人和撞死 1 个人,自动驾驶怎么做选择?

    和电车难题不同在于这个问题有可能是自动驾驶或者人工智能发展过程中不可避免的。
    53 条回复    2016-11-09 12:12:55 +08:00
    ho121
        1
    ho121  
       2016-11-08 12:26:44 +08:00 via Android
    不会刹车吗?
    debiann
        2
    debiann  
       2016-11-08 12:26:46 +08:00 via iPhone
    选择对车主伤害最小的方案
    imlonghao
        3
    imlonghao  
       2016-11-08 12:28:24 +08:00
    电车司机问题?
    ChaosPark
        4
    ChaosPark  
    OP
       2016-11-08 12:29:18 +08:00
    @ho121 已经不可避免的情况了。

    @debiann 因为自动驾驶选择的,开发自动驾驶的公司会被受害者要求赔偿吗?
    zakokun
        5
    zakokun  
       2016-11-08 12:31:05 +08:00   ❤️ 2
    你这不废话么?要是选择牺牲车里的人,这种车卖得出去?

    再说,如果完全是自动驾驶的话,那么车本身违规的可能性为 0,那么撞死违反交通规则的人道义上也说得过去
    ChaosPark
        6
    ChaosPark  
    OP
       2016-11-08 12:33:28 +08:00
    @imlonghao 差不多,只不过这个是自动驾驶发展中不可避免的。
    xss
        7
    xss  
       2016-11-08 12:38:16 +08:00
    还有一种情况, 就是自动驾驶的汽车自动解体, 这样那一车人和另外一个人都不会死. 我觉得这才是最好的方案...嗯....^o^
    DT27
        8
    DT27  
       2016-11-08 12:40:27 +08:00
    @xss 为毛不直接飞起来越过去
    fangxing204
        9
    fangxing204  
       2016-11-08 12:44:02 +08:00 via Android
    如果在隧道不能飞呢
    Perry
        10
    Perry  
       2016-11-08 12:44:12 +08:00 via iPhone
    上个自动驾驶险就行了 管那么多干嘛
    md5
        11
    md5  
       2016-11-08 12:57:22 +08:00 via Android
    网易公开课 正义 有讲这个东西,人类自己都不好下判断
    hpeng
        12
    hpeng  
       2016-11-08 12:59:48 +08:00 via iPhone
    不加特殊代码。不加特殊处理。这个就是原则
    sensui7
        13
    sensui7  
       2016-11-08 13:05:02 +08:00
    AI: 当然我自己损失小的选择.
    xzem
        14
    xzem  
       2016-11-08 13:05:43 +08:00
    转弯躲过车会撞死一个路人 这种情况肯定是你全责
    shimanooo
        15
    shimanooo  
       2016-11-08 13:27:31 +08:00   ❤️ 3
    macleek
        16
    macleek  
       2016-11-08 13:30:14 +08:00
    JJaicmkmy
        17
    JJaicmkmy  
       2016-11-08 13:30:52 +08:00
    当然是选择让双方都死,这样就平等了。
    echo1937
        18
    echo1937  
       2016-11-08 13:34:42 +08:00
    这是道德困境,换人来决断都没法选择,你把它交给程序逻辑是强行找牛角尖钻。

    正确答案只能是:停车。
    yimity
        19
    yimity  
       2016-11-08 13:36:22 +08:00
    撞死违反交通规则的。
    假如不可避免,
    是人的话,是不是也会撞死人?
    为什么自动驾驶就这么多伦理?
    mactaew
        20
    mactaew  
       2016-11-08 13:39:07 +08:00
    这个问题就像是“制作刀具的工房会不会因为有人被砍死而承担法律责任?”是一样的。
    fengxueshangu
        21
    fengxueshangu  
       2016-11-08 13:49:54 +08:00
    @shimanooo 你发的这个比较有意思
    sharkli
        22
    sharkli  
       2016-11-08 13:56:38 +08:00
    自动驾驶又没有 AI ,肯定第一是刹车躲正前方的障碍,然后可能会变道。变道如果遇到人或其他障碍就继续躲呗,躲不及那就是撞上了。
    nodeath
        23
    nodeath  
       2016-11-08 14:54:29 +08:00
    这个问题不应该问 人
    boter
        24
    boter  
       2016-11-08 14:59:24 +08:00
    @xss 为什么解体就不会死,车内的人没有车的保护直接就变肉酱了吧
    quericy
        25
    quericy  
       2016-11-08 15:02:50 +08:00
    @shimanooo 看完整个人都电车了
    greatghoul
        26
    greatghoul  
       2016-11-08 15:13:58 +08:00
    AI 选择不出来了可以自爆,互相伤害呀。
    daolin998
        27
    daolin998  
       2016-11-08 15:14:39 +08:00 via iPhone
    总之反正不能死自己
    sutra
        28
    sutra  
       2016-11-08 15:27:52 +08:00
    如果是人类驾驶,会选择牺牲自己,而不撞路人吗?
    nodin
        29
    nodin  
       2016-11-08 16:07:16 +08:00 via Android
    哪个对车主有利选哪个,前面一车人违反交通规则,那就是他们的责任。
    hekunhotmail
        30
    hekunhotmail  
       2016-11-08 16:39:54 +08:00
    保护司机第一, 买车你不看车辆安全指数嘛
    kslr
        31
    kslr  
       2016-11-08 17:41:55 +08:00 via Android
    首先你这个题目有点问题,如果可以控制装谁,那还叫车祸吗?

    最后当然是保护驾驶员了,至于赔偿自然也是驾驶员了。
    lifesimple
        32
    lifesimple  
       2016-11-08 19:08:58 +08:00
    @debiann 正解
    ipconfiger
        33
    ipconfiger  
       2016-11-08 19:14:37 +08:00
    人工智能选择死机, 去尼玛的, 老子不管了, 你们人类玩蛋去....... 哈哈
    julyclyde
        34
    julyclyde  
       2016-11-08 21:02:53 +08:00
    1 选择保护车内
    2 选择干涉最小
    xzpjerry731
        35
    xzpjerry731  
       2016-11-09 00:40:23 +08:00
    这个时候不应该是方向盘弹出来,自动驾驶提示让司机选择吗?
    v9ox
        36
    v9ox  
       2016-11-09 00:42:06 +08:00 via iPhone
    楼主没开过车吧

    让速不让道 突发情况打方向是开车大忌
    rashawn
        37
    rashawn  
       2016-11-09 01:01:05 +08:00 via iPhone
    这种事情要看第一个案子咋判,现在操心也没用……
    sammo
        38
    sammo  
       2016-11-09 02:48:40 +08:00
    所谓的 “自动驾驶” 就是一个营销噱头,
    用一个营销噱头
    用它来拷问人性是玷污了人性、用它来拷问哲学是玷污了哲学

    飞机、油轮的自动驾驶 / 航行功能,在汽车上无法实现。理由并不是飞机与汽车的不同,而是航空航道与机动车车道的不同。

    研究自动驾驶的汽车,必须先设计出 “适配于自动行驶的航道” ,显然,目前的机动车车道并不适用于自动驾驶。 —— 当然,营销噱头让你花钱买车而已。航路的开拓和研发涉及到规划:航空规划和城市道路规划。这完全不是 一个商业公司能做到的。

    它能做到的,只是经商而已。
    gky99
        39
    gky99  
       2016-11-09 02:58:09 +08:00 via iPhone
    @sammo 你这么说是不对的。假设你可以通过同一套系统控制所有行驶在路上的车,并且你有足够的计算机和合适的控制软件,以现有的道路条件也可以完成自动驾驶。(我们不考虑有人违反交规之类的,或者我们直接撞死 2333 )
    gky99
        40
    gky99  
       2016-11-09 03:03:07 +08:00 via iPhone
    @sammo 而且虽然在现在的技术条件下,这种道德选择的重要性在自动驾驶还不被凸显出来,但是这个问题在十年,或者几十年后是不可避免一定会存在的。
    paulagent
        41
    paulagent  
       2016-11-09 03:27:07 +08:00
    直到问题出现了再去想也来得及,何苦为难现在的自己。 人生苦短。及时行乐才是王道。 再说我觉得大学里的教授肯定都在想了,只是这种问题目前还没法应用。大家不知道罢了,如果真的有一天,所谓的真 自动驾驶汽车上路了,那么立法者肯定会制定相关的法律,尤其是采用大陆法系的,比如大陆,欧洲,这种车能上路,必定已经有了法律。 比如车被黑掉怎么办。
    ncdx2009
        42
    ncdx2009  
       2016-11-09 07:59:59 +08:00 via iPhone
    提供开机必须设置选项 0 ~ 100 , 0 :只顾乘客安全, 100 :只顾路人安全,然后责任或者至少部分的责任就归使用者了。
    Panic
        43
    Panic  
       2016-11-09 08:55:35 +08:00
    为什么我看到这种问题就反感
    Ixizi
        44
    Ixizi  
       2016-11-09 09:31:48 +08:00
    我 tm 怎么知道自动驾驶怎么做,你应该去问 Elon Musk
    ahtsiu
        45
    ahtsiu  
       2016-11-09 10:16:02 +08:00
    AI 表示根据人类至高无上的经验,没有重启不能解决的问题,于是当即决定重启……
    harry890829
        46
    harry890829  
       2016-11-09 10:23:31 +08:00
    其实正常情况下,刹车都是一个合理的情况,大多数极端情况都是错过了最佳刹车实际导致的必须转向避免。大家在考驾照的时候,应该都听过一条,不得在高速的情况下急打方向,会翻车的,先减速,再变向
    everhythm
        47
    everhythm  
       2016-11-09 10:24:56 +08:00
    参考电车飘逸。。。
    micate
        48
    micate  
       2016-11-09 10:37:06 +08:00
    刹车,应该是最合法的选择了吧。

    不过这人是怎么出现的 ...
    如果是自动驾驶(工作正常),应该不会出现你说的这个问题。
    万一出现了,应该是故障,厂商的责任了。

    所以这个是个伪命题。
    zhangfanfan
        49
    zhangfanfan  
       2016-11-09 10:40:10 +08:00
    N 年已有定论的东西,讨论来讨论去的。有啥意义。


    原则:
    1 、程序正义。无论是电车问题,还是现在当中的自动驾驶。
    2 、优先保护用户,其次保护路人。
    3 、当程序非法时,选择不作为。
    joyqi
        50
    joyqi  
       2016-11-09 10:41:26 +08:00
    这个问题最终只会这么解决,请相信我,因为自动驾驶出事厂商是要负责的,所以它会倾向于在发生你所说的情况时选择损失最小的,比如检测到车上就一个人,而对面有一堆人。。。你知道它会怎么选了吧。

    这对他们来说只是一个经济问题。
    fetich
        51
    fetich  
       2016-11-09 11:20:54 +08:00
    @DT27 然後伸出手臂,將司機接住,越過去再變形爲車。 @Tesla
    evlos
        52
    evlos  
       2016-11-09 11:44:55 +08:00
    首先把违反交通规则的撞了,躲都不需要躲,要是躲还容易伤到乘客。
    然后能刹车就刹车,撞谁对车主的伤害小就撞谁。
    timestamp
        53
    timestamp  
       2016-11-09 12:12:55 +08:00
    应该会选择一个小目标撞过去吧,因为这样对司机伤害最小,人的下意识也是先保护自己吧。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2674 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 15:29 · PVG 23:29 · LAX 07:29 · JFK 10:29
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.