V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Oilybear
V2EX  ›  机器学习

请问一下如果 MLP 非等深会出现什么问题

  •  
  •   Oilybear · 2023-05-10 10:31:02 +08:00 · 741 次点击
    这是一个创建于 597 天前的主题,其中的信息可能已经有所发展或是发生改变。

    RT ,纯纯好奇如果是个很傻的问题请轻喷,跟着沐神的动手实验只学到 MLP 。既然是仿神经,那人类的神经元也并非等长。MLP 的设计是否也可以试试?比如随机把某几个第一隐藏层的输出和一些高隐藏层的输出拼在一起作为最后输出层的 input

    2 条回复    2023-05-10 10:51:46 +08:00
    Oilybear
        1
    Oilybear  
    OP
       2023-05-10 10:35:22 +08:00
    有点脑抽了,突然想到每一个 hidden 的 W 可以控制,如果真的没有印象很有可能就学成 0 了,就相当于没有影响,等价于上面的想法
    Ricardoo
        2
    Ricardoo  
       2023-05-10 10:51:46 +08:00
    > 比如随机把某几个第一隐藏层的输出和一些高隐藏层的输出拼在一起作为最后输出层的 input
    你是说 残差连接?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1108 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 19ms · UTC 18:50 · PVG 02:50 · LAX 10:50 · JFK 13:50
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.