主页 返回 进入列表

  • 总根 >计算机与教育 >课程 >高等教育课程 >本科课程 >模式识别与人工智能 >zstu-(2021-2022)-1 >学生作业目录 >2019329621283朱胤成

  • 2019329621283朱胤成作业3

    Sigmoid函数:

    不足:

    容易过饱和并且造成梯度消失
    不是以0为中心的,寻找最优W参数可能很费时
    包含exp函数,计算exp函数的开销很大

    优点:

    平滑、易于求导

    应用场景:

    研究早期被广泛使用

    ReLU函数:

    不足:

    不是以原点为中心
    会使网络处于“dead”状态

    优点:

    能够缓解梯度消失和梯度爆炸问题
    计算速度大大增加
    收敛速度快

    Maxout函数:

    不足


    全文(Full Article): https://yvsou.com/dc/single.php?groupid=28.218.81608.81609.81613.85931.86408.83744.86552&pid=1341614&startgroup=