深度学习步骤概览

step1：建立模型

问题：建立什么样的模型；选择多少层数，每层选择多少神经元

激活函数：

为什么引入激活函数：①为了增强网络表达能力，我们需要激活函数将“线性函数”转变为“非线性函数”；②非线性函数的激活函数需要有连续性，因为连续非线性激活函数是可导的，可以用最优化的方法来求解。

常见激活函数如下

 前馈神经网络

 

 输出层

step2：损失函数（常用损失函数：平方误差，交叉熵）

 

 step3：参数学习（）

 梯度下降法

上面的网络中学要学习的参数特别多，下面的卷积神经网络可以大幅度降低需要学习的参数。 

卷积神经网络

卷积神经网络结构上的三大特性：局部连接；权重共享；下采样

建立模型

 

 卷积核

 

 

 多通道卷积

 

 池化层

 输出层

 交叉熵损失函数

总结

以上是生活随笔为你收集整理的神经算法网络基本原理的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。