Bootstrap

深度学习中的小tips

1.在经过卷积计算之后,通道数随该层中使用的卷积核(滤波器)数量而变化

2.特征图是由某个输入通道数的数据经过卷积计算之后产生结果

3.把某个输入通道数的数据经过卷积运算4之后,得到的结果,这个过程就是特征映射

4.flatten操作是当我们从一个卷积层过渡到一个全连接层时必须在神经网络中发生的操作

5.在卷积神经网络中设置输出通道其实就是设置卷积核的数量。输出通道也可以称为特征图;如果处理的是线性层,不称为特征映射,因为输出是一阶张量,所以可以叫特征。

6.当卷积层转换到线性层时,必须使张量变平

7.激活层(激活函数,类似Relu等)和池化层都没有权重

8.交叉熵损失函数中,会在其输入上隐式的执行一个softmax操作

8.计算图通过跟踪张量在网络中传播的每一个计算来跟踪网络的映射,然后在训练中通过这个图形来计算导数。即损失函数的梯度

;