深度学习的一些概念
数值概念
单个神经元展开的表达式
i 就是当前的神经元序号(一共有 m 个), j 就是当前输入序号(一共有 n 个)
每个神经元都有 n 个权重, 对应输入维度数, 所以当前层所有的权重就是 m × n 的矩阵, 下面是展开后的解释
上面的神经元算完之后, 怎么激活
原来的感知器可能只是输出两个信号: 0 或者 1, 但是现在的网络激活函数有很多:
ReLU
Sigmoid
Softmax（多分类输出层）
神经元“激活”发生在线性计算之后、每一层都会激活； 网络内部几乎从不输出 0/1， 0/1 是你在推理阶段对概率结果做的决策，而不是网络本身的输出。
训练的一些概念
mAP ap IoU
