目录

一、特征工程的作用

二、深度学习的应用

三、得分函数

四、损失函数

 五、前向传播

六、反向传播

---

一、特征工程的作用

• 数据特征决定了模型的上限
• 预处理和特征提取是最核心的
• 算法与参数选择决定了如何逼近这个上限

二、深度学习的应用

• 无人驾驶
• 人脸识别
• 分辨率重构

深度学习在图像分类中，一张图片被表示为三维数组的形式，每个像素点的值为0到255

三、得分函数

线性函数:从输入-->输出的映射

数学表示:f(s,W) = Wx + b

b是一个微调参数

总共有三个类别， 四个像素点，计算权重值时(以猫为例):0.2*56+-0.5*231+0.1*24+2.0*2+1.1

四、损失函数

 

损失函数 = 数据损失 + 正则化惩罚项

模型A关注的是局部，而模型B关注的是全局，模型A容易产生过拟合现象

 五、前向传播

 有一个输入数据x和一个权重参数W，根据f = Wx计算出得分值，选择一个数据损失函数加上正则惩罚项(R(W))得到一个损失值.

六、反向传播

简单例子:

 求x的结果的影响，显示f对中间变量q求偏导，然后q再对x求偏导，再相乘