Xiaouwhu/500 (#122)

* Update 4.4-梯度下降的三种形式.md

* change name

B-教学案例与实践/B6-神经网络基本原理简明教程/4.4-梯度下降的三种形式.md

@@ -41,10 +41,9 @@ A=预测值，Y=标签值，X=输入值，X_T=X的转置$$
 
 <img src="./Images/4/SGD-example.png"/>
 
-
-- 训练样本：每次使用全部数据集进行一次训练，更新一次梯度，重复以上过程。
-- 优点：受单个样本的影响最小，一次计算全体样本速度快，损失函数值没有波动，到达最优点平稳。方便并行计算。
-- 缺点：数据量较大时不能实现（内存限制），训练过程变慢。初始值不同，可能导致获得局部最优解，并非全局最优解。
+- 训练样本：每次使用一个样本数据进行一次训练，更新一次梯度，重复以上过程。
+- 优点：训练开始时损失值下降很快，随机性大，找到最优解的可能性大。
+- 缺点：受单个样本的影响最大，损失函数值波动大，到后期徘徊不前，在最优解附近震荡。不能并行计算。
 
 <img src="./Images/4/SGD-Loss.png"/>