[]拋物線最低點位置的尋找?
挪動的方式尋找
當w在左端是把w調大
當w在右端時把w調小
[]斜率:縱座標差值/橫座標差值
斜率=0 最低點;斜率>0 右端;斜率<0左端
一元二次函式斜率的求法?
注意:兩點的位置足夠小,極限來表示。
[]導數:直線上某一點的斜率
[]求導公式和法則
新w = w-斜率
在右側:斜率為正數,w-正數,新w向左調整
在左側:斜率為負數,w-負數,新w向右調整
乘上學習率a:使斜率大的時候調整大,斜率小的時候調整小
梯度下降和反向傳播(下)
[]y=wx+b 直線可以不經過原點
[]注:假設豆豆毒性x0, 結果是y0 預測結果 y=wx0+b,誤差e=.
當b=0的時候,直線過原點。
b取不同的值,結果
取不同的(w,b,e)w,b得到的e的值不同。
[]得到最低點的w和b的取值,預測誤差e最小。
[]e 和 w方向 e對w求導
[]e和b方向 e對b求導
[]向量
[]前向傳播
[]反向傳播
用代價函式修正預測值的方法。
[]不斷經歷前向傳播和反向傳播