梯度下降法

當(dāng)為非嚴(yán)格凸函數(shù)時(shí)，初始點(diǎn)位置的不同可能得到不一樣的局部最優(yōu)解

當(dāng)梯度小于某一σ時(shí)，停止迭代，求此時(shí)函數(shù)的極值即為局部最優(yōu)解，當(dāng)為嚴(yán)格的凸函數(shù)時(shí)，為全局最優(yōu)解

延申到多元函數(shù)，此時(shí)梯度是偏導(dǎo)數(shù)組成的一個(gè)向量，當(dāng)各個(gè)偏導(dǎo)數(shù)迭代到小于某一值的時(shí)候，停止迭代，反求此時(shí)的函數(shù)極值