其實機器學習的核心,無非就是利用已有的數據和三要素(模型、算法、策略),找到一個最靠譜的預測方法。不同算法的核心區别,就是尋找最佳預測方法的思路不同。
BP神經網絡的輸入層,對每個輸入的數據,會有無數個預測方法,每改變一個小小的網絡參數,就會形成一個不同的預測方法,産生不同的一套預測結果。這些無數的預測方法集合在一起,就組成了BP神經網絡的假設空間。而BP神經網絡作出的一個重要的假設就是,假設空間是個n維空間,并且這個空間是連續的。BP神經網絡将在這個連續空間中,連續的疊代尋找。這與決策樹或者其他基于離散表示的方法的假設完全不同。假設空間的連續性以及誤差E關于假設的連續參數可微這兩個事實,導緻了一個定義良好的誤差梯度,為搜索到最佳的預測方法提供了一個非常有用的結構。而其他算法的搜索思路,要麼是“一般到特殊序”,要麼是“簡單到複雜序”,與此完全不同(其他算法的思路後續會介紹到)。
而支撐BP神經網絡運作的所有假設的集合,将構成BP神經網絡的歸納偏置。其核心是:如果給定兩個正例,它們之間沒有反例,反向傳播算法會傾向于把這兩點之間的點也标記為正例。稱之為,在數據點之間平滑插值。
,更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!