400-650-7353

精品課程

正則化是什么意思? 正則化技術(shù)解析 正則化是什么

發(fā)布： Java培訓(xùn) 發(fā)布時(shí)間：2021-08-30 20:05:20

推薦答案
品牌型號(hào)：聯(lián)想 YOGA 14c/系統(tǒng)版本：windows10

正則化(regularization)，是指在線性代數(shù)理論中，不適定問(wèn)題通常是由一組線性代數(shù)方程定義的，而且這組方程組通常來(lái)源于有著很大的條件數(shù)的不適定反問(wèn)題。大條件數(shù)意味著舍入誤差或其它誤差會(huì)嚴(yán)重地影響問(wèn)題的結(jié)果。

正則化主要用于解決以下兩種問(wèn)題：

1、正則化就是對(duì)最小化經(jīng)驗(yàn)誤差函數(shù)上加約束，這樣的約束可以解釋為先驗(yàn)知識(shí)(正則化參數(shù)等價(jià)于對(duì)參數(shù)引入先驗(yàn)分布)。約束有引導(dǎo)作用，在優(yōu)化誤差函數(shù)的時(shí)候傾向于選擇滿足約束的梯度減少的方向，使最終的解傾向于符合先驗(yàn)知識(shí)(如一般的l-norm先驗(yàn)，表示原問(wèn)題更可能是比較簡(jiǎn)單的，這樣的優(yōu)化傾向于產(chǎn)生參數(shù)值量級(jí)小的解，一般對(duì)應(yīng)于稀疏參數(shù)的平滑解)。

2、同時(shí)，正則化解決了逆問(wèn)題的不適定性，產(chǎn)生的解是存在，唯一同時(shí)也依賴(lài)于數(shù)據(jù)的，噪聲對(duì)不適定的影響就弱，解就不會(huì)過(guò)擬合，而且如果先驗(yàn)(正則化)合適，則解就傾向于是符合真解(更不會(huì)過(guò)擬合了)，即使訓(xùn)練集中彼此間不相關(guān)的樣本數(shù)很少。
 

其它答案
冰闊落2020-06-22 18:56:36

正則化是一種為了減小測(cè)試誤差的行為(有時(shí)候會(huì)增加訓(xùn)練誤差)。當(dāng)你用比較復(fù)雜的模型比如神經(jīng)網(wǎng)絡(luò)，去擬合數(shù)據(jù)時(shí)，很容易出現(xiàn)過(guò)擬合現(xiàn)象，這會(huì)導(dǎo)致模型的泛化能力下降，這時(shí)候，我們就需要使用正則化，降低模型的復(fù)雜度。

中公旗下IT培訓(xùn)品牌

  • 中公教育品牌

    　中公教育是一家中國(guó)領(lǐng)先的全品類(lèi)職業(yè)教育機(jī)構(gòu)，提供超過(guò)100個(gè)品類(lèi)的綜合職業(yè)就業(yè)培訓(xùn)服務(wù)。公司在全國(guó)超過(guò)1000個(gè)直營(yíng)網(wǎng)點(diǎn)展開(kāi)經(jīng)營(yíng)，深度覆蓋300多個(gè)地級(jí)市，并正在快速向數(shù)千個(gè)縣城和高校擴(kuò)張。

  • 完善就業(yè)體系

    通過(guò)階段性授課機(jī)制，和每階段的定期考核，先讓學(xué)員能夠?qū)W會(huì)所學(xué)內(nèi)容，才能找打合適工作。最后一個(gè)階段為就業(yè)課程，從技術(shù)和面試兩個(gè)方面加深就業(yè)能力，并且還有不定期的雙選會(huì)供大家選擇。

  • 全程面授+實(shí)戰(zhàn)技術(shù)

    線下課程全程是師資面對(duì)面教學(xué)，不會(huì)存在上課只對(duì)著大屏幕上課的情況，有問(wèn)題都可以在課上得到解答。并且優(yōu)就業(yè)通過(guò)自主研發(fā)大綱和學(xué)習(xí)路線，并且定期更新課程所學(xué)技術(shù)，讓大家所學(xué)技術(shù)不落伍。

中公優(yōu)就業(yè)專(zhuān)業(yè)職業(yè)規(guī)劃老師

為您詳細(xì)答疑解惑，更能領(lǐng)取免費(fèi)課程

相關(guān)問(wèn)題

更多課程

專(zhuān)業(yè)課程老師將第一時(shí)間為您解答

立即答疑
修改
優(yōu)就業(yè)：ujiuye

關(guān)注中公優(yōu)就業(yè)官方微信

  • 關(guān)注微信回復(fù)關(guān)鍵詞“大禮包”，領(lǐng)80G學(xué)習(xí)資料