過擬合:為得到一致假設(shè)而使假設(shè)變得過度復(fù)雜稱為過擬合。
比如:某種學(xué)習(xí)算法產(chǎn)生了一個(gè)過擬合的分類器,這個(gè)分類器能夠百分之百的正確分類樣本數(shù)據(jù),即再拿樣本中的文檔來給它,它絕對(duì)不會(huì)分錯(cuò),但也就為了能夠?qū)颖就耆_的分類,使得它的構(gòu)造如此精細(xì)復(fù)雜,規(guī)則如此嚴(yán)格,以至于任何與樣本數(shù)據(jù)稍有不同的文檔它全都認(rèn)為不屬于這個(gè)類別。