啟發(fā)式算法簡談(一) 引言: 解決實際的問題,要建模型,在求解。求解要選擇算法,只有我們對各種算法的優(yōu)缺點都很熟悉后才能根據(jù)實
際問題選出有效的算法。但是對各種算法都了如指掌是不現(xiàn)實的,但多知道一些,會使你的選擇集更大,找出最好算法的概率越大?,F(xiàn)在研一,要開題了些點文獻綜
述,愿與大家分享。
大自然是神奇的,它造就了很多巧妙的手段和運行機制。受大自然的啟發(fā),人們從大自然的運行規(guī)律中找到了許多解決實際問題
的方法。對于那些受大自然的運行規(guī)律或者面向具體問題的經(jīng)驗、規(guī)則啟發(fā)出來的方法,人們常常稱之為啟發(fā)式算法(Heuristic
Algorithm)?,F(xiàn)在的啟發(fā)式算法也不是全部來自然的規(guī)律,也有來自人類積累的工作經(jīng)驗。
啟發(fā)式算法的發(fā)展: 啟發(fā)式算法的計算量都比較大,所以啟發(fā)式算法伴隨著計算機技術(shù)的發(fā)展,取得了巨大的成就。 40年代:由于實際需要,提出了啟發(fā)式算法(快速有效)。 50年代:逐步繁榮,其中 貪婪算法和局部搜索 等到人們的關(guān)注。 60年代: 反思,發(fā)現(xiàn)以前提出的啟發(fā)式算法速度很快,但是解得質(zhì)量不能保證,而且對大規(guī) 模的問題仍然無能為力(收斂速度慢)。 70年代:計算復(fù)雜性理論的提出,NP問題。許多實際問題不可能在合理的時間范圍內(nèi)找到全局最優(yōu)解。發(fā)現(xiàn)貪婪算法和局部搜索算法速度快,但解不好的原因主要是他們只是在局部的區(qū)域內(nèi)找解,等到的解沒有全局最優(yōu)性。 由此必須引入新的搜索機制和策略……….. Holland的遺傳算法出現(xiàn)了(Genetic Algorithm)再次引發(fā)了人們研究啟發(fā)式算法的 興趣。 80年代以后: 模擬退火算法(Simulated Annealing Algorithm),人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network),禁忌搜索(Tabu Search)相繼出現(xiàn)。 最近比較熱或剛熱過去的: 演化算法(Evolutionary Algorithm), 蟻群算法(Ant Algorithms), 擬人擬物算法,量子算法等。 各
個算法的思想這就不再詳細給出(以后會給出一些,關(guān)注我的blog)
,為什么要引出啟發(fā)式算法,因為NP問題,一般的經(jīng)典算法是無法求解,或求解時間過長,我們無法接受。這里要說明的是:啟發(fā)式算法得到的解只是近似最優(yōu)解
(近似到什么程度,只有根據(jù)具體問題才能給出). 二十一世紀(jì)的最大的數(shù)學(xué)難題NP?=P,如果NP=P啟發(fā)式算法就不在有存在的意義。
啟發(fā)式算法的不足和如何解決方法: (水平有限 僅僅提出6點) 啟發(fā)式算法目前缺乏統(tǒng)一、完整的理論體系。 很難解決! 啟發(fā)式算法的提出就是根據(jù)經(jīng)驗提出,沒有什么堅實的理論基礎(chǔ)。 由于NP理論,啟發(fā)式算法就解得全局最優(yōu)性無法保證。 等NP?=P有結(jié)果了再說吧,不知道這個世紀(jì)能不能行。 各種啟發(fā)式算法都有個自優(yōu)點如何,完美結(jié)合。 如果你沒有實際經(jīng)驗,你就別去干這個,相結(jié)合就要做大量嘗試,或許會有意外的收獲。 啟發(fā)式算法中的參數(shù)對算法的效果起著至關(guān)重要的作用,如何有效設(shè)置參數(shù)。 還是那句話,這是經(jīng)驗活但還要悟性,只有try again……….. 啟發(fā)算法缺乏有效的迭代停止條件。 還是經(jīng)驗,迭代次數(shù)100不行,就200,還不行就1000………… 還不行估計就是算法有問題,或者你把它用錯地方了……….. 啟發(fā)式算法收斂速度的研究等。 你會發(fā)現(xiàn),沒有完美的東西,要快你就要付出代價,就是越快你得到的解也就遠差。 (待續(xù))
|