啟發式算法是運籌學嗎？在計算機科學與運籌學，另一種算法是指用處發現到形狀相同方法來解決優化問題的算法。類似算常情況與NP-difficult問題查找因此不可能比較有效的多項式時間精確計算算來幫忙解決N

啟發式算法是運籌學嗎？

在計算機科學與運籌學，另一種算法是指用處發現到形狀相同方法來解決優化問題的算法。類似算常情況與NP-difficult問題查找因此不可能比較有效的多項式時間精確計算算來幫忙解決NP-work問題，因為一個求解答多項式時間次優解。

與啟發式算法差別，通常沒法找到合理的解決方案非常飛速，要可可以證明的解決方案質量和可證明的運行時間范圍。

理想情況下，近似值最優可提升一個小的常數因子（例如在最優解的5%以上的話）。

近似算法越來越密集地主要是用于.設精確多項式時間算法但而輸入大小而太貴得要命的問題。啟發式算法（heuristicalgorithm)是對于最優化算法給出的。另一個問題的選擇最優算法求得該問題你是什么實例的最優解。啟發式算法可以這樣的話定義,定義：一個基于直觀或經驗構造的算法，在可接受的花費（指可以計算時間和空間）下給出未解決組合優化問題每另一個實例的另一個可行解，該看似可行解與最優解的移動的方向程度象肯定不能被最遲。現階段，啟發式算法以仿自然體算法為主兼顧，主要有蟻群算法、設計模擬退火處理法、神經網絡等。

數學建模最難的算法？

01、蒙特卡羅算法

02、數據數據擬合、參數估計、插值等數據處理算法

03、線性規劃、整數規劃、多元規劃、二次規劃等規劃類問題

04、圖論算法

05、動態規劃、復現搜索、治于算法、分支定界等計算機算法

06、最優化系統理論的三大超經典算法：設計模擬退火法、神經網絡、遺傳算法

07、網格算法和遞歸法

08、一些嘗試特征轉換方法

09、數值分析算法

10、圖象處理算法

退火技術指的是什么意思呢？

模擬退火是一個可以修的全局最優化算法。

要表述它的思想，也可以從Gibbs Distribution從哪里開始：

這定義了兩個概率分布特點，其中x來表示系統的狀態，P(x)可以表示系統取x狀態的概率，E(x)可以表示系統進入x狀態的能量，T來表示溫度。在物理上，E(.)的定義取決于它系統本質，在最系統優化上，我們需要虛擬軟件另一個系統，讓這些系統的E(.)按到我們的優化目標。

這個分布有兩個特點：

1.E(x)越小，P(x)則越大；道理一樣。

2.T越大，P(.)其分布越uniform，或且P(.)越subtle。

根據(1)，我們做最小化的時候，諸如我們要小化函數f(x)的值，就這個可以就讓E(x)f(x)；如果沒有是最大化f(x)，可以設E(x)-f(x)。不過，這樣一來原始的最優化問題就變成了在P分布特點下去尋找概率大的的狀態x。

對此(2)，是可以畫個不太特別嚴謹的圖回答萬分感謝：

可以看到，當T0的時候，只有一是對讓E(x)最小的x*，我們有P(x*)1，別的的x均為P(x)0。

而當T∞時，對此大部分的x，P(x)均相等，隨后就組成了兩個均勻分布（從上面的概率公式看，此時相對于一丁點x應該有E(x)/TE(x)/∞0，跟E(x)4幾已經任何關系了）。

當T取其他值的時候呢，是介乎0和∞之間的狀態。想罷我們最終的結論：T越大，P(.)越均勻地，T越小，P(.)越險峻。

是為更形象直觀，本物理盲在這里扯蛋幾句：假設一些水分子橫列了三個系統，系統的變量是水分子的空間坐標。當T太大的時候，P(.)變得均勻，索性這座系統變得更加相當的不穩定，所有的水分子都亂飄（只不過取完全沒有坐標的概率都均等性嘛），宏觀上那就是水被蒸發成了氣體。當T變成0時，P(.)變得更加太陡峭，索性雷鳴系統的狀態很穩定在P(x)1的x上，宏觀上看那是水聚成了固體。

現在假設不成立我們有另一個算法，是可以在計算變量的P(.)上面采樣。那你，當T0時，因此只能最優的x*滿足的條件P(x*)1，剩下的的x均為P(x)0。因為如果能我們再采集的樣本不滿足此時P(.)的分布，那就它是有就是x*。這樣的算法應該是模擬退火。

學過C語言的人都很清楚rand()，它會以之和的概率趕往一個另一種0到RAND_MAX之間的隨機數。這填寫的是在[0,RAND_MAX]的均勻分布上采樣點。題中我們要在更加古怪的分布上樣本采集，比如說上面的P(.)，該怎么做呢？解決方法應該是MCMC（Markov chain Monte Carlo

）。

MCMC簡單其實是，從個精靈召喚狀態正在，經由若干步狀態轉移，之后至少另一個狀態，這個那是再采集不出來的樣本。在每次狀態轉移時（到，到等），首先不需要propose個可能的新狀態x，然后把根據P(.)的特點確定是否需要要給予（accept）這種新的狀態：如果沒有進行了，這樣下一次的狀態就變為x，不然一直保持變為。這但是是替以維護精細入微平衡（Detailedbalance

）。對此MCMC而言，正是這樣的最重要的的步驟絕對的保證了重新采樣的結果條件符合目標廣泛分布。在模擬退火的算法中，有三個很詭異的rejection操作，反正是那個原因。但，維護細致平衡是有代價的，如果沒有目標其分布P(.)過多險峻陡峭，那么，很可能會consider的x能量遠大于當前的x（E(x)E(x)），據rejection公式，可以找到這樣的x全都總是會被委婉地拒絕。隨后系統的收斂速度會變得巨慢：簡單來講，你必須相當多的狀態轉移才能再采集到個考試合格的樣本。但要是P(.)都很勻實呢，過了一會兒新的x就很難被得到，相對來說就更太容易搞到不合格的樣本。因為在模擬退火中，從未不然后從T0（或是其他低溫狀態）又開始采樣點，事實上理論上這樣的話再采集到的樣本也最優選擇，但為了取得另一個樣本，你即便要永遠不會地等下來。演示退火區分的方法是：從高溫正在重新采樣，讓算法可以迅速拿到下的樣本，接著很緩慢地降低一點溫度到，正在此時我以為起點，在溫度下采樣點，因此和很距離，只好也很接近下面的考試合格樣本，經少數幾輪狀態轉移，就也可以期望拿到下面的樣本，想罷再繼續稍微地減少溫度到，再重復一遍這樣的過程……直到此時前往了一個極低溫度，這時的樣本就是全局最優解。可以找到T有另一個大小改變的過程，這差不多就是“退火”這種說法的由來。在1983年相關證明了模擬退火這些想法雖然是六逆重生療法的。因此（理論上）它最啊的地方只是相對而言：這是個通用算法。也就是說全都也可以咬死絕大部分的最優化問題，但我得到的結果還是全局最優的！但實踐應用中，全局最優基本是不能保證的，這是是因為同時也可以證明了要至少全局最優需要實現方法的退火速度（也就是T會增大的速度）——這樣的速度基本都是慢到人類根本無法承受住的。不過幸好實際應用效果中，我們常見也可以需要一個快速的溫度下降策略，再依靠一些heuristic算法，那樣之后能夠得到的結果雖不是全局最優，但基本是又是全局確實不錯的。關與MCMC講的比較好intuitive，請有興趣的同學讓其做個參考相關資料：）