機率統計教學錄影數學符號數學基礎排列組合機率統計簡介機率機率公理隨機變數連續測度單一分布條件機率聯合分布貝氏定理動差生成函數特徵函數機率法則匯總離散分布二項分布多項分布負二項分布幾何分布超幾何分布布瓦松分布連續分布均勻分布常態分布Gamma 分布指數分布卡方分布柯西分布Weibull 分布T 分布F 分布Beta 分布多維分布統計抽樣敘述統計推論統計中央極限定理估計方法單組樣本估計兩組樣本估計檢定方法單組樣本檢定兩組樣本檢定平均値的推論變異數的推論無母數推論迴歸分析變異數分析實驗設計因子實驗品質管制時間序列數據分類統計定理匯總統計情況分類計算統計蒙地卡羅法最大似然法則假說與學習EM 算法簡單貝氏分類貝氏網路隨機過程馬可夫鏈蒙地卡羅馬可夫資源範例投影片教學錄影練習題考題解答訊息相關網站參考文獻最新修改簡體版English |
參考：線代啟示錄：馬可夫鏈專題 馬可夫鏈馬可夫鏈是一種具有狀態的隨機過程，從目前狀態轉移 s 到下一個狀態 s' 的機率由 $q(s \rightarrow s')$ (或者 $P(s' | s)$) 所表示，這個狀態之轉移機率並不會受到狀態以外的因素所影響，因此與時間無關。 隨機漫步就是馬可夫鏈的例子。隨機漫步中每一步的狀態是在圖形中的點，每一步可以移動到任何一個相鄰的點，在這裡移動到每一個點的概率都是相同的(無論之前漫步路徑是如何的)。 假如我們不斷的觀察某種隨機現象，會看到許多一連串的觀察值 $x_1, x_2,..., x_n$ ，這些觀察值會形成整個隨機現象空間 $X_1, X_2,..., X_n$ 。 假如這些觀察值之間有某種因果關係，那麼我們就有可能透過馬可夫過程描述此因果關係，舉例而言，如果每個事件只受到前一個事件的影響，那麼就可以用 $P(X_{n+1} | X_n)$ 表示此隨機現象，這種隨機過程稱為時間無關的馬可夫鏈 (Time-homogeneous Markov chains, 或稱為穩定型馬可夫鏈 stationary Markov chains)。 假如下一個觀察值可能受前 m 個觀察值所影響，那麼此種隨機過程可由機率分布 $P(X_{n+1} | X_n, ..., X_{n-m+1})$ 表示，因此稱為 m 階的馬可夫過程。 然而，對於某個機率現象而言，往往不是所有的隨機變數都可觀察到，我們通常只能觀察到部分的隨機變數，也就是系統當中有某些不可觀察的隱含變數。於是我們必須假設有某些不可觀察的隨機變數 Z 的存在。 隱馬可夫模型隱馬可夫模型 (Hidden Markov Model，HMM) 是用來描述具有隱含變數的隨機過程模型，此模型在人工智慧的許多子領域有很強的應用。 在正常的馬可夫模型中，狀態對於觀察者來說是直接可見的。這樣狀態的轉換概率便是全部的參數。而在隱馬可夫模型中,狀態並不是直接可見的，但受狀態影響的某些變數則是可見的。每一個狀態在可能輸出的符號上都有一概率分佈。因此輸出符號的序列能夠透露出狀態序列的一些資訊。 下圖顯示了 HMM 模型的概念，其中的 X 是隱含變數，Y 是可觀察變數，a 是轉換機率 (transition probabilities)，b 是輸出概率 (output probabilities)。 
如果將狀態轉換與輸出區分開來，上圖的連線可以進一步詳細區分為輸出線與轉換線，形成下列模型。 
如果以時間順序為觀察重點，則 HMM 模型可以用下列圖形表示。其中隱含變數 $X_{n}$ 是決定狀態的關鍵，影響了輸出變數 $Y_{n}$ 與下一個狀態 $X_{n+1}$。 
對於 HMM 模型而言，有三個重要的問題，都有對應的演算法可用。 1. 針對已知的模型，計算某一特定輸出序列的概率：可使用 Forward Algorithm 或 Backward Algorithm 解決. 授權說明本文之部分來源為維基百科，修改使用時請遵照 Creative Commons Attribution-ShareAlike 授權條款。 參考文獻
R 軟體的資源
蒙地卡羅馬可夫法 (Monte Carlo Markov Chain, MCMC)
|
馬可夫鏈 (Markov Chain)
page revision: 7, last edited: 12 Sep 2012 13:15
Post preview:
Close preview