資源簡介
相關向量機的MATLAB代碼，經過驗證是正確的，很實用
推薦相關向量機（Relevance vector machine,簡稱RVM）是Tipping在2001年在貝葉斯框架的基礎上提出的，它有著與支持向量機（Support vector machine,簡稱SVM）一樣的函數形式，與SVM一樣基于核函數映射將低維空間非線性問題轉化為高維空間的線性問題。
RVM原理步驟
RVM通過最大化后驗概率（MAP）求解相關向量的權重。對于給定的訓練樣本集{tn,xn}，類似于SVM , RVM 的模型輸出定義為
y(x;w)=∑Ni=1wiK(X,Xi)+w0
其 中wi為權重， K(X,Xi)為核函。因此對于, tn=y(xn,w)+εn,假設噪聲εn 服從均值為0 , 方差為σ2 的高斯分布,則p ( tn | ω,σ2 ) = N ( y ( xi ,ωi ) ,σ2 ) ,設tn 獨立同分布,則整個訓練樣本的似然函數可以表示出來。對w 與σ2的求解如果直接使用最大似然法，結果通常使w 中的元素大部分都不是0，從而導致過學習。在RVM 中我們想要避免這個現像，因此我們為w 加上先決條件：它們的機率分布是落在0 周圍的正態分布: p(wi|αi) = N(wi|0, α?1i ),于是對w的求解轉化為對α的求解，當α趨于無窮大的時候，w趨于0.
RVM的步驟可以歸結為下面幾步：
1. 選擇適當的核函數，將特征向量映射到高維空間。雖然理論上講RVM可以使用任意的核函數，但是在很多應用問題中，大部分人還是選擇了常用的幾種核函 數，RBF核函數，Laplace核函數，多項式核函數等。尤其以高斯核函數應用最為廣泛。可能于高斯和核函數的非線性有關。選擇高斯核函數最重要的是帶 寬參數的選擇，帶寬過小，則導致過學習，帶寬過大，又導致過平滑，都會引起分類或回歸能力的下降
2. 初始化α，σ2。在RVM中α，σ2是通過迭代求解的，所以需要初始化。初始化對結果影響不大。
3. 迭代求解最優的權重分布。
4. 預測新數據。
代碼片段和文件信息
function?[MERMSEABSEr]?=?ComputeResults（DesPred）
ME?=?mean（Des-Pred）;
RMSE?=?sqrt（mean（（Des-Pred）.^2））;
ABSE?=?mean（abs（Des-Pred））;
rr?=?corrcoef（DesPred）;?r?=?rr（12）;
?屬性????????????大小?????日期????時間???名稱
-----------?---------??----------?-----??----
?????目錄???????????0??2014-05-29?21:45??rvmm\
?????目錄???????????0??2014-05-29?21:45??rvmm\code_rvm\
?????文件????????1908??2014-05-27?18:40??rvmm\code_rvm\demo_rvm.m
?????文件??????????65??2002-09-04?17:16??rvmm\code_rvm\getEnvironment.m
?????文件????????4150??2002-09-04?17:21??rvmm\code_rvm\License.txt
?????文件????????4924??2005-08-03?14:47??rvmm\code_rvm\sbl_estimate.m
?????文件????????2801??2002-10-03?14:05??rvmm\code_rvm\sbl_example_c.m
?????文件????????1967??2004-10-17?16:01??rvmm\code_rvm\sbl_example_r.m
?????文件????????2572??2005-08-03?19:42??rvmm\code_rvm\sbl_kernelFunction.m
?????文件????????2261??2002-09-04?17:16??rvmm\code_rvm\sbl_postMode.m
?????文件????????2026??2002-09-04?17:17??rvmm\code_rvm\sbl_rvm.m
?????文件?????????226??2002-09-04?17:17??rvmm\code_rvm\setEnvironment.m
?????文件?????????187??2005-02-04?16:06??rvmm\ComputeResults.m
?????文件????????2419??2005-10-11?15:14??rvmm\demo_rvm.m
?????文件????????2755??2005-09-26?10:19??rvmm\demo_rvm2.m
?????文件?????????317??2005-08-03?16:52??rvmm\ErrorStruct.m
?????文件?????????528??2005-08-04?07:13??rvmm\InitStruct.m
?????文件????????1879??2005-09-17?13:11??rvmm\PlotResults.m
?????文件?????????225??2005-08-03?12:26??rvmm\scalestd.m
?????文件????????3202??2005-08-04?07:13??rvmm\TrainRVM.m
評論
共有 條評論
川公網安備 51152502000135號