資源簡介
包括單特征的樣本的最小二乘法計(jì)算,
單特征樣本的梯度下降法--代數(shù)版本
多特征樣本的梯度下降--矩陣運(yùn)算表示。
在矩陣表示的梯度下降法中運(yùn)用標(biāo)準(zhǔn)差歸一化(可選擇注釋)。
有比較詳細(xì)的注釋
代碼片段和文件信息
clear;
clc;
X=[0123456];
Y=[01.12.22.74.14.95.6];
%最小二乘法
XY_?=?mean(X.*Y);
X_Y_?=?mean(X)*mean(Y);
X2_?=?mean(X.*X);
X_2?=?mean(X)*mean(X);
a=(XY_-X_Y_)/(X2_-X_2);
Y_?=?mean(Y);
X_?=?mean(X);
b=Y_-a*X_;
%顯示,畫圖
%?figure;
%?scatter(XY);
%?hold?on;
%?x=0:0.1:6;
%?y=a*x+b;
%梯度下降法
a1?=?0;
b1?=?0;
s?=?0.01;
delt?=?0.01;
as?=?-XY_+a1*X2_+b*X_;
bs?=?-Y_+a1*X_+b1;
while?abs(as)>delt?||?abs(bs)>delt
????a1?=?a1-s*as;
????b1?=?b1-s*bs;
????as?=?-XY_+a1*X2_+b*X_;
????bs?=?-Y_+a1*X_+b1;
end;
%顯示,畫圖
%?x1=0:0.1:6;
%?y1=a1*x1+b1;
%?plot(xy‘r‘x1y1‘y‘);
%多維特征樣本的矩陣梯度下降法
%y代表樣本結(jié)果,它是一個(gè)m行,1列的矩陣,m代表樣本數(shù)目
y=[0;1.1;2.2;2.7;4.1;4.9;5.6];
%x_?代表樣本訓(xùn)練輸入數(shù)據(jù),它是一個(gè)m行,n列的矩陣,m代表樣本數(shù)目,n代表特征數(shù)目
%此時(shí)為單特征矩陣
x_=[0;1;2;3;4;5;6];
[mn]=size(x_);
%在這一部分程序是對(duì)每個(gè)特征的數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)差歸一化,有助于設(shè)置步長,閾值等參數(shù)
%這樣可以統(tǒng)一樣本特征數(shù)據(jù)范圍,使迭代次數(shù)加快
%那么對(duì)于使用最
評(píng)論
共有 條評(píng)論