1

最小二乘法知识点讲解:

最小二乘法:

最小二乘法,(又称最小平方法),是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

最小二乘法公式

注:以下“平”是指某参数的算术平均值。如:X平--x的算术平均值。

1、∑(X-X)(Y--Y)=

∑(XY--XY--XY+XY)=

∑XY--X∑Y--Y∑X+nXY=

∑XY--nXY--nXY+nXY=∑XY--nXY

2、∑(X --X2=

∑(X2--2XX+X2)=

∑X2--2nX2+nX2=∑X2--nX2

3、Y=kX+b

k=((XY)--X*Y)/((X2--(X2),

b=Y--kX

X=1/n∑Xi

(XY)=1/n∑XiYi
2

最小二乘法练习题:

1、设某大学的女生体重y(单位:kg)与身高x(单位:cm)具有线性相关关系,根据一组样本数据(xi,yi)(i=1,2,…,n),用最小二乘法建立的回归方程为
̂
y
=0.85x-85.71,给定下列结论:
①y与x具有正的线性相关关系;
②回归直线过样本点的中心(
.
x
.
y
);
③若该大学某女生身高增加1cm,则其体重约增加0.85kg;
④若该大学某女生身高为170cm,则可断定其体重必为58.79kg.
其中正确的结论是    
题型:计算题 难度:0.47 来源:2014•韶关一模 看答案
2、有如下四个命题:
①甲乙两组数据分别为甲:28,31,39,42,45,55,57,58,66;乙:29,34,35,48,42,46,55,53,55,67,则甲乙的中位数分别为45和44.
②相关系数r=-0.83,表明两个变量的相关性较弱.
③若由一个2×2列联表中的数据计算得K2的观测值k≈4.103,那么有95%的把握认为两个变量有关.
④用最小二乘法求出一组数据(xi,yi),(i=1,…,n)的回归直线方程
y
=
b
x+
a
后要进行残差分析,相应于数据(xi,yi),(i=1,…,n)的残差是指
ei
=yi-(
b
xi+
a
).
以上命题“错误”的序号是    
题型:综合题 难度:0.70 来源:2014•香坊区校级二模 看答案
3、最小二乘法的原理是(  )
A、使得
n
i=1
[yi-(a+bxi)]最小
B、使得
n
i=1
[yi-(a+bxi2]最小
C、使得
n
i=1
[yi2-(a+bxi2]最小
D、使得
n
i=1
[yi-(a+bxi)]2最小
题型:选择题 难度:0.71 来源:2014春•鞍山期末 看答案
4、在2014年3月15日那天,抚州物价部门对市内的5家商场的某商品的一天销售量及其价格进行调查,5家商场的售价x元和销售量y件之间的一组数据如下表所示:
价格x 9 9.5 10 10.5 11
销量y 10 8 6 5
由最小二乘法求得回归直线方程为
y
=-3.2x+40,发现表中有一个数据模糊不清,则该处数据的值为    
题型:计算题 难度:0.76 来源:2014•抚州模拟 看答案
5、某种产品的广告费支出x与销售额y(单位:百万元)之间有如下对应数据:
x 2 4 5 6 8
y 30 40 60 50 70
(Ⅰ)请根据上表提供的数据,用最小二乘法求出y关于x的线性回归方程;
(Ⅱ)预测当广告费支出为9百万元时的销售额.
最小二乘法:
̂
y
=
̂
a
+
̂
b
x,
其中
̂
b
=
n
i=1
xiyi-n
.
x
.
y
n
i=1
x
2
i
-n
.
x
2
̂
a
=
.
y
-
̂
b
.
x
题型:解答题 难度:0.64 来源:2014春•龙华区校级期中 看答案
6、某研究机构对高三学生的记忆力x和判断力y进行统计分析,得下表数据:
x 6 8 10 12
y 2 3 5 6
根据上表提供的数据,用最小二乘法求出y关于x的线性回归方程
y
=
b
x+
a
中的
b
的值为0.7,则记忆力为14的同学的判断力约为(附:线性回归方程
y
=
b
x+
a
中,
a
=
.
y
-
b
.
x
,其中
.
x
.
y
为样本平均值)(  )
A、7
B、7.5
C、8
D、8.5
题型:选择题 难度:0.73 来源:2014•韶关模拟 看答案
7、相关变量x、y的样本数据如下表:
x 1 2 3 4 5
y 2 2 3 5 6
经回归分析可得y与x线性相关,并由最小二乘法求得回归直线方程为
̂
y
=1.1x+a,则a=(  )
A、0.1
B、0.2
C、0.3
D、0.4
题型:选择题 难度:0.73 来源:2014•深圳一模 看答案
8、用最小二乘法得到一组数据(xi,yi)(i=1,2,3,4,5)的线性回归方程为
y
=2x+3,若
5
i=1
xi=25,则
5
i=1
yi等于(  )
A、11
B、13
C、53
D、65
题型:选择题 难度:0.80 来源:2014春•天津期末 看答案
9、下列说法正确的是    
①用最小二乘法求的线性回归直线
y
=bx+a必过点(
.
x
.
y

②一批产品共50件,其中5件次品,其余均为合格品,现从中任取2件,则其中出现次品的概率为
C
1
5
C
1
49
C
2
50

③两人独立地解决同一个问题,甲解决这个问题的概率为P1,乙解决这个问题的概率为P2,两人同时解决的概率为P3,则这个问题得到解决的概率等于P1+P2-P3,也等于1-(1-P1)(1-P2
④已知随机变量ξ服从正态分布N(2,σ2),P(ξ≤4)=0.84,则P(ξ≤0)=0.16
⑤对于空间任意一点O和不共线的三点A、B、C,若
OP
=x
OA
+y
OB
+z
OC
(x,y,z∈R),则P、A、B、C四点共面的充要条件是x+y+z=1.
题型:填空题 难度:0.50 来源:2013春•沈河区校级期中 看答案
10、设有3个点(x1,y1),(x2,y2),(x3,y3),由最小二乘法来刻画直线y=a+bx与这3个点的接近程度时,其表达式是(  )
A、|x1-(a+bx1)|+|x2-(a+bx2)|+|x3-(a+bx3)|
B、[x1-(a+bx1)]2+[x2-(a+bx2)]2+[x3-(a+bx3)]2
C、|y1-(a+bx1)|+|y2-(a+bx2)|+|y3-(a+bx3)|
D、[y1-(a+bx1)]2+[y2-(a+bx2)]2+[y3-(a+bx3)]2
题型:选择题 难度:0.80 来源: 看答案