笔记 应用回归分析

你会决心做多少个决定?

MakeA Decision

空白

找到一个简约散文排版,那就写一篇笔记推文吧~

—笔记系列—

应用回归分析何晓群老师版

第二章:一元线性回归

一元线性回归

空白

学到多元我就觉得没有必要学一元,后来才发现,很多基础理论都是由一元回归得到的,而且在检验和证明的时候也可以用到一元,不禁想到利哥那不屑的眼神。严师出高徒,我们真的学到很多知识,一下说偏了,回到正题,一元回归!

一元回归模型长这样:

可以看出,y的变化一部份由x引起,一部份由varepsilon 引起,上式是一元线性理论回归模型,beta0和beta1是未知参数,称beta0为回归常数,beta1为回归系数;varepsilon 为其他随机因素的影响,一般假定varepsilon 是不可观测的随机误差,这个随机变量满足

因此求出在 x 条件下 y 的期望

在实际问题中,如果获得n组样本观测值(x1,y1)...(xn,yn)任何一个样本作为 x 和 y 的子向量,得

称此为 y 关于 x 的一元线性经验回归方程。

在实际问题中还要对参数区间估计和假设检验,所以还要假定varepsilon服从正态分布

由于varepsilon i 是独立同分布的样本,若其服从正态分布,则y也有

以上全部用向量形式表现就有

得到:

所以,我们接下来需要做的就是估计参数beta 0 和beta 1。

参数beta0、beta1的估计

——普通最小二乘法(OLSE)

所以在已知自变量和因变量的观测值时,是可以估测出beta 0和beta1的值,从而建立回归模型。

参数beta0、beta1的估计

——最大似然法(MLE)

由于L的极大化和ln(L)的极大化是等价的,所以取对数似然函数后ln(L)对应的最大值就是普通最小二乘里的最小值,即再进行普通最小二乘计算。

回归方程的显著性检验

01

t 检验

检验统计量 t 表达式为:

(其中 r 为相关系数)

相关系数 r 是总体相关系数的的估计值,取ρ得绝对值有:

ρ

0.3

0.5

0.8

回归系数检验就是检验自变量 x 对因变量 y 的影响程度是否显著。

原假设

H0:beta 1=0(回归系数为0)

对立假设

H1:beta 1 ≠0(回归系数不为0)

P值

02

F 检验

SST:总离差平方和

SSR:回归平方和

SSE:残差平方和

SST=SSR+SSE

检验统计量 F 表达式为:

P值与 t 检验同理。

03

相关系数的显著性检验

简单相关系数(相关系数) r 的表达式:

\hat的符号和r的符号相同

P值同 t 检验假设。

(PS:啊啊啊啊啊,打公式好痛苦,有手写一样方便的数学公式编辑软件吗?现在在用Online LaTeX Equation Editor,所以,我觉得还是很好用的)

第2个個故事

The second story

晚安

愿长夜无梦

End

小胡 图文

Roling In The Deep 音乐

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20180118G0YLCX00?refer=cp_1026

扫码关注云+社区