一元线性回归分析

虽然我对曾经那些写技术博客的大牛们采用的晦涩的、专业的、云里雾里的描述语言深恶痛绝，但是，真的轮到我写的时候，才发现，他妹的，通俗易懂真不是一般人能办的到的，那不仅需要灰常精深的专业知识，还需要有化腐朽为神奇的文学素养，甚至需要把握不同阶层学者的阅读喜好—-居然还他妹的和心理学有关。。。好难的干活。。。。 小弟后学末进，实在难当重任，没学过专业知识的孩子们，若没看懂别骂我；忘了专业知识的朋友，若没看懂别骂我；若有专业知识的哥们也没看懂，那我只能删了重写了。。。

• 关系
  • 函数关系： 是确定性关系 y=3+10*x
  • 相关关系：是非确定关系
  • 回归分析就是对具有相关关系的两个变量进行统计分析的一种方法
• 相关系数
  • 作用：用来衡量线性相关性的强弱
  • 公式：

  

  • 相关系数越接近1，线性相关性越强。
  • 一元线性回归模型 @ 若X 与Y 之间存在较强的相关关系，则有模型Y ≈ α +βX @ 当求出 α 、β 之后，便可根据模型预测自变量 x 下的 y 的预计。
  • 回归模型参数

  

  • 参数确定
    • 方法原理：最小二乘法
    • 步骤： 使真实值和预测值的误差平方和最小 ，及使得式子 的值最小。
    • 回归模型的假设检验-
    • –到底我们得到的这玩意儿靠不靠谱。尽管从统计性质上已知，如果有足够多的重复抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定就等于该真值。 那么，在一次抽样中，参数的估计值与真值的差异有多大，是否显著，这就需要进一步进行统计检验。
    • 1、拟合优度检验（R2检验）； 2、自变量显著性检验（t检验）； 3、残差标准差检验（SE检验）。

  @拟合优度检验（R2检验）： 对样本回归直线与样本观测值之间拟合程度的检验。度量指标：判定系数R2

  已知由一组样本观测值（Xi,Yi），通过估计得到如下样本回归直线

  

  . 而Y的第i个观测值和样本均值之间的离差

  

  . 离差分解：

  

  

  

  拟合优度检测就是要让“回归线能解释的部分”的平方和占总误差平方和的比重最大。 不过，我想说的是啥叫“可以由回归直线解释”！！！ 好吧，我承认我很丢人的也不太理解。。。于是乎，我想换种说法，

  

  

  就是预测值，即回归线上的值，

  

  就是平方误差， 当平方误差最小时，也就说明拟合方程最优的，这个解释也正好和前面那个蹩脚的解释对上号。

  @自变量显著性检验（t检验）

  • @判断解释变量X是否是被解释变量Y的一个显著性的影响因素。目的是检验Xi是否为Y的自变量。其作用是剔除模型中回归系数不显著的解释变量，使模型更简洁实用。
  • @在一元线性模型中，就是要判断X是否对Y具有显著的线性性影响。这就需要进行变量的显著性检验。
  • 假设检验： 就是事先对总体参数或总体分布形式作出一个假设，然后利用样本信息来判断原假设是否合理，即判断样本信息与原假设是否有显著差异，从而决定是否接受或否定原假设。。方法是先假定原假设正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否接受原假设。。依据是基于“小概率事件是不可能发生”的原理。

  

  

  • 附 统计检验的原理 1、提出原假设: H0：βi =0, i=0,1 2、给定显著水平a（小概率） 3、在H0成立下，收集数据，构造检验用的t统计量， 4、查表得小概率发生的临界值t (a/2 )。 5、将计算结果（t统计量）与临界值比较，若大于临界值，小概率事件发生，根据小概率原理，在一次试验中小概率事件是不会发生的。现在，居然发生了。错在哪里？ 6、原来是假设H0错了，因为一切都是在H0成立下推证的，于是拒绝H0。否则，不拒绝H0.。

  容今后有时间再添加一个具体的实例。写的不好的地方还请批评指正