KureiSersen site

一元线性回归

· Edwin.Liang

$$ f(x) = wx + b $$

特点

  1. 模型表达式: $$ f(x) = wx + b $$

适用范围

  1. 求解数据具有连续的特征,比如身高从低到高,此时应使用 $$ f(x) = w_1 x_1 + b $$

  2. 在上式基础上加入二值离散特征【颜值】(美:1,丑:0) $$ f(x)=w_1x_1+w_2x_2+b $$

    1. 此时$w_1x_1$项表示身高,$w_2x_2$​表示颜值
  3. 在上式的基础上加入有序的多值离散特征【饭量】(小:1,中:2,大:3) $$ f(x)=w_1x_1 +w_2x_2+w_3x_3+b $$

    1. 此时$w_1x_1$项表示身高,$w_2x_2$表示颜值,$w_3x_3$表示饭量
  4. 在上式的基础上加入无序的多值离散特征【肤色】(黄:[1,0,0],黑:[0,1,0],白:[0,0,1]) $$ f(x)=w_1x_1 +w_2x_2+w_3x_3+w_4x_4+w_5x_5+w_6x_6+b $$

    1. 此时$w_1x_1$项表示身高,$w_2x_2$表示颜值,$w_3x_3$表示饭量。当肤色为黄色时,$x_4$,$x_5$,$x_6$代入值[1,0,0]

求解方法

  1. 最小二乘法估计
  2. 极大似然估计