数学 · 统计

简单线性回归

Simple Linear Regression

约 30 分钟 · v1

简单线性回归

math/linear-regression · MATH2099
0 / 3

1 用一条线,从 x 预测 y

复习时间越长,分数越高;广告投得越多,销量越大。简单线性回归就是找一条最能描述这种关系的直线,用一个变量 x 去预测另一个 y。它和上一节的最小二乘是同一件事——只是这里更关心"怎么解读这条线、它靠不靠谱"。

模型 y = β₀ + β₁x + ε:β₀ 是截距,β₁ 是斜率,ε 是没被解释的随机误差。用最小二乘估出 β₀、β₁,得到预测线 ŷ = b₀ + b₁x。

回归 = "在散点里穿一条最佳趋势线"。穿好之后,给一个新的 x 就能读出预测的 ŷ。但预测好不好,要看数据是不是真的沿线分布。

2 斜率和截距,分别在说什么

斜率 b₁ = 变化率
x 每增加 1 个单位,y 平均变化 b₁。广告每多花 1 万,销量平均多 b₁ 件。斜率是回归里最有用的数字——它量化了"影响有多大"。
截距 b₀ = x=0 时的 y
直线与 y 轴的交点,即"x 为 0 时预测的 y"。有时有现实意义(0 广告时的基础销量),有时只是数学落点(x=0 超出数据范围就别硬解读)。
和相关系数同源
斜率符号与相关系数 r 一致:r>0 正相关(线上升)、r<0 负相关(线下降)。而 R² = r²,见下一节。

3 R²:这条线到底解释了多少

同样一条拟合线,点贴得紧还是散成一团,天差地别。R²(判定系数)衡量"y 的变化里,有多少能被 x 解释",取值 0~1:接近 1 = 点紧贴线、预测可靠;接近 0 = 一团云、这条线没啥用。拖噪声滑块看 R² 怎么崩。

回归拟合 & R²

5.0
拟合线 ŷ = —R² = —预测 ŷ = —

4 三个不能不知的警示

回归很强大,但最容易被滥用。记住这三条,少踩 90% 的坑:

相关 ≠ 因果
冰淇淋销量和溺水人数高度相关,但吃冰淇淋不会淹死人——背后是"夏天"这个共同原因。回归能说"一起变",不能直接说"谁导致谁"。
外推有风险
在数据范围内预测才靠谱。把"1~5 小时学习"的线外推到 50 小时预测满分,纯属空想——关系在远处可能根本不再是直线。
离群点有杠杆
一个远离群体的点(尤其 x 极端)能把整条线撬歪。拟合前务必画散点图,别让一个异常点绑架结论。
R² 高 ≠ 模型对。R² 只说"线性关系解释了多少方差",不保证关系真是线性、不保证有因果、也可能被离群点抬高。永远先看散点图和残差,再下结论。

5 试三道(先想,再点)

三道题,点选项即时判;答题进度显示在右侧目录。

一句话带走:

简单线性回归用 ŷ=b₀+b₁x 从 x 预测 y,系数由最小二乘估出。斜率 b₁ = x 每增 1、y 平均变化多少(最有用);截距 b₀ = x=0 时的预测值。R²∈[0,1] = y 的变化被 x 解释的比例,越高越贴线。三大警示:相关≠因果、别外推、防离群点;R² 高也不等于模型正确,务必先看散点图。