Python 中进行线性回归

  在处理数据时,经常会用到数据拟合,其中最常用的应当是线性回归。本文整理了Python中一些常见的进行线性回归的方法。

使用 numpy 进行多项式拟合

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
from __future__ import division
import numpy as np

d1=[1,2,3,4,5,6]
d2=[1.9,3.3,4.3,4.8,5.8,7.1]

X=np.array(d2)
Y=np.array(d1)

z1 = np.polyfit(X,Y, deg=1) #最高次幂为 1,相当于线性拟合
p1 = np.poly1d(z1)
print(z1) #多项式系数
print(p1) #多项式方程
p1(X) #代入求值

plt.plot(X,marker='o',label='X')
plt.plot(Y,marker='o',label='Y')
plt.plot(p1(X),marker='o',label='Z')
plt.legend()

使用 statsmodels 进行多项式拟合

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
from __future__ import division
import numpy as np

import statsmodels.api as sm
import statsmodels.formula.api as smf

d1=[1,2,3,4,5,6]
d2=[1.9,3.3,4.3,4.8,5.8,7.1]

X=np.array(d2)
Y=np.array(d1)

# Construct the columns for the different powers of x
# xpoly 的列数(即 k 值)表示多项式最高项的次数
k=1
xpoly = np.column_stack([X**i for i in range(k+1)])
regr = sm.OLS(Y, xpoly).fit()
print(regr.summary()) # 会详细列出拟合的结果
regr.params # 拟合得到的系数
regr.fittedvalues # 拟合得到的 Yhat 值
regr.predict(xpoly) # 带入求值
regr.rsquared # 返回 rsquared

plt.plot(regr.predict(xpoly),marker='o',label='Z1')
plt.legend()

使用 scipy 进行一次多项式拟合

1
2
3
4
5
6
7
8
9
10
11
from __future__ import division
import numpy as np
from scipy import stats

d1=[1,2,3,4,5,6]
d2=[1.9,3.3,4.3,4.8,5.8,7.1]

X=np.array(d2)
Y=np.array(d1)

slope, intercept, r_value, p_value, std_err = stats.linregress(X, Y)

决定系数

  统计学中,决定系数(Coefficient of determination)表示为$R^2$或者$r^2$发音为”R squared”,可定义为已被模式中全部自变量说明的自变量的变差对自变量总变差的比值。

定义

  数据集中包含 n 个观测值$y_1,…,y_n$,与之对应的预测值为${\widehat {y}}_1,…,{\widehat {y}}_n$,使用$\bar{y}$表示观测值的平均值:

则:

  • The total sum of squares (proportional to the variance of the data):

  • The sum of squares of residuals, also called the residual sum of squares:

对应的决定系数的最普遍的定义为

对应的 Python 计算公式

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
from __future__ import division
import numpy as np

def get_r2_numpy(x, y):
slope, intercept = np.polyfit(x, y, 1)
yhat = slope * x + intercept
r_squared = 1 - (sum((y - yhat)**2) / ((len(y) - 1) * np.var(y, ddof=1))) # np.var() 表示方差
return r_squared

d1=[1,2,3,4,5,6]
d2=[1.9,3.3,4.3,4.8,5.8,7.1]

x=np.array(d2)
y=np.array(d1)
get_r2_numpy(x, y)

相关系数

  相关系数(correlation coefficient)是表示变量之间线性相关程度的量,一般用字母 r 表示,具有不同的定义方式,常见的为 Pearson product-moment correlation coefficient 和 Spearman’s rank correlation coefficient。

皮尔逊相关系数的定义

式中$\operatorname {cov}$表示协方差,${\sigma {X}}$和${\sigma {Y}}$分别表示X和Y的标准差,由标准差和协方差的定义:

皮尔逊相关系数也可以写为:

Python 中直接计算皮尔逊相关系数:

1
2
3
4
5
6
7
8
9
10
from __future__ import division
import numpy as np

d1=[1,2,3,4,5,6]
d2=[1.9,3.3,4.3,4.8,5.8,7.1]

x=np.array(d2)
y=np.array(d1)

rp = np.corrcoef(x, y)[0, 1]

  由上可知,对于最高项次数为1的线性回归,其决定系数等于 x, y 相关系数的平方;对于其它拟合,起决定系数等于 ${\widehat {y}}$, y 相关系数的平方。


Refs: