python – 用重复的条目绘制置信度和预测间隔

2019年7月27日 317次阅读

我有两个变量的相关图,x轴上的预测变量(温度)和y轴上的响应变量(密度).我最适合的最小二乘回归线是二阶多项式.我还想绘制置信度和预测间隔. this回答中描述的方法似乎很完美.但是,我的数据集(n = 2340)重复了许多(x,y)对的条目.我得到的情节看起来像这样：

《python – 用重复的条目绘制置信度和预测间隔》

这是我的相关代码(从上面的链接答案略微修改)：

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from statsmodels.sandbox.regression.predstd import wls_prediction_std
import statsmodels.formula.api as smf    
from statsmodels.stats.outliers_influence import summary_table

d = {'temp': x, 'dens': y}
df = pd.DataFrame(data=d)

x = df.temp
y = df.dens

plt.figure(figsize=(6 * 1.618, 6))
plt.scatter(x,y, s=10, alpha=0.3)
plt.xlabel('temp')
plt.ylabel('density')

# points linearly spaced for predictor variable
x1 = pd.DataFrame({'temp': np.linspace(df.temp.min(), df.temp.max(), 100)})

# 2nd order polynomial
poly_2 = smf.ols(formula='dens ~ 1 + temp + I(temp ** 2.0)',   data=df).fit()

# this correctly plots my single 2nd-order poly best-fit line:
plt.plot(x1.temp, poly_2.predict(x1), 'g-', label='Poly n=2  $R^2$=%.2f' % poly_2.rsquared, 
     alpha=0.9)

prstd, iv_l, iv_u = wls_prediction_std(poly_2)

st, data, ss2 = summary_table(poly_2, alpha=0.05)

fittedvalues = data[:,2]
predict_mean_se  = data[:,3]
predict_mean_ci_low, predict_mean_ci_upp = data[:,4:6].T
predict_ci_low, predict_ci_upp = data[:,6:8].T

# check we got the right things
print np.max(np.abs(poly_2.fittedvalues - fittedvalues))
print np.max(np.abs(iv_l - predict_ci_low))
print np.max(np.abs(iv_u - predict_ci_upp))

plt.plot(x, y, 'o')
plt.plot(x, fittedvalues, '-', lw=2)
plt.plot(x, predict_ci_low, 'r--', lw=2)
plt.plot(x, predict_ci_upp, 'r--', lw=2)
plt.plot(x, predict_mean_ci_low, 'r--', lw=2)
plt.plot(x, predict_mean_ci_upp, 'r--', lw=2)

正如预期的那样,print语句的计算结果为0.0.
但是,我需要单线用于多项式最佳拟合线,以及置信度和预测间隔(而不是我目前在我的图中具有的多条线).有任何想法吗？

更新：
根据@kpie的第一个回答,我根据温度命令了我的置信度和预测间隔数组：

data_intervals = {'temp': x, 'predict_low': predict_ci_low, 'predict_upp': predict_ci_upp, 'conf_low': predict_mean_ci_low, 'conf_high': predict_mean_ci_upp}

df_intervals = pd.DataFrame(data=data_intervals)

df_intervals_sort = df_intervals.sort(columns='temp')

这取得了预期的结果：
《python – 用重复的条目绘制置信度和预测间隔》

最佳答案 您需要根据温度订购预测值.我认为*

因此,为了得到漂亮的曲线,你将不得不使用numpy.polynomial.polynomial.polyfit这将返回一个系数列表.您必须将x和y数据拆分为2个列表,以便它适合函数.

然后,您可以使用以下方式绘制此函

def strPolynomialFromArray(coeffs):
    return("".join([str(k)+"*x**"+str(n)+"+" for n,k in enumerate(coeffs)])[0:-1])

from numpy import *
from matplotlib.pyplot import *
x = linespace(-15,45,300) # your smooth line will be made of 300 smooth pieces
y = exec(strPolynomialFromArray(numpy.polynomial.polynomial.polyfit(xs,ys,degree)))
plt.plot(x , y)

您可以更多地考虑绘制平滑线条here,只记得所有线条都是线性样条曲线,因为连续曲率是不合理的.

我相信多项式拟合是用最小二乘拟合完成的(过程described here)

祝好运！

点赞