数据分享|R语言分析上海空气质量指数数据:kmean聚类、层次聚类、时间序列分析:arima模型、指数平滑法...

2023-09-14 16:18:33

全文链接:http://tecdat.cn/?p=30131

最近我们被客户要求撰写关于上海空气质量指数的研究报告。本文向大家介绍R语言对上海PM2.5等空气质量数据查看文末了解数据免费获取方式间的相关分析和预测分析,主要内容包括其使用实例,具有一定的参考价值,需要的朋友可以参考一下点击文末“阅读原文”获取完整代码数据)。

相关视频

相关分析(correlation analysis)是研究现象之间是否存在某种依存关系,并对具体有依存关系的现象探讨其相关方向以及相关程度,是研究随机变量之间的相关关系的一种统计方法。分类:

·       线性相关分析:研究两个变量间线性关系的程度,用相关系数r来描述。常用的三种计算方式有Pearson相关系数、Spearman和Kendall相关系数。

·       偏相关分析:当两个变量同时与第三个变量相关时,将第三个变量的影响剔除,只分析另外两个变量之间相关程度的过程。如控制年龄和工作经验的影响,估计工资收入与受教育水平之间的相关关系。

在变量较多的复杂情况下,变量之间的偏相关系数比简单相关系数更加适合于刻画变量之间的相关性。

PM2.5细颗粒物指环境空气中空气动力学当量直径小于等于2.5微米的颗粒物。数据如下:

5c10f4d974372a2253fafd1cb8cd8125.png

它能较长时间悬浮于空气中,其在空气中含量浓度越高,就代表空气污染越严重。与较粗的大气颗粒物相比,PM2.5粒径小,面积大,活性强,易附带有毒、有害物质(例如,重金属、微生物等),且在大气中的停留时间长、输送距离远,因而对人体健康和大气环境质量的影响更大。

pydat2=read.csv("上海市_05.csv",header=T)

pydat3=read.csv("上海市_06.csv",header=T)

 

head(pydat)

head(pydat2)

 

attach(pydat)

 

plot(pydat[,c(8:10)],

     col=质量等级)#画出变量相关图

4c44da7a489d1c92233331af1d991215.png

col=质量等级)#画出变量相关图

a78cb9541968486d4ef9a92ecf7269c6.png

col=质量等级)#画出变量相关图

4d95ff503545812134af5dda400d4998.png

上面的图中不同颜色代表不同的空气质量地区,从所有变量的两两关系散点图来看,可以看到pm2.5和pm10的关系图可以比较好的区分出不同空气质量的地区。并且他们之间存在正相关关系。

对数据进行聚类

plot(hc1,

     main="层次聚类")

 

            border = "red")

d0daa2533e58fd953e6c39d3fe586207.png

对数据进行层次聚类后,根据谱系图可以发现,所有样本大概可以分成5个类别。因此,后续对数据进行kmean聚类。


点击标题查阅往期内容

8366b8c3dddfa25fc3bf2ade896cbb52.jpeg

R语言空气污染数据的地理空间可视化和分析:颗粒物2.5(PM2.5)和空气质量指数(AQI)

outside_default.png

左右滑动查看更多

outside_default.png

01

b85d32cac1c0b20a8c3a6d676e80a45d.png

02

a42772ebbe642e3c27018cb5cb7a0d0e.png

03

4ba0195393d02ad3d7519a72e3f238a7.png

04

4e0155bfb7240bc7362e5039fa34edd8.png

剔除缺失值

plot(pydat[,8:12],

     col =km$cluster,

     main="聚类结果1")

86e6b3b93ce59cdea3727a3b07e8617c.png

main="聚类结果2")

6bffe13370e498a1f4f7497be841ec44.png

main="聚类结果3")

16512c92b534a88b31d352307be04e2b.png

通过kmeans的可视化结果来看,kmeans方法比较好的将所有样本点区分开来,其中绿色的样本点各项指标值较低,红色样本点各项指标值较高,蓝色和黑色样本点主要在O3,NO2 等指标上有较明显的区别。为了具体比较每个类的指标,下面对每个类的数据特征进行描述。

#每个类中的空气质量情况

par(mfrow=c(3,4))

 

boxplot(pydat[,8]~pydat[,23])#聚类结果和pm2.5的关系

28f994f597375d625f56c6f08544ec98.png

从上面的箱线图,可以看到每个类别的特征,第一类O3值较高,第二个类PM2.5的值较高,第三个类pm2.5,NO值较低,第4类O3水平较低,PM10值较高,第五类的各个指标值都相对较低。因此第5个类别空气质量比较好。其他各个类别的地区在不同指标上有不同特征。

par(mfrow=c(2,3))

hist(as.numeric(pydat[km$cluster==1,6]))

aae8b9517ccc2e66e492e338e14585c0.png

再看每个类中空气质量水平的频率,可以看到第一个类的地区空气质量水平大多在良好水平,第二个类地区水平层次不齐,第3个类空气质量水平在4居多,因此空气质量较差,第4个类别2,3居多,因此良好,第5个类大多地区集中在1-3,因此空气质量最好。

unique(pydat[pydat[,23]==5,4])

  unique(pydat[pydat[,23]==1,4])

 [1]                十五厂         虹口           徐汇上师大     杨浦四漂       青浦淀山湖   

 [7] 静安监测站     浦东川沙       浦东新区监测站 浦东张江     

12 Levels:  虹口 静安监测站 美国领事馆 普陀 浦东川沙 浦东新区监测站 浦东张江 ... 杨浦四漂

> unique(pydat[pydat[,23]==2,4])

 [1] 杨浦四漂       浦东新区监测站 徐汇上师大     静安监测站     青浦淀山湖     虹口         

 [7] 十五厂         浦东川沙       浦东张江       普陀                         

12 Levels:  虹口 静安监测站 美国领事馆 普陀 浦东川沙 浦东新区监测站 浦东张江 ... 杨浦四漂

> unique(pydat[pydat[,23]==3,4])

 [1]                十五厂         虹口           徐汇上师大     杨浦四漂       青浦淀山湖   

 [7] 静安监测站     浦东川沙       浦东新区监测站 浦东张江     

12 Levels:  虹口 静安监测站 美国领事馆 普陀 浦东川沙 浦东新区监测站 浦东张江 ... 杨浦四漂

> unique(pydat[pydat[,23]==4,4])

 [1] 虹口           静安监测站     十五厂                        浦东新区监测站 浦东张江     

 [7] 徐汇上师大     青浦淀山湖     杨浦四漂       浦东川沙       普陀         

12 Levels:  虹口 静安监测站 美国领事馆 普陀 浦东川沙 浦东新区监测站 浦东张江 ... 杨浦四漂

> unique(pydat[pydat[,23]==5,4])

[1] 普陀       静安监测站

12 Levels:  虹口 静安监测站 美国领事馆 普陀 浦东川沙 浦东新区监测站 浦东张江 ... 杨浦四漂

时间序列分析

###对AQi值进行时间序列分析

 

plot.ts(mynx1)

指数平滑法

plot.ts(train)

74a076c8bd07f0d0ad204bf909fe0a48.png

plot.ts(mynxSMA3)

fa643304eb747fc34cf29e5a5111b34e.png

plot.ts(mynxSMA10)

6caec185f31bfaa9b984c117be4f11c4.png

对时间序列进行平滑后,可以看到数据有较稳定的波动趋势。

#画出原始时间序列和预测的

plot(mynxforecasts)

mynxforecasts$SSE

8b8e241588cd6e0e113f2726fd2f4766.png

得到红色的拟合数据和黑色的原始数据,可以看到模型拟合较好。

预测

mynxforecasts2

plot.forecast(mynxforecasts2)

lines(mynx1)#原始数据预测对比

ce5f71e13bd3f3a64321a5dfc7e4aa50.png

使用该模型对数据进行拟合,可以看到测试集的数据基本上再预测的置信区间之内。

向后预测90天

mynxforecasts2

plot.forecast(mynxforecasts2)

843e56458f5d8947d979e540c7d8a378.png

然后对未来的数据进行预测额,可以得到预测的区间。

由于后续预测的数值区间较大,因此我们使用arima模型进行拟合,测试效果。

arima模型

plot(pre)#绘制预测数据

prev=train-residuals(fit3)#原始数据

pre$mean#每天的预测均值

lines(prev,col="red")#拟合原始数据

5b948746786f63b114df3ee0b697ee77.png

同样得到拟合和预测的值,红色代表拟合的样本点,黑色代表原始的样本点,后面的代表预测的数据和置信区间,可以看到样本拟合的状况较好,预测的区间比指数平滑法要精确。

数据获取

在公众号后台回复“空气”,可免费获取完整数据。

4437a931f3fd0b867fd5c0bf4e186c6a.jpeg

本文中分析的数据分享到会员群,扫描下面二维码即可加群!

177f48caae1e4c2e35be958c864ec636.png

079a13efc2c6447c51f24660dafe05b4.png

点击文末“阅读原文”

获取全文完整代码数据资料。

本文选自《R语言分析上海空气质量指数数据:kmean聚类、层次聚类、时间序列分析:arima模型、指数平滑法》。

41f9b6f5e5ea1804f68a5c392b167ac3.jpeg

e8495b0c77d5e66c587e53ceb5667902.png

点击标题查阅往期内容

R语言分布滞后非线性模型(DLNM)空气污染研究温度对死亡率影响建模应用

Python中的ARIMA模型、SARIMA模型和SARIMAX模型对时间序列预测

Python用RNN神经网络:LSTM、GRU、回归和ARIMA对COVID19新冠疫情人数时间序列预测

数据分享|PYTHON用ARIMA ,ARIMAX预测商店商品销售需求时间序列数据

Python用RNN神经网络:LSTM、GRU、回归和ARIMA对COVID19新冠疫情人数时间序列预测

【视频】Python用LSTM长短期记忆神经网络对不稳定降雨量时间序列进行预测分析|数据分享

深度学习实现自编码器Autoencoder神经网络异常检测心电图ECG时间序列

spss modeler用决策树神经网络预测ST的股票

Python中TensorFlow的长短期记忆神经网络(LSTM)、指数移动平均法预测股票市场和可视化

RNN循环神经网络 、LSTM长短期记忆网络实现时间序列长期利率预测

结合新冠疫情COVID-19股票价格预测:ARIMA,KNN和神经网络时间序列分析

深度学习:Keras使用神经网络进行简单文本分类分析新闻组数据

用PyTorch机器学习神经网络分类预测银行客户流失模型

PYTHON用LSTM长短期记忆神经网络的参数优化方法预测时间序列洗发水销售数据

Python用Keras神经网络序列模型回归拟合预测、准确度检查和结果可视化

R语言深度学习卷积神经网络 (CNN)对 CIFAR 图像进行分类:训练与结果评估可视化

深度学习:Keras使用神经网络进行简单文本分类分析新闻组数据

Python用LSTM长短期记忆神经网络对不稳定降雨量时间序列进行预测分析

R语言深度学习Keras循环神经网络(RNN)模型预测多输出变量时间序列

R语言KERAS用RNN、双向RNNS递归神经网络、LSTM分析预测温度时间序列、 IMDB电影评分情感

Python用Keras神经网络序列模型回归拟合预测、准确度检查和结果可视化

Python用LSTM长短期记忆神经网络对不稳定降雨量时间序列进行预测分析

R语言中的神经网络预测时间序列:多层感知器(MLP)和极限学习机(ELM)数据分析报告

R语言深度学习:用keras神经网络回归模型预测时间序列数据

Matlab用深度学习长短期记忆(LSTM)神经网络对文本数据进行分类

R语言KERAS深度学习CNN卷积神经网络分类识别手写数字图像数据(MNIST)

MATLAB中用BP神经网络预测人体脂肪百分比数据

Python中用PyTorch机器学习神经网络分类预测银行客户流失模型

R语言实现CNN(卷积神经网络)模型进行回归数据分析

SAS使用鸢尾花(iris)数据集训练人工神经网络(ANN)模型

【视频】R语言实现CNN(卷积神经网络)模型进行回归数据分析

Python使用神经网络进行简单文本分类

R语言用神经网络改进Nelson-Siegel模型拟合收益率曲线分析

R语言基于递归神经网络RNN的温度时间序列预测

R语言神经网络模型预测车辆数量时间序列

R语言中的BP神经网络模型分析学生成绩

matlab使用长短期记忆(LSTM)神经网络对序列数据进行分类

R语言实现拟合神经网络预测和结果可视化

用R语言实现神经网络预测股票实例

使用PYTHON中KERAS的LSTM递归神经网络进行时间序列预测

python用于NLP的seq2seq模型实例:用Keras实现神经网络机器翻译

用于NLP的Python:使用Keras的多标签文本LSTM神经网络分类

8e639ebb86e81d98a934ecabf178cd27.png

aedd82f45d07fa3a8fa388fc6b9b44e2.jpeg

39d971ca58fbe906492bf1b9b76cf140.png

更多推荐

家政小程序源码家政预约小程序独立版,家政上门预约,功能强大

家政服务行业作为一个相对传统的行业,随着互联网的发展迅速,和用户群体的改变,家政服务公司也需要改变一下经营思路了,否则未来很难满足新一代用户群体的个性化需求。核心功能:1、师傅(服务人员)入驻:家政保洁人员可以随时随地在微信小程序上面申请入驻,上传自己的资料,给平台审核。2、顾客下单预约:小区业主可以随时随地在微信小程

Elasticsearch 8.10 中引入查询规则 - query rules

作者:KathleenDeRusso我们很高兴宣布Elasticsearch8.10中的查询规则!查询规则(queryrules)允许你根据正在搜索的查询词或根据作为搜索查询的一部分提供的上下文信息来更改查询。什么是查询规则?查询规则(queryrules)允许自定义搜索相关性之外的搜索结果,这可以根据您提供的上下文信

Jmeter——结合Allure展示测试报告

在平时用jmeter做测试时,生成报告的模板,不是特别好。大家应该也知道allure报告,页面美观。先来看效果图,报告首页,如下所示:报告详情信息,如下所示:运行run.py文件,运行成功,如下所示:接下来来看下实现过程。安装allureallure是开源的,直接到github上下载即可。就不细说了。需要注意的是,环境

Windows 10 + Jenkins 2.4 安装插件时https 的证书问题及解决

本篇面临与解决的问题本篇是在Windows10中安装Jenkins2.414.1,在安装完成之后安装一些需要的插件,可以在浏览器端安装插件的时候,总是不成功,控制台报以下错误:SEVEREh.model.UpdateCenter$DownloadJob#run:Failedtoinstallantisamy-marku

1. PCIE基础入门知识

GT/s是"每秒十亿次传输"时间版本速率2003Pcie1.02.5GT/s2006PCIE2.05GT/s2010PCIE3.08GT/s2017PCIE4.016GT/s高速接口:雷电接口(PCIEx4接口)PCIE接口工作模式:Endpoint和RootPort。Endpoint(终端)指的是PCIe总线中的最终

vue框架实现表情打分效果

本来今天要实现这个功能但是在网上查了一下就csdn上有一个符合要求的但是他竟然收费,痛心疾首啊太伤白嫖党的心的所以我手写了一个这个类似功能的代码希望能帮到有这个需求的同学们技术栈是VUE3用其他技术栈的也可以看因为逻辑很简单都一样的//问卷的虚拟数据constdataInfoList=ref([{id:'0',labe

SkyWalking快速上手(六)——告警

文章目录前言一、什么是SkyWalking的告警功能二、为什么要使用SkyWalking的告警功能1.及时发现异常情况2.提高故障处理效率3.避免数据丢失和损坏4.提升系统性能和稳定性三、如何使用SkyWalking的告警功能1.告警规则2.告警通知3.告警持续时间四、注意事项1、合理设置告警规则和阈值1.1.确定监控

MongoDB的搭建 和crud操作

MongoDBdocker下载dockerrun--restart=always-d--namemongo-v/docker/mongodb/data:/data/db-p27017:27017mongo:4.0.6使用navcat工具使用MongoDBCrud操作jar包<dependency><groupId>or

notepad++配合正则表达式分组模式处理文本转化为sql语句

一、正则分组知识点补充正则分组和捕获():用于分组和捕获子表达式。大白话就是()匹配到的数据,通过美元符号加下标可以获取该数据,例如$1、$2,下标从1开始。下面的案例就采用该模式处理文本数据二、使用正则的需求背景有一份报表的数据,需要把数据入库到mysql数据库,因为数据很多,不可能手动一个一个转,这里采用正则表达式

Python基础

Python简介1.Python是一个高层次的结合了解释性、编译性、互动性和面向对象的脚本语言。2.Python的设计具有很强的可读性,相比其他语言经常使用英文关键字,其他语言的一些标点符号,它具有比其他语言更有特色语法结构。Python是一种解释型语言:这意味着开发过程中没有了编译这个环节。类似于PHP和Perl语言

【绝㊙️】三年开发内功心得

经典嵌套if-else问题这个也是老生常谈问题了,不管哪里都能看到。那如何解决方法一(重要):如果逻辑分支过多,即使你不解决嵌套if-slse,至少也要把每个if的{}里的逻辑抽到一个独立的方法或者工具类或者策略模式类,保证{}里只有一行或者简单几行代码,保证住流程的清晰,比如:Obejctdata=null;if(n

热文推荐