用R语言对城管事件数据分析

作者:夏尔康

https://ask.hellobi.com/blog/xiaerkang/3975

这次使用主成分分析主要目的并不是降维,而是分析城管数据中的事件类别之间是否存在关系,当然,城管事件类型有好几百,这里就只选取从去年九月到目前发生量前十的事件类别;如下图,排名前十的事件类别依次为,车辆乱停放,乱堆物料堆,非法张贴小广告,店铺出店经营,自备容器外放,违规标语宣传品,机动车乱停放,暴露垃圾,地面不洁,道路不洁。

确定好这十个类别后就是数据的提取了,这时候我们要注意一下数据结构,和数据样本量,为什么呢?因为在主成分分析的时候事件类别只能是属性,也就是说事件类别是一列;这时候看看一下城管数据里面存在的数据结构,数据记录数必须是属性的6~10倍,这时候观察城管数据结构,明显不是我们想要的。

于是写个SQL转换一下数据结构,起的别名没有按照规则来,这是个失误;

这时候就要使用R语言去做分析了,首先是让我们能从数据库里拿数据,所以创建一个数据库链接,安装包RODBC

R语言代码

install.packages("RODBC")
library(RODBC)
jixiao_connect <- odbcConnect("jixiao",uid="jixiao",pwd = "*****",believeNRows=FALSE)

这时候我们就创建了一个数据库连接jixiao_connect,这时候我们就要提取数据

R语言代码

jixiao_data <- sqlQuery(jixiao_connect,"
select 
                        sum(case when t.kind_code_thd='车辆乱停放' then 1 else 0 end) kind_one
                        ,sum(case when t.kind_code_thd='乱堆物堆料' then 1 else 0 end) kind_two
                        ,sum(case when t.kind_code_thd='非法张贴小广告' then 1 else 0 end) kind_three
                        ,sum(case when t.kind_code_thd='店铺出店经营' then 1 else 0 end) kind_code_4
                        ,sum(case when t.kind_code_thd='自备容器外放' then 1 else 0 end) kind_code_5
                        ,sum(case when t.kind_code_thd='违规标语宣传品' then 1 else 0 end) kind_code_6
                        ,sum(case when t.kind_code_thd='机动车乱停放' then 1 else 0 end) kind_code_7
                        ,sum(case when t.kind_code_thd='地面不洁' then 1 else 0 end) kind_code_8
                        ,sum(case when t.kind_code_thd='暴露垃圾' then 1 else 0 end) kind_code_9
                        ,sum(case when t.kind_code_thd='无照经营游商' then 1 else 0 end) kind_code_10  
                        from test_erkang t
                        where t.district_name in ('美兰区','龙华区','秀英区','琼山区')
                        GROUP BY T.DISTRICT_NAME,TO_CHAR(T.REVIEW_FIRST_DATE,'YYYYMM')")
jixiao_data

验证数据是否被提取,说明数据已经提取成功

我们在安装主成分需要用的包

R代码

install.packages("psych")
library(psych)

首先我们要做的是需要确定主成分需要几个,这时候我们就需要cattell碎石检验来确定主成分个数,也就是保留特征值大于1的主成分,因为特征值大于1的主成分能解释较多的方差;

R代码

fa.parallel(jixiao_date,fa='pc',n.iter = 100,show.legend=FALSE)

上图中我们应该选取3个主成分

R代码

pc <- principal(jixiao_date,nfactors=3,rotate = 'varimax')
pc

后面那个是我们选择的主成分旋转的方法,为了主成分之间能更容易的解释,结果如下

PC1列下的系数是和各个事件类别的相关系数,h2列表示成分能够解释方差的多少,u2列表示没法解释解释方差的比例,事件KIND_ONE也就是车辆乱停放,主要相关联的是主成分PC1,相关系数为0.97,PC2和PC3的相关系数分别为0.05,0.07,主成分能够解释车辆乱停放95%的方差,无法被解释的比例为0.055;proportion var 表示解释整个数据集的解释程度,PC2解释变量30%方差,PC1解释变量26%方差,PC3解释变量21%方差,主成分能够解释整个变量77%的方差;

对主成分进行可视化

R代码

fa.diagram(pc)

又上图我们可以知道主成分组成,大致归类为

PC1:无照经营游商,暴露垃圾,车辆乱停放

PC2:乱堆物堆料,非法张贴小广告,自备容器外放,机动车乱停放,地面不洁

PC3:店铺出店经营,违规标语宣传品;

根据业务和个人的推测

我推测PC1所表示的繁华的步行街道成分,PC2表示的是城中村成分,PC3表示的是主干道成分。

建议和小结

1、可以认为乱堆物堆料,非法张贴小广告,自备容器外放,机动车乱停放和地面不洁是一类相关联事件类别,无照经营游商,暴露垃圾和车辆乱停放是一类相关联事件类别,店铺出店经营,违规标语宣传品可以认为是一类相关联的一类事件类型

2、可以认定主要事件来源是来自城中村,主干道,和步行街道;

3、步行街道给的相应的措施可以增加相应的非机动的停车位,划分小贩经营点,增加环卫人员的清扫频率

4、城中村:提高相应的停车规划,集中整治城中村环境卫生

5:、主干道:相应的增加巡查员的巡查频率即可

原文发布于微信公众号 - 大数据挖掘DT数据分析(datadw)

原文发表时间:2016-08-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据挖掘DT机器学习

机器学习该怎么入门?

机器学习该怎么入门? 本人大学本科,对机器学习很感兴趣,想从事这方面的研究。在网上看到机器学习有一些经典书如Bishop的PRML, Tom Mitchell的...

28010
来自专栏灯塔大数据

探秘 | Python 求职 Top10 城市,来看看是否有你所在的城市

导读:从智联招聘爬取相关信息后,我们关心的是如何对内容进行分析,获取用用的信息。本次以上篇文章“5分钟掌握智联招聘网站爬取并保存到MongoDB数据库”中爬取的...

2993
来自专栏大数据挖掘DT机器学习

用pandas 进行投资分析

让我们进行一个常见的分析,您可能自己就可以完成这个分析。假设您想分析股票绩效,那么您可以: 在 Yahoo 金融专区找一支股票。 下载历史数据,保存为 CSV ...

2935
来自专栏思影科技

《大话脑成像》系列之五——fMRI中的FDR校正

佩大神说他一百万美元不要了,都要关注思影科技! 当我们招完被试(求爷爷拜奶奶,四处张贴小广告),收完数据(每天晚上拖着疲倦的身体扫被试到凌晨),做完预处理,统计...

3876
来自专栏about云

使用Spark MLlib给豆瓣用户推荐电影

问题导读: 1.常用的推荐算法有哪些? 2.推荐系统是什么样的流程? 3.从这个推荐系统我们能学到什么? 推荐算法就是利用用户的一些行为,通过一些数学算法,推测...

6957
来自专栏落影的专栏

音视频知识小结

前言 总结的一些音视频相关的知识,文末总结有传送门。 概念 协议层(Protocol Layer):该层处理的数据为符合特定流媒体协议规范的数据,例如ht...

4386

利用基因突变和K均值预测地区种群

这是一篇关于西北基因组中心的Deborah Siegel和华盛顿大学联合Databricks的Denny Lee,就ADAM和Spark基因组变异分析方面的合作...

25610
来自专栏PPV课数据科学社区

如何用R语言对城管事件数据分析?

这次使用主成分分析主要目的并不是降维,而是分析城管数据中的事件类别之间是否存在关系,当然,城管事件类型有好几百,这里就只选取从去年九月到目前发生量前十的事件类别...

3418
来自专栏有趣的Python

TensorFlow应用实战-6-AI作曲环境搭建读作sharp,是音乐里的升音符号,在sharp前面的这个音去升高一个半音。

用TensorFlow开发会作曲的AI 背景和知识点介绍 人工智能的不断火热。 Google的Magenta(洋红色)项目 ? mark https://mag...

4849
来自专栏阿凯的Excel

统计函数与通配符相爱,不是意外!

首插入音乐,功放党请慎点。 海鸟跟鱼相爱,只是一场意外! 但是统计函数和通配符相爱,却是一种必然! 统计函数何许人也:Sumif、Countif、Average...

3036

扫码关注云+社区