用R语言对城管事件数据分析

作者:夏尔康

https://ask.hellobi.com/blog/xiaerkang/3975

这次使用主成分分析主要目的并不是降维,而是分析城管数据中的事件类别之间是否存在关系,当然,城管事件类型有好几百,这里就只选取从去年九月到目前发生量前十的事件类别;如下图,排名前十的事件类别依次为,车辆乱停放,乱堆物料堆,非法张贴小广告,店铺出店经营,自备容器外放,违规标语宣传品,机动车乱停放,暴露垃圾,地面不洁,道路不洁。

确定好这十个类别后就是数据的提取了,这时候我们要注意一下数据结构,和数据样本量,为什么呢?因为在主成分分析的时候事件类别只能是属性,也就是说事件类别是一列;这时候看看一下城管数据里面存在的数据结构,数据记录数必须是属性的6~10倍,这时候观察城管数据结构,明显不是我们想要的。

于是写个SQL转换一下数据结构,起的别名没有按照规则来,这是个失误;

这时候就要使用R语言去做分析了,首先是让我们能从数据库里拿数据,所以创建一个数据库链接,安装包RODBC

R语言代码

install.packages("RODBC")
library(RODBC)
jixiao_connect <- odbcConnect("jixiao",uid="jixiao",pwd = "*****",believeNRows=FALSE)

这时候我们就创建了一个数据库连接jixiao_connect,这时候我们就要提取数据

R语言代码

jixiao_data <- sqlQuery(jixiao_connect,"
select 
                        sum(case when t.kind_code_thd='车辆乱停放' then 1 else 0 end) kind_one
                        ,sum(case when t.kind_code_thd='乱堆物堆料' then 1 else 0 end) kind_two
                        ,sum(case when t.kind_code_thd='非法张贴小广告' then 1 else 0 end) kind_three
                        ,sum(case when t.kind_code_thd='店铺出店经营' then 1 else 0 end) kind_code_4
                        ,sum(case when t.kind_code_thd='自备容器外放' then 1 else 0 end) kind_code_5
                        ,sum(case when t.kind_code_thd='违规标语宣传品' then 1 else 0 end) kind_code_6
                        ,sum(case when t.kind_code_thd='机动车乱停放' then 1 else 0 end) kind_code_7
                        ,sum(case when t.kind_code_thd='地面不洁' then 1 else 0 end) kind_code_8
                        ,sum(case when t.kind_code_thd='暴露垃圾' then 1 else 0 end) kind_code_9
                        ,sum(case when t.kind_code_thd='无照经营游商' then 1 else 0 end) kind_code_10  
                        from test_erkang t
                        where t.district_name in ('美兰区','龙华区','秀英区','琼山区')
                        GROUP BY T.DISTRICT_NAME,TO_CHAR(T.REVIEW_FIRST_DATE,'YYYYMM')")
jixiao_data

验证数据是否被提取,说明数据已经提取成功

我们在安装主成分需要用的包

R代码

install.packages("psych")
library(psych)

首先我们要做的是需要确定主成分需要几个,这时候我们就需要cattell碎石检验来确定主成分个数,也就是保留特征值大于1的主成分,因为特征值大于1的主成分能解释较多的方差;

R代码

fa.parallel(jixiao_date,fa='pc',n.iter = 100,show.legend=FALSE)

上图中我们应该选取3个主成分

R代码

pc <- principal(jixiao_date,nfactors=3,rotate = 'varimax')
pc

后面那个是我们选择的主成分旋转的方法,为了主成分之间能更容易的解释,结果如下

PC1列下的系数是和各个事件类别的相关系数,h2列表示成分能够解释方差的多少,u2列表示没法解释解释方差的比例,事件KIND_ONE也就是车辆乱停放,主要相关联的是主成分PC1,相关系数为0.97,PC2和PC3的相关系数分别为0.05,0.07,主成分能够解释车辆乱停放95%的方差,无法被解释的比例为0.055;proportion var 表示解释整个数据集的解释程度,PC2解释变量30%方差,PC1解释变量26%方差,PC3解释变量21%方差,主成分能够解释整个变量77%的方差;

对主成分进行可视化

R代码

fa.diagram(pc)

又上图我们可以知道主成分组成,大致归类为

PC1:无照经营游商,暴露垃圾,车辆乱停放

PC2:乱堆物堆料,非法张贴小广告,自备容器外放,机动车乱停放,地面不洁

PC3:店铺出店经营,违规标语宣传品;

根据业务和个人的推测

我推测PC1所表示的繁华的步行街道成分,PC2表示的是城中村成分,PC3表示的是主干道成分。

建议和小结

1、可以认为乱堆物堆料,非法张贴小广告,自备容器外放,机动车乱停放和地面不洁是一类相关联事件类别,无照经营游商,暴露垃圾和车辆乱停放是一类相关联事件类别,店铺出店经营,违规标语宣传品可以认为是一类相关联的一类事件类型

2、可以认定主要事件来源是来自城中村,主干道,和步行街道;

3、步行街道给的相应的措施可以增加相应的非机动的停车位,划分小贩经营点,增加环卫人员的清扫频率

4、城中村:提高相应的停车规划,集中整治城中村环境卫生

5:、主干道:相应的增加巡查员的巡查频率即可

原文发布于微信公众号 - 大数据挖掘DT数据分析(datadw)

原文发表时间:2016-08-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能头条

雅虎开源CaffeOnSpark:基于Hadoop/Spark的分布式深度学习

1185
来自专栏数据结构与算法

P2038 无线网络发射器选址

题目描述 随着智能手机的日益普及,人们对无线网的需求日益增大。某城市决定对城市内的公共场所覆盖无线网。 假设该城市的布局为由严格平行的129 条东西向街道和12...

3438
来自专栏新智元

玩转谷歌物体识别API,用TensorFlow和OpenCV打造实时识别应用

【新智元导读】谷歌 TensorFlow 的 Object Detection API 刚刚开源, Pivotal Labs 的 Dat Tran 就做出了对象...

50317
来自专栏腾讯开源的专栏

【开源公告】腾讯第三代高性能计算平台Angel 正式全面开源

Angel 项目简介 Angel是一个基于参数服务器(Parameter Server)理念开发的高性能分布式机器学习框架,在其之上,用户能轻松开发适用于高维度...

3907
来自专栏深度学习入门与实践

【原】KMeans与深度学习自编码AutoEncoder结合提高聚类效果

这几天在做用户画像,特征是用户的消费商品的消费金额,原始数据(部分)是这样的: 1 id goods_name goods_amount 2 1 ...

3837
来自专栏AI科技评论

ICML论文 | Facebook分享机器学习研究开源平台代码

正在美国纽约举行的国际机器大会(ICML)上,我们很难忽略 Facebook 研究科学家们的身影——他们呈现三篇论文、主导四场研讨会、并主讲两场教程。其中包括 ...

36511
来自专栏奇点大数据

阿里巴巴最新实践:TVM+TensorFlow优化GPU上的神经机器翻译

本文是阿里巴巴 PAI-Blade 团队发表于 TVM 的最新博文,文中阐述了如何将 TVM 引入 TensorFlow,使 TensorFlow 中的 bat...

3825
来自专栏鹅厂优文

游戏人工智能 读书笔记 (四) AI算法简介——Ad-Hoc 行为编程

本书英文版: Artificial Intelligence and Games - A Springer Textbook

17010
来自专栏新智元

【最大降40%】CPU漏洞补丁对机器学习和深度学习性能影响实测

来源:Medium 作者:Mikel Bober-Irizar 编译:刘小芹 【新智元导读】上周爆出的英特尔CPU漏洞门受到很大关注,Linux内核针对Me...

33310
来自专栏AI研习社

代码+实战:TensorFlow Estimator of Deep CTR —— DeepFM/NFM/AFM/FNN/PNN

深度学习在 ctr 预估领域的应用越来越多,新的模型不断冒出。从 ctr 预估问题看看 f(x) 设计—DNN 篇(https://zhuanlan.zhihu...

1.1K8

扫码关注云+社区