学习
实践
活动
专区
工具
TVP
写文章

JuiceFS 在搜车数据平台的实践

搜车已经搭建起比较完整的汽车产业互联网协同生态。 在这一生态中,不仅涵盖了搜车已经数字化的全国 90% 中大型二手车商、9000+ 家 4S 店和 70000+ 家新车二网,还包括搜车旗下车易拍、车行168、运车管家、布雷克索等具备较强产业链服务能力的公司 , 与搜车在新零售解决方案上达成深度战略合作的长城汽车、长安汽车、英菲尼迪等主机厂商,以及与中石油昆仑好客等产业链上下游的合作伙伴。 基于这样的生态布局,搜车数字化了汽车流通链条上的每个环节,进而为整个行业赋能。 说到大数据,对于每个公司都不陌生。 大数据集群现状 搜车目前大数据集群分为离线计算集群和实时计算集群,离线计算基于 Hive 和 Spark,实时计算基于 Flink,这两类集群分别基于 HDP 和 CDH 两套管理方式。

50450
  • 广告
    关闭

    【限时特惠】腾讯云大数据产品,爆品秒杀1折起!

    移动推送、BI、云数仓Doris、ES、数据湖DLC、WeData、流计算Oceanus,多款产品助您高效挖掘数据潜力,提升数据生产力!

  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    航业信息化发展新趋势:向智慧化、平台化和融合化方向发展

    在物联网、大数据、云计算、人工智能、卫星通信等新一代技术不断涌现的当下,航业信息化发展的也呈现出新的趋势。 由数据中心融合多维数据分析后,从优化调度、科学保养、节能减排、预防拥堵等多个方面自主管理,体现出由知识系统代替人进行关键决策的特点,这个阶段将会成为“智慧”。 、码头网、泛亚电商、一海通、金马云、海空网、航运城、掌柜、货代助手、九爪鱼、神海航运、海商通、找船网、舱位宝、海运订舱网、超级船东、长江汇、CargoSmart等。 2016年,以“互联网+港口”为目标的港口业务模式创新平台在中国也已突破10家,包括上海港“1通”、宁波舟山“易步通”、天津“电子商务网”、青岛“物流电商平台”、大连港“蓝迈”、营口”等 、义为、船达通(龙船)、i跟踪、箱讯、第e物流、海运圈商务网和航大数据实验室等一批大数据创新平台

    1.9K00

    数据调度平台分类对比(OozieAzkabanAirFlowXXL-JobDolphinScheduler)

    数据调度系统,是整个离线批处理任务和准实时计算计算任务的驱动器。这里我把几个常见的调度系统做了一下分类总结和对比。 XXL-Job XXL-JOB是一个开源的,具有丰富的任务管理功能以及高性能,高可用等特点的轻量级分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展、开箱即用。 Apache DolphinScheduler是一个分布式、去中心化、易扩展的可视化DAG工作流任务调度系统,其致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。 类型支持 支持传统的shell任务,同时支持大数据平台任务调度:MR、Spark、SQL(mysql、postgresql、hive/sparksql)、python、procedure、sub_process 可以通过对用户进行资源、项目、数据源的访问授权。支持,可视化管理文件,及相关udf函数等。

    2.3K20

    快DKH大数据基础数据平台的监控参数说明

    2018年国内大数据公司50强榜单排名已经公布了出来,快以黑马之姿闯入50强,并摘得多项桂冠。Hanlp自然语言处理技术也荣膺了“2018中国数据星技术”奖。对这份榜单感兴趣的可以找一下看看。 本篇承接上一篇《DKM平台监控参数说明》,继续就快的大数据一体化处理架构中的平台监控参数进行介绍和说明。 DKhadoop大数据处理平台架构的安装相关文章已经分享过,详细的内容可以找一下看看。 今天就把剩下的一些监控参数一起介绍完,关于快大数据处理平台监控参数的介绍就完整了。 kill的应用程序 图片6.png 监控 yarn资源管理中被杀死的应用程序数量 纵轴表示应用程序数量,单位个 横轴表示时间,单位分钟 2、Spark监控界面 注意:(spark 运行任务后才有监控数据

    48020

    解决异构系统集成难题,富银行这样做

    背景介绍 富银⾏是⼀家⽴⾜于⾹,⾯向全球业务的虚拟银⾏,创立以来先后斩获 2021年-杰出虚拟银行服务大奖、2022年-[领航9+2粤港澳湾区奖项]粤港澳湾区最佳银行 等荣誉。 富银⾏以⼤数据、云计算等技术为驱动,为用户提供存款、贷款、转账、理财、营销等⼀站式的⾦服务。 富银行的核⼼系统是处理银⾏业务存款、贷款和中间件业务等最基本业务的IT系统。 解决方案:集成北极星,提高效能 接入方式和版本选择 北极星社区提供多种数据面,能够很好地兼容现在主流的技术栈,目前富银行核心系统使用的是 Spring Cloud Tencent、Spring Boot 系统集成 传输协议强制使⽤https,⼀来保证云上数据安全,⼆来在⽆论⽹络策略多复杂,https是主流协议,不受影响。 使⽤OpenFegin组件统⼀接⼝外调、⽇志打印、脱敏和签名。 改造结果如下: 挑战二:容灾机制依赖内部负载服务,手段单⼀ ⾹银⾏同业结算有限公司(HKICL)要求所有接⼊转数快(FPS)的⾦机构实现MQ队列的⾃动容灾。

    25830

    ToB月报|7月融资金额超37亿;早期项目(A轮前)占比超六成

    其中,国内企业服务领域共发生62起投融资事件,占总投融资数量的 12.8%,总数量较6月58起环比增加6.8%,总融资金额为37.82亿+人民币,较6月56.5亿+环比减少33.1%。 金融壹账通成立于2015年12月,是平安集团下面的金融科技服务云平台,其基于人工智能、区块链、大数据分析等科技技术,为中小金融机构提供科技驱动的业务解决方案。 会上,轻流基于企业数字化需求理解与洞察,以无代码为依托,推出全新All-in-One应用开发平台。并联合国际数据公司IDC,深度研究“圆桌式开发”协作理念,打造更全面的企业级业务系统与服务。 《打造All-in-One应用开发平台,轻流树立无代码行业标杆》 2022火山引擎FORCE原动力大会:发布六行业增长解决方案,探索数字化新动力 7月20日,2022火山引擎FORCE原动力大会在京举办 其中,阿里云智能全球销售总裁蔡英华发表了“坚持伙伴优先”主题演讲,并宣布将产业智能OpenTrek的行业数据平台能力、行业智能引擎能力全面向伙伴开放,与ISV、SI伙伴共同服务产业。

    16610

    美国大数据智能理财平台的5模式

    不过,世易时移,近年来美国出现了智能投资市场,涌现出很多基于大数据分析的智能理财平台,大大降低了财富管理的门槛,让原先处于“服务真空区”的中产阶级也能享受同等的财富管理服务。 ? 智能理财平台为什么会成功? 现在看来,有两因素促成了这些智能理财平台的成功。 首先,ETF基金的出现大大降低了投资成本。 第1种:基于大数据分析给出投资建议 这种类型的平台根据客户在其他理财交易平台的行为数据,全面了解客户的财务状况和投资现状,帮助客户对过去的投资决策做出回顾。 这种模式利用大数据分析技术,让客户在咨询投资顾问之外,有了另一种渠道可以获取投资顾问提供的服务,比如分析需求、解读投资报告和调整投资方案等。 第2种:基于大数据分析购买投资组合 这种类型的平台基于客户的财务状况和风险承受能力,为客户推荐或购买相应的交易型指数基金。 ETF成为这类型平台的首选基金,因为它的周转率低,降低了交易成本。

    78060

    中通大数据平台促中的进化

    而经过这些年的发展,促早已不仅仅局限于电商行业,现在各行各业其实都会采用类似方式做运营活动,汽车界有 818,电商有 618 、11.11 等等,各种各样的促场景,对包括数据库在内的基础软件提出了很多新挑战 整个快递的生命周期、转运周期可以用五个字来概括——收、发、到、派、签: [在这里插入图片描述] 而支撑整个快递生命周期的平台就是中通大数据平台。 中通从离线到实时的数据兼容再到数仓,有着一套比较完善的大数据平台体系。 ETL 建模也会依托该大数据平台,最终通过大数据平台对外提供数据应用的支持以及基于离线 OLAP 分析的支持,整个数据建模的频率可以支持到半小时级别。 在这个完善的大数据平台基础上,中通开始更多地思考如何增强实时多维分析能力。 [在这里插入图片描述] 中通与 TiDB 的结缘是在 2017 年调研分库分表场景时开始的。

    49740

    5架构:细数数据平台的组成与扩展

    数据处理平台已不集中于传统关系型数据库,各种其他平台层出不穷,也各有其适用范围。 从哪些角度去理解各种数据处理平台的设计思想及发展演进呢? 这种方式有一个弊端是存储的数据量受限于内存的大小,数据量一,索引也增大,数据就饱和了。 2)第二种方式是把的索引结构,拆成很多小的索引来存储。 列式存储尤其适用于表扫描,求均值、最大最小值、分组等聚合查询场景。 列式存储在MPP数据库里面应用广泛,例如RedShift、Vertica及hadoop上的Parquet等。这种结构适合需要表扫描的数据处理问题,数据聚合类操作(最大最小值)更是他的主战场。 列式存储特别适合需要加载数据块,且数据块分到多个文件中的场景。Druid把一些近线实时数据放到写优化的存储中,然后随着时间的推移逐步把这些数据迁移到读优化的存储中。

    69480

    主流大数据采集平台架构分析

    今天为大家介绍几款数据采集平台: Apache Flume Fluentd Logstash Chukwa Scribe Splunk Forwarder 大数据平台数据采集 任何完整的大数据平台,一般包括以下的几个过程 在商业化的大数据平台产品中,Splunk提供完整的数据采金,数据存储,数据分析和处理,以及数据展现的能力。 Splunk是一个分布式的机器数据平台,主要有三个角色: Search Head负责数据的搜索和处理,提供搜索时的信息抽取。 在Splunk提供的软件仓库里有很多成熟的数据采集应用,例如数据库(DBConnect)等等,可以方便的从云或者是数据库中获取数据进入Splunk的数据平台做分析。 总结 我们简单讨论了几种流行的数据收集平台,它们大都提供高可靠和高扩展的数据收集。大多平台都抽象出了输入,输出和中间的缓冲的架构。利用分布式的网络连接,大多数平台都能实现一定程度的扩展性和高可靠性。

    2.2K20

    勿谈,且看Bloomberg的中数据处理平台

    时至今日,高核心数、SSD以及海量内存已并不稀奇,但是当下的大数据平台(通过搭建商用服务器集群)却并不能完全利用这些硬件的优势,存在的挑战也不可谓不大。 但是这里仍然存在一个非常的缺点,在任何给定时间,到给定region的读写操作只被一个region服务器控制。如果这个region挂掉,故障将会被发现,故障转移会自动的进行。 通过使用开源平台,我们认真思索来自多个提供商的意见,在中型数据处理上,我们可以看到很大的发展空间。 更重要的是,我们的收获不只是性能一个特性,我们更可以通过开源技术连接到一个更广泛的发展空间。 使用HBase,用户可以在的Portfolio文件上做拆分,并且分配到集群中的多个主机上进行处理。 这就意味着,Java当下已经成为很多高fan out计算系统的基础,其中包括Hadoop、HBase、Spark、SOLR等,同步进行垃圾回收将解决非常的问题。

    96860

    箱讯ANYCASE智慧物流3.0焕新上线!打造“数字金融”全新国际物流模式

    并且通过连接升级,线上连通客户自有供应商,建立询价出货、财务结算、供应商管理三数字化闭环,打造一站式国际物流企业供应商管控智能平台。 从船期选择、航线天数到直航、船司...客户只需输入起始、目的、日期,平台利用大数据测算、智能分析快速匹配多套高效高性价比的物流推荐方案,在确保信息和服务专业性的同时,即时为您匹配最佳物流方案。 箱讯“鲸”已经先后为众多外贸、物流企业提供服务,帮助企业摆脱由账期差带来的运费垫付压力,解决融资难融资贵问题,使其能够专注于拓展核心业务。 图片除了箱讯“鲸”服务,ANYCASE平台提供风控尽调、船期查询、空运查询、货车定位、船舶定位、数据发送等丰富多样的智能化物流工具(鲸具)切实帮助进出口企业降低成本,提高工作效率和质量! 图片端到端可视化箱讯科技通过大数据、互联网的技术与传统物流深度融合,与船公司、堆场、海关、码头等平台实现数据对接,打通全链路数据节点,以及电子围栏技术的应用,帮助客户快速掌控货物运输状态,实现履约过程、

    26950

    深度解析快DKM大数据运维管理平台功能

    深度解析快DKM大数据运维管理平台功能 之前几周的时间一直是在围绕DKhadoop的运行环境搭建写分享,有一些朋友留言索要了dkhadoop安装包,不知道有没有去下载安装一探究竟。 关于DKHadoop下载安装基本已经讲清楚了,这几天有点空闲把快DKM大数据运维管理平台的内容整理了一些,作为DKHadoop相配套的管理平台,是有必要对DKM有所了解的。 DKM 是DKHadoop管理平台。作为大数据平台端到端Apache Hadoop 的管理应用,DKM 对 DKH 的每个部件都提供了细粒度的可视化和控制。 DKM 设计的目的是为了使得对于企业数据中心的管理变得简单和直观。通过DKM ,可以方便地部署,并且集中式的操作完整的大数据软件栈。该应用软件会自动化安装过程,从而减少了部署集群的时间。 2.提供实时的集群概况,例如节点,服务的运行状况; 3.提供了集中的中央控制台对集群的配置进行更改; 4.包含全面的报告和诊断工具,帮助优化性能和利用率; 基本功能:DKM的基本功能主要可以分为四模块

    80450

    从0到1设计通用数据屏搭建平台

    相比于传统手工定制的图表与数据仪表盘,通用屏搭建平台的出现,可以解决定制开发, 数据分散带来的应用开发、数据维护成本高等问题,通过数据采集、清洗、分析到直观实时的数据可视化展现,能够多方位、多角度、全景展现各项指标 本文将通过敏捷BI平台的通用屏搭建能力的实现方案,来讲解一下通用可视化搭建平台整体的设计思路。 画布编辑器:是搭建平台的核心与难点,支持页面布局配置、页面交互配置和组件数据配置等功能,另外还支持代码片段的配置,也可以称得上是一个低代码平台。 五、效果预览六、总结本文通过可视化页面搭建、no/low code 平台、Schema 动态表单等技术思想来分析讲解了如何去设计开发一个通用的数据屏搭建平台。 如果想实现更富有展现力, 满足更多场景的屏搭建平台, 我们还需要进一步提高平台的扩展性和完善整体的物料生态, 具体规划如下:丰富和拓展屏组件&配置能力,覆盖不同行业的可视化场景。

    55040

    刷论文老是忘记内容,这样看下去有意义吗?

    以下爆文,点击即可查看: 《香港码头空了:鸦片养大的世界第一,一艘船都没了》 《南阳:烂尾楼之城》 《大厂里的数据奴隶》 《日落宁波》 《何炅收金条背后:腐败的国产综艺,明目张胆的贿赂》 推荐理由 ▲长按上方二维码识别关注 中财经 ID:thecapital 中财经是《融资中国》杂志官方微信,杂志创刊于2006年12月,是中国最早专注股权投资报道的财经新闻月刊。 来自财经专业平面媒体的深度特写文章,关注「中财经」即可查看阅读: 《日化界的鸿星尔克来了! ;  火热的电商热潮背后也有乱象丛生,商家、平台、消费者各自扮演的角色有何变化,又因何改变?请看《双十一,谁在“割韭菜”?》。 在熟悉的生活中能开启深度思考的时刻,无疑是一种幸运。 当年轻创业者短短数年成就近百亿公司,你一定也想认识一下他《97年的麻省理工辍学青年,五年成就73亿美元独角兽》; 有成功就有失败,有时候巨头的倒下令人唏嘘《独角兽Katerra破产:梦想庇天下寒士

    10610

    腾讯数据平台部总监刘煜宏:这5产品平台,展示了腾讯大数据的核心能力

    腾讯技术工程事业群数据平台部刘煜宏受邀参加“腾讯慧聚”品牌的发布仪式,并向在场嘉宾介绍了“腾讯慧聚”的5产品平台。 ? 十年磨一剑,砺得梅花香。 据刘煜宏介绍,腾讯慧聚当前共包括五平台:Dmaster(大数据一站式平台)、Tbase(海量事务处理平台)、TDbank(实时接入平台)、Hermes(实时多维分析平台)、TDinsight(机器学习基础平台 这五平台除了Dmaster是一个一站式、覆盖全流程的平台外,其他四个平台各有侧重。这也是腾讯根据多年服务不同类型客户的经验,所挖掘出的不同需求。 作为实时接入平台,TDbank具有的“高灵活、高可用、高吞吐、低延时”的核心优势,可以从业务数据源获取数据分发给离线/在线处理平台,构建数据源和数据处理系统间的桥梁,将数据处理系统同业务侧的数据源解耦。 实时多维分析平台Hermes,是腾讯针对交互式海量数据分析需求自主研发的数据多维分析平台,是腾讯处理千亿级海量数据用户画像和多维分析的核心技术与经验的积累。

    2.7K90

    中电主板IPO获批:89亿应收账款,112亿存货,223亿负债!

    根据招股书显示,中电是一家电子元器件应用创新与现代供应链综合服务平台,依托三十余年产业上下游资源积累、技术沉淀、应用创新,已发展成为涵盖电子元器件分销、设计链服务、供应链协同配套和产业数据服务的综合服务提供商 前五客户占比已低于22% 报告期内,中电前五客户主要包括小米、传音、富士康等公司,具体的分销产品包括存储器、处理器、模拟器件、射频和晶圆等。 前五供应商占比近五成 中电主业是电子元器件授权分销,其销售的产品主要依赖于其上游的供应商。 报告期内,中电的前五客户主要为紫光集团、AMD、高通和恩智浦等企业,对于前五客户的采购占比有持续攀升趋势,2022年1-6月前五客户的采购占比达45.73%。 此外,公司由国家集成电路基金持股14.18%,由国风投持股9.45%,由中电坤润持股9.45%,由中电发展持股3.84%,由亿科合持股9.05%,由联大商贸持股4.80%,由同沁同立持股1.69%。

    26520

    从初创到上市,腾讯乐享陪伴联易一起成长

    联易于2016年2月成立,在2021年4月于交所主板正式挂牌,是首家上市的中国供应链金融科技SaaS企业。 在内部,联易将员工称为“小蜜蜂”,他们的乐享有个独特的名字——“蜂享”,寓意着这是联易小蜜蜂专属的分享交流平台。 蜂享平台运营团队开始思考:“联易到底需要一个怎样的线上社区?” 图8:新版乐问公约 联易高管团队对于真诚沟通的鼓励和认同,是乐问乃至整个蜂享平台保持活跃的重要因子。他们会时常在蜂享平台解答同学们的疑惑,为同学们的高光行为评论点赞等。 联易在快速扩张成长,腾讯乐享也不断进化。从中心化的知识补给平台,到用户主动生产内容的文化发声渠道,在联易发展的历程上,腾讯乐享一路并肩前行,为企业的每一阶段提供灵活适配的解决方案。

    43930

    关注

    腾讯云开发者公众号
    10元无门槛代金券
    洞察腾讯核心技术
    剖析业界实践案例
    腾讯云开发者公众号二维码

    相关产品

    • 腾讯云图数据可视化

      腾讯云图数据可视化

      腾讯云图 (TCV)是一站式数据可视化展示平台,旨在帮助用户快速通过可视化图表展示海量数据,10 分钟零门槛打造出专业大屏数据展示。精心预设多种行业模板,极致展示数据魅力。采用拖拽式自由布局,无需编码,全图形化编辑,快速可视化制作……

    相关资讯

    热门标签

    活动推荐

      运营活动

      活动名称
      广告关闭

      扫码关注腾讯云开发者

      领取腾讯云代金券