智慧高速大数据运营分析平台的研究和设计分析
摘要:伴随着国家高速基础设施的逐步建立,以计算机技术、数据通信传输技术、电子传感技术、控制技术以及计算机技术与交通管理系统工程等现代科学技术成果为基石构建的高速智慧交通系统,在运营过程中,将会汇集海量的高速大数据,涵盖高速基础设施数据、监测数据、收费数据、ETC车辆数据等大数据。基于此,论文中对我国高速信息化建设状况以及高速大数据的运用状况展开了深入研究与剖析,提出了当前我国高速数据运用方面存在的问题,还提出了智能高速大数据运营与分析平台构建的技术要求,并对平台主体功能进行了设计。
关键词:智慧高速;大数据;运营分析平台;行业应用
引言:当前,对于高速公路产生的各种数据的应用基本局限于高速公路的行业管理,如通过对高速公路大数据全面、快速、准确处理,有利于交通行业管理部门及时对车流进行引导和分流,减少拥堵,提升高速公路运输效率。但这些数据应用单一,大大降低了高速公路大数据的应用价值。对此,本文基于高速公路信息化建设和大数据应用现状,进一步研究和设计智慧高速大数据运营分析平台,从而推进高速公路行业智能化管理水平的有效提升。
一、研究现状
(一)高速公路信息化系统渐趋完善
现阶段,将随着监控系统、收费管理系统、通讯网络系统等的不断完善,逐步推动我国这高速公路信息化体系的高效运转。在其中,综合监测管理系统将主要承担了对路况监测、收费站与服务区监测、监控管理中心和公路管理机构等实施全方位的联网监测;收费管理系统主要承担为沿途收费站互联收费、联网收费中心结算;而通讯管理系统则主要承担为高速运营管理和监测、为收费系统实施时提供必要的语音服务和数据、图像传送通道。历经了几年发展,其主要功能已日益完备,并逐步保证了国家高速信息化体系工作的有效性。
(二)线上支付发展迅速
2019年5月,根据国务院政府办公室下发《推进征收路面管理制度改造废除高速省界收取站方案》,要求尽快废除全国高速道路省界收取站,全面实行不停车快速收取,ETC等不停车收费将在全省范围内逐步普及。早在两年前,交通运输部便已明确要求推进移动支付方式在交通领域的广泛运用。现如今,国内许多省份的高速收费站已基本实行了扫码收费,并支持交易、支付宝、银联手机扫码付费等方法。随着高速收费站非现金流通收费业务的逐步普及,累积了数量巨大的线上交易数据[1]
(三)车辆通行数据不断增长
由于我国生产率的持续提高,人民的生活质量也获得了大幅的改善,通过第十届我国国际自驾车旅行事业发展高峰论坛上公布的有关报告可以看出,到2020年,我国在自驾游的规模方面已经能够占国内旅行总体规模的百分之七十七点八以上,与之前一年相比获得了大幅的提升,全国自驾游规模已经超过了二十二点四亿人次。由于高速行驶车辆的快速增长,使得高速各信息化管理系统中累积了丰富的车辆信息,高速大数据运营分析平台的出现为后续工作打下坚实基础。
(四)数据应用单一
尽管我国高速信息化体系集中了大量高速基础设施以及有关人、车辆等的海量数据,但各系统数据却还不能实现高效集成,也无法全面发现高速数据的价值,而当前的大数据应用也基本应用于我国高速的业务管理,但跨行业应用还很少,因此在应用过程中相对单一。
二、需求分析
第一构建数据标准体系,通过集成各系统信息研究和分析的高速公路数据源与数据结构,形
成数据标准体系,开发信息接口平台,除集成高速公路内部的信息之外,还接入高速公路运政部门相关系统信息,以充实与丰富公路大数据信息,提高信息价值。第二挖掘数据价值,通过加强市场化运用研究高速行业管理问题和与高速发展有关的业务痛点问题,对已收集的信息加以处理与分析,挖掘数据价值,并开展对高速领域内外的应用[2]
三、功能设计
(一)总体技术架构
智慧高速公路大统计运营分析平台的总体技术框架,按照计算机软件管理系统通用技术规范和安全准则,重点考虑对高速公路运输流程分析的整个过程管理与应用,并运用大统计挖掘信息技术、人工智能技术、数据可视化技术等,驱动对高速公路运行相关分析的价值及逆行发掘与运用,以确保信息系统的科技前瞻性、简易性、安全可靠,如图1所示。智慧高速公路大数据运营分析平台可以即时或批量地收集高速公路及综合交通网络的内部环境大数据资源如ETC数据、GPS数据等,并保存到海量的存储环境中,同时提供了各种统计分析与展现工具,以实现门架式断面流量建模、车辆速度分析模型、汽车路径分析模式的建立,以及对高速公路车辆分类、拥堵道路条件预警、过路费稽查、日志路书管理等具体应用的需求,并
提供了全方位的大数据存储、建模、解析、管理等功能,促进大数据分析技术在管理系统内更高效的运用,从而确保大资料与数据分析模块都能精准、有效、安全、稳定地运用于智慧高速公路大数据运营分析平台上[3]
图1智慧高速运行监测大数据平台
(二)系统功能架构
基于市场需求研究结果和大数据分析成果,根据云计算技术、大数据分析、新一代人工智能设计,以及我国高速公路信息化系统的现状,从大数据收集、统计分析、数据建模、模型运用等入手,设计智慧高速公路大数据运营与分析平台功能结构方案,其系统功能设计需要遵
循图2的原则。基础设施将包括大数据分析建模平台运行需要的运算能力、内存以及网络资源,平台将建立在私有云端上,并采用虚拟化技术进行对物理服务器资源的灵活管控、有效应用。数据采集系统对接模块,完成了内部平台和外部系统的数据集成,技术选型上主要采用SparkSQL并行计算引擎,通过连接与外部系统所对应的关系式数据库,完成了批量、并行的数据提取、清洗、交换等功能,将了ETC、收费站、门架、运输车辆GPS等数据的批量周期性提取与融合。通过Canal完成基于MySQLbinlog的实时数据提取,通过OracleCDC完成基于日志的实时数据提取接口,并通过与现场数据的对接抽取,完成ETC门架、收费广场出入口等实时数据的抓取[4]
图2系统设计原则图
第一,主题数据库子模型在使用流程中,将智慧高速大数据运营分析平台中的数据主体进行了综合、归集,并加以抽象管理,方便大数据分析使用。而每个主题都对应着一个大数据分析领域,主题域一般是业务联系或是与数据联系较为密切的数据分析主体的集合,并针对行业需求以及平台数据分析主体的特殊需求,将平台中汇存的数据分析主体归属到了不同的主题领域。贴源数据存储子模块,是原始数据的保存与管理模型。该模块主要是用来确保与原系统中的数据尽可能的保持一致。该模型存储的数据结构、类型等与原系统的数据基本一致,也可以用作主题数据、集市数据、数据挖掘特征数据等内容的基础[5]
第二,历史数据存放子块,负责存放大量的历史数据并实现分类。另一方面,针对平台存储效果和应用价值来说,大量历史数据也能够存放到比较廉价的介质中,可以选择不同的存放方法;另外,历史数据通常进行平台数据分析,对于经常要应用到的历史数据进行分析存储,可以大大提高历史数据统计分析的有效性。而分布式计算也是智慧高速大数据挖掘平台的核心功能之一,平台在工作流程中会生成许多任务,而分布式计算模型则能够按照任务的复杂度高低、优先级等把不同的任务分配到不同计算能力的服务器上去运行,进而提升了运算效能。
第三,数据分析模型该模块也是智慧高速大数据分析平台的核心功能,通过对数据分析抽象处理,按照行业的实际需求对数据分析过程进行模型与数据分析,并融合各种统计分析工具与算法,进行了门架断面流量建模、ETC车辆平均速度建模、ETC车辆路线还原等模块的建立。大数据分析模块则是各行业主题数据和数据分析算法的结合产品,利用大数据分析存储模块所提供的大数仓结构模式,综合从各来源所收集到的行业数据,并完成了关联、重组、分析等流程,形成了相应的主题库;利用大数据计算与分析模型所提供的数据挖掘计算能力,针对主题库中的大数据进行更深层次的数据挖掘分析、提取特征、计算指标等,最后建立高架断面流量模型、ETC车辆平均速度模拟、ETC车辆路径还原等数据挖掘模式。
第四,大数据应用系统将通过数据分析模式和对统计分析结果的支持,构建各类数据分析应用,包括:数据分析可视化大屏、ETC客服数据模型拟合、行通车主出行增值业务、打击黑油运输、气头车运行流量大数据分析等。数据可视化大屏将采用如echarts等成熟框架,提供基于浏览器的数据可视化应用,主要用于对重要指标数量、总体运营状况、即时数据变化趋势等核心数据指标进行可视化表现。通过数据标准与安全体系、系统运维运营管理体系数据标准与安全体系、系统运维运营管理体系等应用,在平台构建过程中对平台的设计、施工、运维等进行引导与约束,以保证平台的安全、稳定性、可持续性[6]
数据可视化大屏设计结语:综上所述,研究建设智慧高速大数据运营分析平台,有利于打破当前高速公路各信息化系统数据孤岛,整合高速公路内外部数据,挖掘数据价值,有利于提高高速公路智能化管理水平,并为其他行业提供数据分析服务,助推有关行业的发展,对智慧高速发展有着积极的意义。
参考文献:
[1]基于大数据的智慧交通态势分析平台设计与实现[J].车辉.广播电视网络.2020(07).
[2]农业大数据分析平台建设的研究[J].任孟霞.南方农机.2021(02).