历史天气数据记录查询(历史天气湿度查询)居然可以这样
近日,民航局发布了《智慧民航数据治理典型实践案例》信息通告。该信息通告作为“7+1”智慧民航数据治理规范体系的重要组成,既是业内单位相关工作的经验凝练,也是对7部数据治理行业标准的具象化呈现。\x0d\x0a本公众号将持续进行典型实践案例分享,敬请关注!
近日,民航局发布了《智慧民航数据治理典型实践案例》信息通告该信息通告作为“7+1”智慧民航数据治理规范体系(即《框架与管理机制》《数据架构》《数据安全》《数据质量》《数据服务》《数据共享》《数据治理技术》7部行业标准和《典型实践案例》1部信息通告)的重要组成,既是业内各单位相关工作的经验凝练,也是对7部数据治理行业标准的具象化呈现。
《智慧民航数据治理典型实践案例》汇集了来自航空公司、机场、空管、运输保障单位、地区管理局和民航局直属单位的数据治理典型案例55个,历经单位申报、专家遴选、集体研讨、反复优化编纂而成,旨在充分发挥示范引领作用,推广民航各单位数据治理的好经验、好做法。
本公众号将持续进行典型实践案例分享,敬请关注!本日分享案例为“民航新疆空管局—新疆民航气象数据管理应用平台”。
——民航新疆空管局——新疆民航气象数据管理应用平台
PART 1
背景和痛点
近年来,复杂天气对航班正常率的影响越来越大,对民航气象的预报准确率提出了更高要求,为特定机场及航路提供精准的预报结论不仅需要数据库提供实时、准确的探测数据,还需高效处理海量历史数据做支撑随着气象探测技术、民航数值预报技术面向自动化方向的发展,所产生的数据呈现出体积庞大且种类繁杂的特点。
按照《中国民用航空气象工作规则(CCAR-117-R2)》、《民用航空气象资料管理办法(AP-117-TM-04)》、《民用机场气象观测资料处理系统技术规范(AP-117-2012-04)》等规章、规范和行业标准的要求,空管局气象中心需要对相关气象信息系统、探测设备的历史数据进行存储和管理。
长期以来,新疆航空气象部门的航空气象历史报文主要以光盘、硬盘持久化等方式进行存储,用户需要时需要在光盘或磁盘上进行拷贝、读取和解析,这种方式极不方便,用户体验也较差,难以满足用户对航空气象历史报文数据的需求。
本平台就是在这种亟待解决的问题基础上研发的,结合现有民航气象业务的特点,基于RAID底层虚拟化技术将在存储系统中同时搭建MySQL数据库和文件存储模块,实现气象数据存储系统具有更高的存储空间利用率、更快的数据重构索引速度和更精准的数据质量控制,为海量气象数据长时间序列的统计、存储和管理提供解决方法。
在此基础上,本平台设计实现了航空气象数据检索、航空产品及重要日数统计、重要天气案例提取、给定时段历年重要天气信息查询、给定日期重要天气要素统计分析等功能,以统一便捷的方式为用户提供数据提取和统计支持服务,可大大改善用户对历史报文数据的使用效果。
为用户提供便捷有效的数据提取及统计分析平台,为报表制作、天气研究提供了可靠的数据支撑
PART 2
实践路径
01存储系统架构搭建结合民航气象数据库设计(图1),整体架构组网时划分6个安全区域,由于民航气象信息资料源于多个相互隔离的业务网络,为保证数据接入的安全性,在区域边界通过防火墙策略实现在不同业务网络间的隔离机制。
存储架构中分为接入区、数据录入区、本场数据交换区、资料处理区、核心业务区及用户管理区
图1:民航气象资料存储架构图(1)接入区 由民航气象中心下发的数值预报原始场资料、地面高空填图站点资料、葵花8号卫星云图和自治区气象局获取相关资料,通过防火墙1将数据单向传送至文件存储系统,即完成气象数据的文件存储功能。
(2)数据录入区 本场自动观测资料通过串口通信方式获取、机场实况数据要素值通过录入系统进行质量控制后存储在MySQL数据库中(3)本场数据交换区 本场风云静止卫星云图、风廓线雷达图、微波辐射计数据、多普勒天气雷达图以及机场跑道天气监控视频通过防火墙2传输至文件存储系统。
(4)民航气象内网数据库区 采集内部核心气象数据库通信分系统、数据库分系统的报文、图形产品进行格式转换对接数据接口,具有易读取性和易维护性的特点(5)用户管理区 用户按照不同权限进行系统访问,实现气象数据浏览、历史资料统计、数据维护和数据处理等功能。
(6)资料汇集处理存储区 作为本文整体网络架构的核心区域,承载将汇集各类资料的分类存储,并完成对收集到的海量气象数据的分析、处理等功能02气象数据收集存储程序设计航空气象数据种类繁多,有文本数据、二进制格点数据、图片数据等。
主要包括了航空气象报文类、自动观测要素类、MICAPS数据类、GRIB格点数据类、云图及雷达图等图片类、航空气象产品类、航空器空中报告类等,这些类型的数据具有不同的格式、要素、大小、存储方式以及使用方式。
如表1所示,根据本系统中所存储气象数据资料特点,采用三种不同方式相结合的存储设计,具体如下:(1)数据库及报文入库设计报文数据库采用数据库的结构化存储,用于更新频率高的数据存储和组织,用于图形、格点文件等数据存储,数据接口兼容MICAPS系统。
本平台的报文入库服务通过实时从民航气象实时数据库中检索近3天的报文数据,若报文数据在本数据库中不存在,则按入库规则插入到历史数据库中供机场重要天气分析平台。具体数据入库业务流程如下图所示。
图2:历史报文库入库流程由上图的历史报文库流程可见,通过不断轮询民航气象数据库,每次读取该数据库中3天的报文数据,读取后进行数据校验,若已经入库则不做处理,等待下一次运行,若未入库则将数据按设计的方案入到历史数据库中。
(2)文件存储设计
图3:文件存储目录树结构如图3所示,基于文件系统的数据存储底层存储系统采用高速读写磁盘阵列,利用磁盘阵列的冗余性提高数据的存储可靠度利用脚本获取不同文件所属目录、筛选所需备份物理量、在磁盘阵列中生成文件备份路径定时拷贝文件资料。
由于航空气象数据量大,种类多,格式不一的特点,在设计平台对非结构化数据和大文件采用文件磁盘存储,对结构化数据则采用数据库存储磁盘存储中主要存储自观文本数据、MICAPS数据、GRIB格点数据、卫星雷达数据、航空气象产品数据等,这些数据均以文件形式存储。
在设计存储时,按资料类型建立文件存储文件夹,并根据资料文件时间,分别建立年、年月文件夹存储数据在进行资料分类归档时,将部分文件数据时间特征不明显的文件名按时间进行重新命名通过这种方式构建文件磁盘存储数据池,按年、月分类后可大大提高数据检索的效率。
由于部分历史数据数据格式不一致,因此将这类数据进行单独的处理,以便平台进行统一检索在实际业务运行中,采用多进程对数据进行归档,提高归档的效率,具体流程如图所示
图4:文件资料归档流程示意图(3)民航气象数据库备份程序设计通过读取气象数据库筛选所需数据,用动态拼接SQL语句,实现本场数据库类表CSV格式的转存转存为的CSV格式文件每条记录由字段组成,可用文本工具查阅,避免了传统备份方式的气象报文需反演至数据库才可查看的繁琐。
使用CSV格式将全国机场实况报文CSV格式存储程序,每日生成243个机场实况要素表进行备份,并将新疆辖区气象数据库中的报文每天生成指定四张表格,为用户查看程序设置统一API接口,方便实时查看气象报文数据。
具体如表2所示:
03数据检索显示功能设计平台采用全B/S架构,实现的功能主要包括实况要素查询和统计分析、自观数据查询、卫星雷达数据查询、自动站数据查询、MICAPS数据查询、模式要素查询、格点数据查询、风廓线资料查询、航空气象产品查询、航空器空中报告查询等。
通过数据查询,提供数据展示、要素分解、打包下载、图形动画制作、要素曲线绘制、数据基本统计分析等功能,尽可能满足用户对数据的需求,平台整体架构如下图所示
图5:数据检索整体构架从图可见,采用三层架构模式,将表现层、业务逻辑层、数据层分开,业务逻辑层主要与数据层和表现层通信,负责将数据层数据封装为表现层所需要的数据结构,当表现层需要数据时,从业务逻辑层中获取到数据;数据层则封装与数据池或数据库数据读取相关的功能,与业务逻辑层通过对象模型交换传递数据;表现层则进行业务数据展示,与客户端的交互采用AJAX技术,当用户需要某类数据时,向业务逻辑层发起请求,业务逻辑通过数据层获取数据并处理后进行反馈。
本平台表现层中的机场实况要素及空中报告类的数据源为数据库,其它类型的数据数据源均为文件数据池通过上述架构,对具体功能进行研发,实现基于两个数据源的数据统计和检索平台
图6:平台首页信息展示(1)报文类资料查询显示实况要素模块主要包括对报文类数据的应用,包括实况报文检索、实况报文要素解析、基于实况报文的重要天气统计分析和下载、基于报文统计分析的历史上当日要素统计、给定时段获取该时段历史上的重要天气等。
实况报文检索即通过给定时间和机场从数据库中检索出实况报文进行显示,若用户需要对报文进行解析时,则应用程序可对报文按标准进行解析,将报文要素解析为风、能见度、天气现象、云、温度、气压、湿度等气象要素进行展示和下载。
无论是报文检索展示和要素解析展示,都会对大风、低能见度、低云、高温、对飞行有影响的重要天气现象进行着色显示重要天气统计分析是根据可根据用户输入的气象要素阈值,根据解析的风、能见度、天气现象、云、气温等进行统计分析,将达到阈值的数据提取出来作为天气个例,并按持续时间给出天气案例的时段,用户可将统计结果下载到本地。
若给定时段,则只统计历年该时段的重要天气进行展示历史当天要素统计则只检索给定日期,检索该日的要素数据,并统计分析要素的最高、最低、平均值等,以图表方式向用户进行展示(2)自动观测要素类自观数据是机场最重要的数据之一,无论是实时应用还是案例分析时均需要用到该数据,但该数据若直接从文件中获取并不容易,因此本平台中对自观数据的文件进行解析,用户可以通过选定时间提取到规整的要素数据,并可导出为csv格式。
对自观要素中达到大风、低能见度、高温阈值的要素数据,平台给出着色展示除了要素数据检索外,平台还提供了自观要素的文件列表检索和数据预览,有需要的用户可以按需下载自观要素的文件(3)MICAPS数据类MICAPS数据类包括了高空地面实况数据、EC全球预报、自动站数据、模式要素数据等,这些数据应用场景不一,用户对数据的需求也不一致。
高空、地面实况数据及EC全球预报数据,用户往往需要在MICAPS中进行显示应用,在此平台中提供了要素、层次的分类打包下载,自动站数据用户不仅需要在MICAPS中进行数据查看,还需要获取该数据的各个要素时间列表,因而需要对数据进行解析,将数据要素按时间排序,以列表方式进行展示,并提供解析要素下载,模式要素数据则用户只需要对该数据的要素列表进行展示和下载即可。
因此对MICAPS数据类,平台提供了MICAPS数据、自动站数据、模式数据等三个模块分别实现功能(4)图片类、气象产品类、格点数据类本平台中图片类数据检索主要包括了卫星数据、雷达数据、雷达拼图数据可按时段进行数据分类文件检索,提供数据打包下载、动画制作、图片预览。
气象产品类主要包括各类预警、通报、周报等,这类数据与图片类一样可按时段分类检索、打包下载、文件预览等格点数据类只提供数据检索和打包下载功能(5)航空器空中报告类航空器空中报告是从数据库中读取数据航空器空中报告内容进行展示,可分类检索和展示积冰、颠簸、风切变、雷暴、其它、8.4海里颠簸等报告数据,同时对不同类型的空中报告份数进行统计。
用户可根据需要检索和统计数据,并下载为csv格式数据(6)观测年、月总簿统计功能按照《民用航空气象地面观测规范》行业规范标准,统计该月每日24小时场面气压、修正海压、气温、相对湿度、露点温度、总云量、云况、主导能见度、跑道视程、天气现象和能见度演变、风向风速的变化,形成观测月总簿。
调用数据库系统数据形成观测月总簿,统计该月每日24小时场面气压、修正海压、气温、相对湿度、露点温度、总云量、云况、主导能见度、跑道视程、天气现象和能见度演变、风向风速的变化(7)气候志报表统计功能按照行业规范标准,将气候志中所需统计的26张特定表格为预先设定条件值生成,其中包括机场气候总表、机场气象要素极值表、机场累年各月能见度低于规定值的不同持续时间的出现次数、机场累年各月各级能见度出现日数、机场累年各月各因素引起能见度小于1000m日数、机场累年各月天气现象的日数等。
结合气候志中内容编写需要,输出配套的辅助表格近80张(8)历史跑道视频监控数据的存储和查看功能通过网络存储和视频摄像头网络传输协议,录制跑道天气监控H.264图像格式文件采用时间轴模式,将跑道历史监控画面按时间格式进行文件格式存储,可查看指定时间的视频画面,如下图所示:。
图7:跑道视频监控存储界面
PART 3
应用效果
平台解决了海量气象数据稳定存储的难题,对日益增长的民航气象数据研究具有重要理论和实用价值具体应用如下:(1)实现了对实时基础气象数据的存储、民航气象信息光盘数据的反演存储、探测设备、数值预报及9201数据收集功能、使用户可方便地进行气象历史资料管理。
(2)实现了自动导出观测年、月总簿,并可自动统计气候志报表功能,节约了每次统计过程里大量的工作量,避免了人工统计中可能出现的错误(3)用户可自定义进行气候数据统计和导出,对天气复盘、研究历史气象资料提供方便快捷的途径,对改进天气预报方法及提高预报准确率起到积极作用。
(4)平台中的跑道视频监控已引接至OA用户,将乌鲁木齐机场跑道东侧、中间、西侧及T1塔台360°旋转视频信通过OA网络查看(5)对各类气象类项目开发提供稳定的后台数据支撑本项目作为一套基础类气象数据存储平台,采用通用的数据存储规范,具有较开放的数据使用接口,已成为各类气象资料的开发的底层数据来源。
(6)通过系统移植,可用于自动化航迹数据存储、飞行报告文件存储等多种数据存储为信息融合显示打下基础,目前各类气象类资料展示系统较繁杂,对于管制等用户的使用较为繁琐和不便,以本项目网络为底层,为各类系统提供安全性融合渠道。
PART 4
洞察启示
以航空气象报文为基础开发了一套基础类数据存储平台,平台涵盖多种数据类型的存储,集合了空管气象所能获取的数据和产品资料,包括自动观测数据、天气雷达产品、航空气象报文、卫星云图、天气图等以及民航气象数据库系统的其他资料等。
通过构建航空气象数据历史数据库,构建了一套机场重要天气统计分析平台,该平台实现了航空气象数据检索、航空产品及重要日数统计、重要天气案例提取、给定时段历年重要天气信息查询、给定日期重要天气要素统计分析等功能,为用户提供了便捷有效的数据提取及统计分析平台,为用户报表制作、天气研究提供了可靠的数据支撑。
目前本平台每日处理的资料量40GB 左右,未来随着新的探测设备资料的加入、与更多中小机场的互联互通,以及与地方气象战略合作的落地,资料量将越来越大,本平台的存储方式灵活,对于存储各类新型资料都具有良好的可扩展性,为航空公司、机场部门等用户提供了可靠的气象数据,提高了航空气象用户的工作效率,对于空管局及其他单位具有良好推广借鉴作用。
可推广至全国各民航地区气象中心及空管站使用本项目中采用的数据存储模式均符合《民用航空行业标准》,并增加新型数据类型的存储及查看模式,建设成本低,可移植性好;可推广至航空公司、机场集团、军航等用户使用平台设有用户的个性化资料查询功能,可根据不同用户单位的需求进行使用。
单位:民航新疆空管局作者:杨乐、朱国栋、陈阳权、杜安妮、安志强【End】
免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186