摘要:在物联网、云计算、移动互联网等发展的推动下,水利行业数字化水平和程度得以不断提高。在各种数字化应用的普及和新兴产业的带动下,水利行业积累的数据资源呈级数增长,形成海量数据源,从而宣告水利大数据时代的来临。大数据虽然从数据的组织到存储、传输、查询、分析等为信息化工作带来了新的压力,但同时也带来了无穷的机遇与挑战。基于此,本文对水利大数据建设与应用的路径进行分析。
关键词:水利工程;大数据;应用
1水利大数据概念
随着遥感、传感器网络、射频技术等信息技术的发展,水利行业的数据采集能力不断提高,可收集到更多的数据。这些数据是异构的、广泛分布的和动态增长的。在数据类别方面,不仅有大量的物联网测量信息,如水文气象、水位和流量、水质和水生态,还包括国家水利调查和各种辅助信息的结果。与水利相关的人文、经济等方面的信息。生态环境数据、地质灾害数据和互联网数据。这些数据不是完全独立的,但有复杂的业务和逻辑关系。例如,气候和气象数据的变化会引起水资源的数量和空间分布的变化,从而影响水利工程、水生态环境、水旱灾害。水资源的分配具有一定的影响。从数据格式的角度来看,这些海量水利数据不仅包括传统的结构化数据,还包括图片、语音、视频、位置等非结构化数据。因此,现有的技术框架无法有效地处理此类海量异构数据。随着物联网和遥感技术的发展,信息感知无处不在,产生的信息量巨大,但信息的价值密度相对较低。如何利用模型算法快速地从这些数据中提取有用信息是一个亟待解决的问题。从时效性的角度看,洪水、洪水预警等水利数据需要及时有效的信息处理和反馈。因此,有必要利用大数据技术来提高这种数据的处理能力。
2水利大数据的建设与应用路径
2.1树立“用户意识”
大数据建设是否成功,关键的一步是要考虑具体用户的应用需求。树立“用户意识”,就是建立起一座桥梁,连接着信息中心(数据中心)与各个业务部门(数据应用部门)。想要用好数据,就要把它当成一个产品,而不只是一个工具。一个产品的成功,取决于它在多大程度上满足了各个业务部门的实际工作需求,解决了各个业务部门用户的问题。所以,在大数据建设与应用过程中,最关键的就是“用户意识”,也就是从数据使用者的角度去做分析,在数据思维方面拥有“用户意识”。
2.2培养具有“用户意识”的大数据建设与应用人才
从事水利信息化建设的人员包括数据库建设专业人员。虽然有些人在水利行业工作多年,但对需要设立的各个水利业务部门还不太了解。“用户意识,信息中心的数据工程师(数据中心)必须与各业务部门的人员“混合”,详细了解业务部门的核心需求,掌握他们真正关心的数据。要理解数据的价值,只有当数据工程师了解业务时,数据中心与业务部门之间的差距才能得到解决。最终的结果是一种“查看数据”和“使用数据”的方法,也就是说,当涉及到提供给领导者的数据展示或决策分析时。经过业务与数据的结合,流域管理中各业务部门的关键问题可以随时用数据来回答。数据工程师的责任是使复杂的数据变得简单,允许使用数据的人在其中成长,并逐步使每个人都成为数据分析员。
2.3数据的升级迭代
收集数据本身并不是目的。对于大规模的水利规划、水文水资源、水利工程、水土流失、农村水利、水行政执法等方面,水利安全生产等数据只能在数据分析和清理后投入使用。盲目收集将不会创造价值,但也会增加存储和管理的成本,任何单位都负担不起收集和管理数据的无限成本。对于存储的数据,确保数据是安全和准确的。数据管理的内容包括数据源,保证数据不丢失,保护数据的安全性,使数据准确和稳定,以及如何更好地使用数据。
期刊文章分类查询,尽在期刊图书馆
3水利大数据研究发展趋势建议
3.1水利大数据集成
水利行业在漫长的业务实践过程中积累了大量独立、分布、异构的数据资源。这些数据既有结构化数据,也有半结构化和非结构化数据。数据的存储方式不仅是传统的关系数据库,也是分布式文件系统。所有这些都需要水利大数据在集成过程中进行数据转换。数据转换需要完善的格式转换和语义转换。格式转换是将源数据结构转换为目标数据库。语义转换是不同数据模型之间语义映射的完成。此外,如果所有的数据都是简单地收集在一起而不进行任何数据清理,那么过多无用的数据可能会影响数据分析的有效性,但在数据清理过程中,如果粒度太小,粒度太粗,无法达到清洗效果,则很容易有用,因此需要在质量和数量之间进行仔细考虑。在此基础上,对海量数据进行标准化存储,实现了跨地区、跨部门、跨行业的数据共享。为水利工程管理、水旱灾害预测、水资源管理等提供基础数据。
水利大数据具有量大的特征,为了保证水数据中心的海量存储和复杂计算能力,必须考虑云计算,因为数据类型多样,计算过程复杂耗时,随着人们对新应用需求的不断增加,云计算应运而生。物联网等信息计算方法。云计算可以直接将水数据传输到云中。一方面提高了系统的可扩展性,另一方面打破了各部门之间的界限,所有水利部门都可以在云中共享数据。节约了水利数据的管理成本,降低了部门间数据共享的交换成本。为此,中国水利部门建设了国家水利部云计算平台,克服了水利信息化建设中各业务部门面临的重复建设水平低、信息资源分散、开发利用效率低下等问题。信息资源整合与共享不足,安全体系薄弱等总体问题。
3.2数据化
会有越来越多的各类水利信息被数据化。由于受到技术限制,还有很多水利方面的有价值的信息还不能被收集成数据,随着科技的发展,这些信息都将被数据化。如大面积的旱情监测、冬季河流湖泊的实时监测、所有重要江河湖泊的水质断面实时监测、长期水旱情分析预报、多因子多要素的水文分析预报、重要江河违法违规开发利用过程和状况的实时监测、水循环深入分析等。
3.3决策实时化
工作中我们遇到的很多问题,都是因为没有得到及时的反馈,导致无法做出正确决策。当所有水资源监控体系建设和完善后,通过大数据分析,不但可以在汛期进行精细化防洪调度,也可以提前一年或者多年进行水资源调配决策。
3.4智慧化
利用物联网和大数据分析等新一代数据采集与分析技术,建立智慧化水旱灾害监测、分析预警系统,整合各类水旱灾害数据,全面提升水旱灾害的分析与预警、决策与处置能力和信息服务水平。
3.5安全化
水利大数据属于敏感数据,其中一些涉及国家安全和行业保密。因此,有必要建立符合国家有关信息安全政策法规的完善的信息安全管理体系。在揭露机密信息的前提下,进行了有效的数据挖掘和数据应用研究。建立了水利数据的保密保护等级,增强了对重要水利数据和基础网络的安全保护和监督能力,建立了统一的水利大数据安全体系。另外,在数据的操作和管理过程中,在对水利大数据进行分析的基础上,有必要定期使用冷。同时,利用云平台等先进的信息存储技术对数据进行备份,从而有效地保护数据,提高灾难恢复能力。
结语:
大数据技术是当今正在快速发展的新兴技术,随着研究与应用的不断深入,大数据应用在水利行业的信息化建设中发挥着越来越重要的作用,并带动着行业的科技进步,对未来水利事业各方面的发展必将产生深远的影响。
参考文献:
[1]黄忠佳.对水利大数据价值提升的几点思考[J].水利发展研究,2014,14(05):35-37.
[2]刘汉刚,李光.水利数据中心资源开发与应用研究[J].水利信息化,2014(02):24-29.
论文作者:曹成忠
论文发表刊物:《基层建设》2018年第17期
论文发表时间:2018/8/6
标签:数据论文; 水利论文; 信息论文; 水旱灾害论文; 水资源论文; 用户论文; 技术论文; 《基层建设》2018年第17期论文;