您当前的位置:首页新闻资讯学术交流正文

国网陕西电力优化提升数据清洗转换效率

放大字体  缩小字体 发布日期:2017-11-13 来源:国网陕西省电力公司 浏览次数:511

11月10日获悉,在国家电网公司总部召开的第三十一次项目建设管控会上,国网陕西省电力公司汇报的《全业务数据中心分析域建设数据清洗转换技术路线典型经验》,受到与会专家及总部领导高度评价,并已获准在公司内部全面推广应用。


在全业务数据中心分析域建设上,国网陕西电力高度重视技术创新,通过对传统数据清洗转换技术路线进行研究验证,发现数据转换效率底下,每秒清洗转换数据仅50条,且需投入大量的人力进行差异化的数据接口配置,严重制约项目建设。为此国网陕西电力攻坚克难、探索研究新技术路线,最终成为首家探索出高效、可靠数据清洗转换技术路线的单位。应用该方法开展数据清洗转换效率直线提升,较旧方法每秒钟数据转换提升超1000倍,并且在数据接口配置上实现批量,大大减少了人力投入。随着该项典型经验全网推广应用,将加快各网省数据清洗工作进度,早日完成全业务数据中心分析域建设目标。


国网陕西电力还研发自主研发“数仓模型检查工具”,通过信息化检索手段,对总部物理模型与陕西本地模型进行一致性与准确性对比,该工具的应用,使国网陕西电力数仓模型遵从率及映射准确性始终保持在100%,彻底解决了因数据模型不一致而导致数据清洗转换准确性降低的问题。


下一阶段,国网陕西电力将继续优化提升数据清洗转换技术方案,进一步提升清洗转换效率,为全业务统一数据中心分析域技术路线添砖加瓦,同时利用该方案积极开展数据清洗转换,确保高效、优质完成数据清洗转换工作,为早日建成“模型规范统一、数据干净透明、分析灵活智能”全业务统一数据中心而不懈努力。

关键词: 清洗转换效率

“如果发现本网站发布的资讯影响到您的版权,可以联系本站删除!同时欢迎来本站投稿!

本周热门资讯排行

 
在线客服