调度日志管理系统（精选三篇）
调度日志管理系统 篇1
日志是最简单的存储抽象,是只能增加、完全按照时间排序的一系列记录。日志是了解软件在实际工作条件下运行状态的唯一方法,是故障诊断的唯一数据源,常被用于调试、访问控制、监测和分析等方面。目前,基于日志数据的故障诊断已成功应用于分析操作系统、数据库、大型分布式应用的故障行为。无数的实践证明,健全的日志记录和分析系统是系统正常运行与优化以及故障响应的基础。
日志是反映软件实际运行状态的唯一数据,它的质量决定了基于日志数据的一系列活动的可信度。目前调度自动化系统中日志数据质量不高,主要存在以下问题。第一,日志未区分严重等级或滥用严重等级。日志数据无等级或被滥用,无法达到通过日志等级过滤数据的目的。第二,日志描述不规范。日志数据包含的组成元素不统一、排列位置不一致,对于同一指标,使用不同的数值单位,例如执行时间或以秒为单位,或以毫秒为单位。第三,日志内容不完整。存在缺少必要元素导致故障无法定位的情况,例如未记录线程号、模块名等;存在故障原因无法确定的情况,例如:关键参数未记录运行值等。第四,日志覆盖度不足。考虑到对系统资源(I/O、CPU、磁盘等)的消耗及对系统实时性的影响,一般只在服务关键位置记录日志,常由于日志缺失导致异常或者故障分析终止。第五,日志数据非长期保存。一般使用固定文件大小的方式把日志数据持久化在本地磁盘上,采用滚动机制循环保存固定个数的文件。这种日志保存方式,存在故障无法追溯的风险,也不利于规律的发现。
日志数据对于运行系统的重要性不言而喻,但是一般日志不会在模块设计开发之初就被充分考虑,往往是在后期调试、实际运行中逐步完善起来的,在此过程中,可能会涉及维护人员的变动。虽然在很大程度上,日志质量取决于代码编辑者,但是简单、高效、系统的日志收集机制是产生高质量日志的必要条件,尤其是在调度自动化系统规模不断扩大、应用不断细化、功能不断增加的情况下。
此外,随着云计算、大数据技术的发展,运用大数据技术从海量数据中获取潜在的有用信息已得到了各方面的广泛关注,而日志数据作为原始大数据,其价值也越来越受到重视。例如通过分析web安全日志创建异常诊断模型达到检查网站安全事件快速准确的目的,通过分析在线地图服务日志定量研究城市之间的流动性和城市的人流模式,通过分析用户上网行为刻画用户画像最终实现精准营销等。在调度自动化系统中,日志数据只停留在事后故障诊断这一单一用途上,其主要分析方法仍停留在人工配合简单脚本进行日志过滤及检索的阶段,大多数情况下日志是直接丢弃的。面对异构、海量、分布式的日志数据,如何充分挖掘其价值,从而获取更好的系统洞察,也是调度自动化系统迫切需要解决的问题。
本文提出了基于大数据技术的调度自动化系统海量日志数据处理的设计与实现方法,涉及日志处理全生命周期,包括日志采集、汇聚、存储以及分析,其主要的设计目标是实现一个简单、高效、可靠、灵活的日志管理框架,为提高日志数据规范性、完整性、全面性提供支持;实现日志数据高速检索及自动化分析,为提升调度自动化系统日志数据价值提供支持。
1 系统架构
文章构建了如图1所示的基于大数据技术的调度自动化系统海量日志数据处理系统(简称日志系统),该系统按功能可划分为日志数据采集、日志数据汇聚、日志数据存储以及日志数据分析四个部分,形成从数据生成到最终使用的完整处理过程。
2 功能模块
2.1 日志采集
日志采集层是日志系统的最前端部分。日志采集层分为日志采集代理和日志采集服务。日志采集代理提供统一的日志采集接口,它根据日志系统的配置以及接口参数完成日志数据组装,对于满足日志等级条件的数据通过内建的独立消息总线发送到日志采集服务。为了获得更好的扩展性、兼容性以及便于后续分析处理,日志采集代理对日志数据采用JSON(Java Script Object Notation)格式封装。日志采集服务设计实现了内存共享池,共享池包含若干个固定大小内存块,通过预分配共享内存池实现日志数据高效导出。
2.2 日志汇聚
调度自动化系统是一个功能分布部署、节点间有相互依赖的系统,所有上层应用的日志在各自的应用服务器上产生,对于一个涉及多个应用的故障分析,需要合并多个节点上的日志数据。日志汇聚层就是收集所有注册的日志采集节点的日志,并把日志数据提交给永久存储。日志汇聚层分为汇聚协调器和汇聚服务,汇聚协调器根据当前注册的日志采集节点和日志汇聚节点生成日志汇聚任务表,并将任务下发给日志汇聚服务;日志汇聚服务则根据汇聚任务表完成日志数据提交。
2.3 日志存储
日志数据按活跃度可分为近期数据和历史数据。近期数据是指距离当前时间1个月内的日志数据,该部分数据存在实时查询的需求。日志数据生成速度快、价值密度低,随着时间的增长将面临海量数据存储问题。因此,本文中采用Elastic Search+Hbase的混合存储模式,解决日志存储容量问题,同时为近期数据提供良好的搜索性能。
2.4 日志分析
为了对调度自动化系统关键指标进行实时统计,为以量化方式考核系统健康状况提供数据基础,本文在单个节点上部署了基于日志数据的流式统计功能。借助开源流式计算框架,实现对日志数据的实时统计是普遍采用的方案,目前业内常用的流式计算框架有Storm和Spark Streaming。无论是Storm还是Spark Streaming,其本身是一个分布式系统,提供了一个编程模型及相应的接口。这种设计方式的灵活度高、适应面广,但是其代价是增加新的统计任务需要编写代码,使用比较复杂。对于调度自动化系统而言,基于开源流式计算框架实现实时统计,一方面在部署上对原系统的侵入性大,另一方面不利于用户的使用。因此,本文提出了一种免代码维护的、可灵活定义的、适用于调度自动化系统的实时统计框架及运行方法。
3 关键技术
3.1 自定义的日志格式
调度自动化系统中日志不利于分析的一个重要原因是缺少全局统一的日志格式设计。在本文中,基于Key Value的设计思想采用日志布局来描述一条日志的格式。日志布局指定了一条日志消息的组成元素以及元素间的组织方式。一个布局中可以包含普通字符串或者预定义的标识即布局元素,表1举例说明了已支持的预定义标识。
根据不同的日志布局产生不同的日志记录,例如设置默认日志布局格式如下:[%time%App%proc%lv%type%topic%msg],生成的日志记录实例如下:2013-07-22 09∶37∶59∶000000 realtime:data_srv[Wed Feb 25 18∶47∶44 2015]:sqlsp_srv:11113∶12118 ERROR data_srv connect没有可用的数据库连接,暂停服务,本次服务失败。
其中%lv是日志等级标志符,按日志的重要性共分为五个等级,按其优先级排序如下:DEBUG<INFO<WARN<ERROR<FATAL。通过日志等级实现对日志记录的“人为忽略”即日志等级控制:假设日志采集器级别为P,如果在日志采集器中发生了一个级别Q比P高,则采集该数据,否则丢弃该数据。除此以外,当日志数据量持续超过配置的流量阀值时,对于DEBUG,INFO通过采样方式记录日志,采样频率设置为1 s。
3.2 混合日志存储
本文采用Elastic Search+Hbase的混合存储模式解决日志存储容量问题,同时为近期数据提供良好的搜索性能。Elastic search是一个基于Lucene构建的开源、分布式、RESTful信息检索框架,能够实时搜索,并且稳定、可靠,使用方便,支持通过HTTP使用JSON进行数据索引。本文采用Elastic search构建近期数据分布式存储和全文检索,同时借助Kibana实现前端可视化展示。HBase是Apache Hadoop项目的子项目,它是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。HBase的Free-Shcema特点适合日志这种半结构化数据存储。本文采用HBase数据库存储历史数据,实现日志数据的长期保存。
3.3 自定义流式统计
本文中流式计算任务通过配置文件定义,任务与定义文件一一对应。流式任务定义主要包含任务信息和计算模型。
任务信息包含任务类型、任务名称和任务描述。任务类型、任务名称是必配字段,前者用于描述任务执行的方式,后者用于标识任务。任务类型支持一般任务和计划任务。一般任务是指计算任务启动后就开始处理的执行方式。计划任务是指只在指定的时间点或者时间段内执行的任务。
计算模型描述计算任务的组成元素及执行过程。本文借鉴结构化查询语言SELECT语句执行过程,简要设计了满足调度自动化系统日志数据实时统计的计算模型,该模型定义包括4部分内容:数据集定义、中间模式定义、统计操作定义、动作定义。数据集定义,配置参与任务的数据源,明确从日志采集代理中订阅的消息类型。中间模式定义,中间模式定义描述了中间临时数据的模式以及从原始日志到中间临时数据的转换过程。统计操作定义,描述与统计相关的元素,包括统计操作、统计字段、统计窗口、分组字段等。统计操作支持最大值、最小值、平均值、总加值、计数以及排名。动作定义,描述对最终计算结果的处理,包括告警以及存储,并描述执行规定动作的判断条件。
在使用中,一个任务文件对应一个计算进程,计算进程首先根据指定的任务文件名获取定义文件,并自动解析文件生成任务执行过程,其执行流程如图2所示。
4 结语
日志管理是大型系统最基本、最有用的系统安全工具,它有助于系统问题的分析解决。随着调度自动化系统规模的不断扩大,分布式处理技术的引入,在系统中日志数据的重要性不断提高。本文通过分析当前调度自动化系统中日志数据处理存在的问题与不足,结合当前大数据处理技术,提出了一个集采集、汇聚、存储和分析为一体的综合解决方案,并给出了具体构建方法。下一步工作方向是在相关关键技术研究基础上,进一步提高日志采集的效率,为实现调度自动化系统全方位监视提供技术支持;进一步研究日志分析技术,提高调度自动化系统日志价值,从而提高系统运维人员对调度自动化系统运行状态的深层次感知水平和驾驭能力。
参考文献
[1]褚瓦金.日志管理与分析权威指南[M].姚军,译.北京:机械工业出版社,2014.
[2]廖湘科,李姗姗,董威,等.大规模软件系统日志研究综述[J].软件学报,2016(8):1934-1947.
[3]CINQUE M,COTRONEO D,PECCHIA A.Event Logs for the Analysis of Software Failures A Rule-Based Approach[J].IEEE Transactions on Software Engineering,2013(6):806-821.
[4]陈迪,张鹏,杨洁艳,等.在线地图服务日志的大数据分析[J].小型微型计算机系统,2015(1):33-38.
[5]唐长城,杨峰,代栋,等.一种基于HBase的数据持久性和可用性研究[J].计算机系统应用,2013(10):175-180.
沃伦·巴菲特管理日志 等 篇2
编著:(美)埃斯蒂(Esty,D.C.),(美)温斯顿(Winston,A.S.),
翻译:张天鸽,梁雪梅
中信出版社2009年6月第一版
2001 年圣诞前的几周,荷兰政府查封了索尼公司运往欧洲的130万台 PlayStation 游戏机。是什么令索尼公司面临失去假日抢购这一重要商机的风险?贸易战?还是针对暴力视频游戏的禁运?答案是,在游戏控制器的电线中发现了虽然很少,但已超过法律限制量的有毒元素“镉”。为解决这个“小小的”环保问题,索尼付出了超过了 1.3 亿美元的代价。
本书探讨的正是每一个企业高管在应对企业与社会所面临的环保挑战时,所必须了解的一切。丹尼尔和安德鲁以多年的经验和对全球数百位企业领导人的采访为基础,介绍了企业如何通过将环保思维融入其企业战略,以创出源源不绝的价值——削减成本,降低风险,增加收入,并建立强有力的品牌。
两位作者也提供了明确的建议,通过世界各大企业在这方面的成功和失败,对企业的“从绿到金”之路提供了切实的工具和方法。
沃伦·巴菲特管理日志
编著:江南,钮怿
中信出版社2009年7月第一版
人尽皆知,股神巴菲特是有史以来最伟大的投资家,但他也是一名优秀的管理者。他的管理哲学和投资理念闪烁着理性的光辉,其所领导的伯克希尔·哈撒韦公司以骄人的业绩为世人所惊叹。他的投资和管理哲学简单、客观而理性,堪称投资界和管理界的经典。
本书以管理日志的形式,分12个主题,梳理出365条巴菲特的投资与管理精髓,完整呈现了巴菲特的投资与管理历程,原汁原昧地展现了巴菲特投资理念和管理思想的成长轨迹。结合中国企业实际,深入剖析,给出了“在中国跟巴菲特学什么?”这一问题的答案。
政道与商道
编著:张玉辉
新世界出版社2009年7月第一版
曾国藩熟读中国历史,对官场之道参深悟透,积淀了一整套官场绝学,这套绝学用之于官场,则屡试不爽,这正是挣扎起伏在官场之中的人应该学习的。
胡雪岩从一个仰人鼻息的钱庄伙计,变成富甲东南的商界巨擘,头戴红顶翎身穿黄马褂,大福大贵,天下无人能比。他自有一套从商绝学,这正是在商海之中苦苦拼搏之人应该掌握的。
曾国藩出身普通农家,朝中无任何依傍,二十八岁中第,三十七岁时便官至二品,十年七迁,连跃十级,盾又出将入相。位极人臣,创造了清廷升官最快、保官最稳的官场奇i亦.他宦运如此亨通,究竟是何缘故?
胡雪岩从一个出身贫寒的钱庄小伙计,成为名动天下的“红顶商人”,涉足于钱庄、典当、生丝、粮食、军火、船厂、药店等各个行业,创建了庞大的“商业帝国”,既富且贵,无人能出其右,外号“大清财神”。他商绩如此辉煌,到底凭的什么?
博格长赢投资之道
编著:(美)博格
翻译:李耀廷
中国人民大学出版社 2009年5月第一版
约翰·博格是美国先锋共同基金集团的创始人,美国投资界的至尊级人物,被誉为“指数基金之父”。在《博格长赢投资之道》中,他立足于华尔街的贪欲横流,阐释了与“知足”相关的投资、基金业与人生问题,引导读者在这个充满诱惑的世界中,如何取得长赢投资之道。与巴菲特的投资之道一样,博格认为成功的投资最终都与一个成功的“人”所必备的优良品质息息相关:不要轻易去追逐物质富裕的短暂满足,应该把投资乃至人生的重心放在实现持久性知足上,这才是真正的长赢投资之道。
后资本主义社会
编著:(美)彼得·F·德鲁克
翻译:傅振焜
东方出版社 2009年8月第一版
本书对当前世界正在发生的主要变化进行了透彻与深刻的分析,展现了这些变化将如何影响社会、经济、企业和政治。同时,这些分析也解释了我们如何从一个基于资本、土地和劳动力的社会,转向一个以知识作为主要资源、以组织作为基本结构的社会。
彼得·F·德鲁克,社会思想家,集作家、顾问、教授于一身。1909年11月19日生于奥地利维也纳,1937年移居美国,一生著有41部巨作。1939年出版《经济人的末日》,受到丘吉尔高度赞赏。1954年的《管理的实践》则奠定其大师级的不朽地位。之后的一系列著作构建了现代管理学的根基,因而他被尊称为“管理学教父”。但其本人则坚持以“社会生态学家”自居。通过管理的哲学思想贯彻落实“自由而有功能的社会”愿景。 2002年获美国总统布什颁发的“总统自由勋章”,这是美国公民所能获得的最高荣誉。2005年11月11日辞世,享年95岁。
谁搞垮了通用——百年汽车巨头的十年拯救之路
编著:(美)荷斯坦
翻译:姜珊,高健
人民邮电出版社 2009年8月第一版
本书作者通过对通用汽车公司近10年的调查研究,对话访谈了数十位通用汽车公司的高管、一线经理、设计师、生产线工人和经销商,分析总结了有着百年历史的通用汽车公司为何落到了破产保护的境地,其对于各个利益攸关方的意义何在,他们的管理团队曾经做过哪些努力,以及通用公司的未来在哪里。全书内容翔实,评述客观,观点独到。
本书是所有财经记者、管理学者、咨询人员和企业经营管理者(尤其是汽车业内人士)研究大企业经营与管理问题的必备资料。
威廉·荷斯坦,曾合众国际社(UPI)驻香港记者,因关于邓小平现代化战略的报道而获奖;1985年-1996年担任《商业周刊》编辑,负责亚洲版;1996年以后,专注于研究汽车工业与美国经济,长期撰稿的媒体包括《商业周刊》、《纽约时报》、《财富》等,现为国际汽车业媒体协会理事会成员。
奥巴马智取白宫
编著:汪翔
湖北辞书出版社2009年6月第一版
本书完整深入地回答了:奥巴马是如何赢得美国总统大选的。
对从2002年开始到2009年最后入主白宫,整个过程中的智慧使用,天时地利人和因素,进行了深入全面的剖析。从党内初选对垒到决战麦凯恩,直至进入白宫时的权力交接和就职庆典,对每一个重要关头的战略与战术使用,演讲的内容和相关的背景,都做了很详细的交待和分析。此外,还介绍了奥巴马的华裔军团。对每一个期望在政治与商业战场成功的人,是一本非常值得认真阅读的书。对于那些希望学习演讲技巧,或者只是想学点优雅英文的读者,此书也不可多得。书中提出了许多值得深入研究的问题,对于政治学方面的学者也是一本不错的读物。
像犹太人一样创业
编著:李野新,周俊宏
中国经济出版社 2009年6月第一版
在商业活动中,犹太人诚实守信、注重契约,他们信息灵通、视野开阔,敢于突破陈规陋习,去大胆选择获利丰厚的投资项目,有时囤积居奇,有时分散风险,以敏锐的眼光洞察着市场的千变万化;在推销活动中,犹太商人深谙顾客心理,会巧妙采用商业技巧来实现自己销售商品的目的;犹太商人的商业谋略更是令人佩服不已,他们注重商场中的人脉关系,擅长运筹帷幄,纵横商海,犹太商人扬长避短,将商业谋略发挥到了极致,从而摘取了“世界第一商人”的桂冠。
那么犹太人靠什么积累了巨大的财富,在商业活动中一往无前的呢?靠的是他们古老而睿智的经商秘诀,靠的是他们优秀的个人素质。
本书从辉煌的希伯来文化遗产、诠释睿智的《塔木德》中提取了犹太民族的商战精华。通过大量犹太商人的经典案例,浅显易懂地阐释了犹太商人在经商过程中独特的理念和智慧。并结合创业者在创业过程中所面临的商机选择、经营策略、营销技巧、商务谈判、团队管理、风险管理等方面进行着重描写,力争使本书成为引导创业者走向成功的一部工具书。
撒切尔夫人自传——唐宁街岁月
编著: (英)玛格丽特·撒切尔
翻译: 李宏强
国际文化出版公司2009年5月第一版
撒切尔夫人是20世纪世界政治领域中最杰出的权力女性。她出身低微,没有任何家世背景,凭借个人意志和务实精神,踏入男性占统治地位的政界,最终登上权力的顶峰。
撒切尔夫人初登相位时,大英帝国已丧失了旧日的光荣和梦想,经济衰退,政治孱弱,民心低落,英国被讥讽为“欧洲病夫”。撤切尔夫人以毫不妥协的态度施行一系列政治与经济改革措施,将英国从危机中挽救出来,重归世界实力强国之列。
撒切尔夫人采取的新自由经济政策至今仍具有借鉴意义。她大力减少国家干预,重视发挥市场机制;推行非国有化政策,鼓励私人投资;对工会和罢工采取铁腕策略,削减教育、医疗和社会福利等公共开支。撒切尔夫人在政治领域也坚持强硬路线。她强化与美国的关系,缔造英美联盟;反对欧洲一体化,捍卫英国固有利益;横跨半个地球对抗阿根廷,赢得福克兰岛战争的胜利;与中国就香港问题举行谈判,表现出识时务的一面。所有这些激进且争议巨大的措施被人们称为“撒切尔主义”。支持者认为她带领英国走出经济困境,提升了英国的国际地位;反对者则认为她是一个不折不扣的独裁者、自大狂,几乎毁掉了英国的福利制度。
海盗女王:伊丽莎白一世和大英帝国的崛起
编著:(美)罗纳德
翻译:张万伟,张文亭
中信出版社2009年6月第一版
对未来之敌的怀疑,使我忧心忡忡,亦使我免踏此陷阱之中,种种威胁使我烦忧,不实之言四处流窜,臣民的信仰日渐衰微,但如理智尚存,智慧犹住,这一切本不会发生。——伊丽莎白,写于1571年。
这是一段关于贪婪,权力和阴谋的历史,在内忧外患,残酷的宗教冲突、国库亏空、国防松弛、战争一触即发的形势下,她渴望安全,深谙金钱就是权力的信条。她利用自己的智慧和手腕,以超凡的勇气和魄力,解决财政危机的天资和聪明才智,取得忠贞可靠的枢密院大臣的坚决支持,机智地利用她的那些才艺超群的海上探险家们、勇敢无畏的商人们拓展财源,伊丽莎白一世的权力欲和贪欲缔造了被后人津津乐遂的伊丽莎白时代,开启了大英帝国非同寻常的崛起之路。
她是大英帝国崛起之路的伟大缔造者,她以“终身不嫁”换取了英格兰的独立。这是一个关于贪婪、权力和阴谋的故事。揭开了一段绅士与海盗联手、政商勾结推动大国崛起的隐秘历史。
普京大传
编著:丁志可
中国友谊出版公司 2009年7月第一版
俄罗斯正在强势复兴、重整霸业,而这其中,一切都与普京有关。
这个身材矮小的男人显露出来的却尽是强悍。从总统到总理,角色虽然变换,却依然发挥着决定性的影响力,并用自己的方式规划着俄罗斯的明天。
蒋介石与莫斯科的恩恩怨怨
编著:邢和明
人民出版社 2009年6月第一版
在孙中山同苏联建立友好关系之后,蒋介石就巧妙地利用这个机会“捞取了一笔政治资本”,人们很难想象,如果没有莫斯科的鼎力支持,在国民党内资历尚浅又没有多少根基的蒋介石,能够一跃雨成为仅次于汪精卫的第二号人物!
调度日志管理系统 篇3
传统调度自动化系统中, 对文件的管理有2种方式。一是数据库管理模式, 利用数据库管理系统提供的大字段 (binary large object) 类型[1], 将数据文件直接存储在数据库中。优点是:不需要考虑数据的一致性、容错性等, 完全由数据库管理系统统一处理。缺点是:大字段采用二进制存储数据, 此种操作方式的效率很低, 特别是存储内容比较大时, 占用较大内存, 容易造成数据库服务器死机和服务器等待超时等现象, 不适合对实时性要求高的调度自动化环境。二是数据库将文件通过FTP、RCP等方式存储到HA管理的磁盘阵列中, 优点同样是不需要考虑数据一致性、容错性, 缺点是需要磁盘阵列及HA服务器支持, 硬件成本比较高, 同时一套调度自动化系统中一般只配两台HA服务器和一个磁盘阵列, HA服务器上运行着数据库管理系统, 当传输文件时会影响数据库服务的性能。
本文提出一种文件服务, 采用操作系统文件系统管理文件, 采用基于日志策略保证数据一致性, 通过该服务可方便管理调度自动化系统中的文件。
1. 文件服务的必要性
调度自动化系统的文件有图形文件、报表、断面数据、事故追忆数据、缓冲数据文件等。, 对文件的管理功能包括创建文件、读取文件、修改文件、删除文件, 创建目录、浏览目录、删除目录, 文件版本管理, 以及文件冗余备份功能。应用根据需要自行建立相应的层次关系来管理数据。
由于调度自动化高可靠性要求[2], 如果将数据保存在本地磁盘, 当本机发生硬件故障时, 会导致数据永久丢失, 给系统带来无法估计的影响, 因此, 数据存储的安全性非常重要。容错技术[3]是保证数据安全性的一种重要技术, 对于文件一般采用冗余备份方式。采用冗余备份后, 如何保证数据一致性是一个难点, 需要有相应的一致性模型和策略保证来数据一致性。如果每个应用独自实现文件管理, 需要考虑网络通信、数据管理方式、数据一致性等问题, 会大大增加开发难度和工作量。
采用统一的文件管理方式, 可以减少重复工作, 提高研发效率, 应用可以将研发精力集中在重要业务功能上。通过定义统一的接口, 应用可以快速实现功能, 而不必关心网络通信、数据管理方式、数据一致性等问题。
2. 文件服务的设计与实现
(1) 文件服务的架构。
在现今的电网调度自动化系统中, 为了保证系统的可靠性, 每一个服务运行在不同的节点上, 节点之间通过集群[4]管理, 采用一个主机、多个 (热) 备机模式。当主机节点应用程序出现异常情况时, 会发生主备机切换, 备机中的一个节点按照相关选举算法切换为主机。主备机之间通过数据总线同步数据。
正常运行状态下, 文件服务运行在主服务器节点上, 接收工作站端发送的请求, 处理后返回处理结果, 满足调度文件存储、查询、版本管理等功能, 并维护着主服务器和热备服务器之间数据的一致性。当主机发生硬件故障, 或发生软件异常后, 备机自动切换为主机, 继续提供文件管理服务。
文件服务的架构采用C/S结构, 客户端与服务端之间通过数据总线进行通信。客户端负责参数检查、封装请求数据、解析响应数据等功能, 并在请求失败时再次尝试;服务端负责解析请求数据、封装响应数据、文件管理、日志管理、同步管理、同步锁管理等。文件管理利用文件系统, 完成文件创建、文件更新、文件删除、文件版本管理、目录创建、目录删除等功能;日志管理负责操作日志记录、删除、转储等功能;同步管理负责维持系统内及系统间的数据最终一致性;同步锁管理负责维护所有同步锁信息及锁状态。
(2) 文件服务数据一致性管理技术。
实际生产环境中, 软件异常、硬件故障、网络异常情况经常发生, 极易引发数据不一致问题, 甚至数据文件被破坏的情况。
数据一致性问题有以下几类。
①数据同步过程中主备机切换导致数据不一致问题。
主机在备机同步某一文件时, 突然发生主备机切换, 备机升为主机, 如果此时有客户端请求更新同一文件, 将会导致文件内容被覆盖或被破坏。
解决办法是主机在向备机同步时, 需要先向备机加锁, 加锁成功后, 再同步数据, 同步结束后, 解锁。文件服务接收客户端的操作请求时, 需要先判断操作的文件是否被加锁, 若被加锁, 需等待锁结束才能继续操作, 或直接返回错误信息。
为了避免加锁后, 因软硬件异常导致死锁, 因此锁信息中需要有超时信息, 当锁超过一定时效后, 自动释放资源。
②备机断网导致数据不一致。
备机由于网络故障, 或软件异常, 导致主机无法向备机正常同步数据, 经过一段时间, 消除故障, 备机恢复正常, 但备机上的数据与主机上的数据之间已经有很大的差异, 导致数据不一致。如果此时发生主备机切换, 客户端获取到的数据将是早期的版本。
解决的办法是文件服务处理客户端请求时, 根据操作类型, 将创建、修改、删除文件和创建、删除目录的操作日志记录下来, 而读取文件、罗列目录操作不记录, 日志内容包括操作类型和路径。每个备机生成一份日志。同步程序根据日志进行同步, 同步成功后删除日志。
③系统间数据一致性问题。
根据国网电力二次系统安全防护[5]要求, 调度自动化系统运行在一区, 三区运行WEB信息发布系统。根据运行需要, 一区的部分非结构化数据, 如图形文件、报表文件等, 在一区进行统一维护, 并实时同步到三区WEB发布系统。在部分地调、省调, 还会建立备用调度自动化系统[6], 主调的部分文件也需要实时同步到备调系统中。因此, 文件服务还需支持系统间数据一致性维护功能。
由于每套独立的系统中文件服务配置差异都非常大, 系统间进行数据同步方法区别于系统内同步方法。解决办法是, 接收端收到同步数据后, 根据操作日志在本地再做一次同样的操作, 如操作日志内容是创建文件F, 那么接收端在本地调用接口再做一次创建文件F, 这样接收端本地的所有非结构化管理服务节点都可以完成数据同步。
④同步数据的效率问题。
Rsync[7]算法是数据同步中常用的工具, 通过比较文件属性和文件内容, 可以只同步变化的数据。在同步目录时, 由于Rsync算法需要扫描待同步的整个目录结构, 当目录结构层次、文件数量均比较多时, 性能极其低下, 耗时长, CPU负荷高, 磁盘IO高, 容易造成系统崩溃。
采用增量同步方式能够较好解决以上问题。增量同步数据时, 根据操作日志, 只同步变化的数据, 某一时期内, 变化的数据量远少于整体数据量, 因此占用系统资源较低。
由于TCP的特性, 逐个处理操作日志性能非常低, 采用将多个操作日志的相关数据合并传输可以大大提高同步效率。
3. 结语
本文提出的文件服务管理方法, 采用本地文件系统管理数据, 采用操作日志、同步锁、跨系统同步策略等方法确保数据的一致性, 具有高可靠性、高实时性, 部署简单、易于维护, 可以最大限度保证数据一致性。目前该方法已在多个省调、地调系统中得到实际工程应用, 取得了预期效果。
参考文献
[1]韦琳, 袁泉, 霍剑青, 等.E-learning非结构化数据管理系统的构建与实现[J].中国科技大学学报, 2010 (6) :623-626.
[2]中国电力企业联合会.DL/T 5003-2005电力系统调度自动化设计技术规程[S].北京:中国电力出版社, 2006.
[3]辛春生, 陈宗斌.分布式系统原理与范型[M].北京:清华大学出版社, 2008.
[4]赵传霖, 吴文传, 张伯明, 等.面向新一代能量管理系统的集群计算中间件[J].电力系统自动化, 2008 (18) :14-17.
[5]程旭, 梁云, 俞俊.电力调度分布式工作流设计与实现[J].电力系统自动化, 2012 (21) :93-94.
[6]李立新, 谢巧云, 袁荣昌, 等.电网调度云灾备系统优化分析与设计[J].电力系统自动化, 2012 (23) :82-85.