LM算法小结

LM算法小结（通用8篇）

篇1：LM算法小结

基于LM优化算法的神经网络在航空发动机转子故障诊断中的应用

针对传统BP算法存在的.收敛速度慢以及容易陷入局部最小点等问题,给出了两种改进BP算法:LM(Levenberg-Marquardt)优化算法和SCG(Scaled Conjugate Gradient)算法,应用这两种算法对航空发动机转子故障进行诊断研究,比较它们之间的研究结果,仿真和实验表明LM优化算法比SCG算法具有更高的准确度和较快的收敛速度,可行性更强.

作 者：冯今朝 王仲生 FENG Jin-Zhao WANG Zhong-Sheng  作者单位：西北工业大学航空学院,陕西,西安,710072 刊 名：宇航计测技术  ISTIC英文刊名：JOURNAL OF ASTRONAUTIC METROLOGY AND MEASUREMENT 年，卷(期)：2007 27(2) 分类号：V328 关键词：+SCG算法   +LM优化算法   航空发动机   转子   故障诊断  

篇2：LM算法小结

一、PID 算法简介

顾名思义，P 指是比例（Proportion），I 指是积分（Integral），D 指微分（Differential）。比例P：比例控制是一种最简单的控制方式。其控制器的输出与输入误差信号成比例关系。偏差一旦产生，控制器立即就发生作用即调节控制输出，使被控量朝着减小偏差的方向变化，偏差减小的速度取决于比例系数Kp，Kp越大偏差减小的越快，但是很容易引起振荡，尤其是在迟滞环节比较大的情况下，Kp减小，发生振荡的可能性减小但是调节速度变慢。但单纯的比例控制存在稳态误差不能消除的缺点。这里就需要积分控制。

积分 I：在积分控制中，控制器的输出与输入误差信号的积分成正比关系。对一个自动控制系统，如果在进入稳态后存在稳态误差，则称这个控制系统是有稳态误差的或简称有差系统。为了消除稳态误差，在控制器中必须引入“积分项”。积分项对误差取决于时间的积分，随着时间的增加，积分项会增大。这样，即便误差很小，积分项也会随着时间的增加而加大，它推动控制器的输出增大使稳态误差进一步减小，直到等于零。因此，比例+积分(PI)控制器，可以使系统在进入稳态后无稳态误差。实质就是对偏差累积进行控制，直至偏差为零。积分控制作用始终施加指向给定值的作用力，有利于消除静差，其效果不仅与偏差大小有关，而且还与偏差持续的时间有关。简单来说就是把偏差积累起来，一起算总帐。

微分 D：在微分控制中，控制器的输出与输入误差信号的微分（即误差的变化率）成正比关系。自动控制系统在克服误差的调节过程中可能会出现振荡甚至失稳。其原因是由于存在有较大惯性组件（环节）或有滞后组件，具有抑制误差的作用，其变化总是落后于误差的变化。解决的办法是使抑制误差的作用的变化“超前”，即在误差接近零时，抑制误差的作用就应该是零。这就是说，在控制器中仅引入“比例”项往往是不够的，比例项的作用仅是放大误差的幅值，而目前需要增加的是“微分项”，它能预测误差变化的趋势，这样，具有比例+微分的控制器，就能够提前使抑制误差的控制作用等于零，甚至为负值，从而避免了被控量的严重超调。所以对有较大惯性或滞后的被控对象，比例+微分(PD)控制器能改善系统在调节过程中的动态特性。

它能敏感出误差的变化趋势,可在误差信号出现之前就起到修正误差的作用,有利于提高输出响应的快速性,减小被控量的超调和增加系统的稳定性。但微分作用很容易放大高频噪声,降低系统的信噪比,从而使系统抑制干扰的能力下降。

增量式PID算法： Ki=Kp*Ts/Ti;Kd=Kp*Td/Ts;Kp为比例项系数 ；Ki为积分项系数 ；Kd为微分项系数;Ti为积分时间常数；Td为微分时间常数 ；Ts 为采样周期常数 上述公式进一步推倒：

Δu(k)= Ka * e(k)+ Kb * e(k-1)+ Kc * e(k-2);Ka=Kp*(1+Ts／Ti+ Td/Ts)Kb=（-1）*(Kp)*(1+2Td/TS)Kc=Kp*(Td/TS)代码如下：

float PID_Dispose(flaot D_value){ static flaot Ek = 0;static flaot Ek_1 = 0;static flaot Ek_2 = 0;Ek_2 = Ek_1;Ek_1 = Ek;Ek = D_value;return((float)(Ka*Ek + Kb*Ek_1 +Kc*Ek_2)）;} D_value定义为float 类型（据情况而定），此变量是设定值与系统输出量的差值。PID 调试一般原则

篇3：LM算法小结

BP神经网络是目前应用最广泛的神经网络学习算法,有近90%的神经网络是基于BP算法[2],虽然标准的BP算法具有简单、易行、计算量小、并行性强等优点,但是人们在使用的过程中逐渐发现BP算法存在学习时间长、收敛速度慢、易陷入局部最小等问题,网络结构的选择尚无一种统一而完整的理论指导,一般只能由经验选定,网络训练失败的可能性较大[3—7]。在实际应用中原始的BP算法很难胜任,为了克服存在的各种缺点,现提出了基于Levenberg-Marquardt算法(LM算法)的神经网络方法来进行语音识别。通过仿真实验,LM算法大大减少了网络训练次数,避免使网络陷入局部极小,加快了网络的收敛速度。

1 神经网络构造及其算法

1.1 前馈神经网络隐含层节点优选

隐节点的作用实质上是根据隐节点的传递函数和隐节点的个数将n维输入空间切割成不同形状的特征空间,然后根据命题的要求结合输出接点的传递函数及节点数对输入样本空间构造出一个期望的判决域,因此隐层的个数及其节点数的多寡对形成期望的判决域的构造速度及其判决精度都是至关重要的。这里采用一种基于黄金分割原理的最速误差下降优化方法求解单隐含层节点数。

其基本思想为:先成倍增加隐节点数直到找到误差下降幅度最大的区间,确定最佳隐节点数的大致范围,如果随着隐节点数增加误差下降幅度较小,甚至出现负值,则去掉那些节点,然后采用黄金分割法寻找到最优的节点数。

具体步骤如下:

(1)在大量的试验和实际应用中,比较理想的隐含层节点数可以用经验公式

点数为ni,输出节点数为nj,隐含节点数为nc;

(2)分别计算隐节点数为2m×nc(m=0,1,2,…)时,按照LM算法对少量样本进行训练的误差,用Ea表示隐节点数为a的网络在特定周期下的误差,用Eb表示隐节点数为b的网络在特定周期下的误差,网络在特定周期下的误差下降幅度为Ea→b=(Ea-Eb)/Ea,找到误差下降最大幅度区间,记为(nc1,nc2);

(3)在[nc1,nc2]上,取n1=0.618(nc2-nc1)+nc1,n2=0.382(nc2-nc1)+nc1,n1,n2为对称点,比较在特定迭代次数下对同一样本在隐节点数分别为n1,n2时的总误差E,舍“劣”取“优”。如果n1的试验结果为优,就去掉[nc1,n2),留下[n2,nc2];如果n2的试验结果为优,就去掉[n1,nc2),留下[n1,nc1];如果试验结果一样,就去掉[nc1,n2)和(n1,nc2],留下[n1,n2];

(4)在留下的部分重复试验,直到隐含层节点数no满足使误差达到最小,即Eno=min{E(nc1),E(nc2),E(n1),E(n2),…},节点数no为最终得到的满意结果。

1.2 LM算法描述和分析

LM算法是一种结合了高斯-牛顿法和梯度下降法优点的快速算法,它在靠近某个平方极小点时平方收敛,具有高斯-牛顿法的快速收敛特性;在远离解时沿误差曲面搜索,对误差进行修正,具有梯度下降法的全局搜索特性,由于LM算法利用了近似二阶梯度导数信息,使用时不需要过多的调整参数,比梯度下降法快得多。具体描述如下。

设w(k)表示第k次迭代的权值所组成的向量,新组成的向量w(k+1)可根据下面的式子得到

网络的输入误差指标函数E(w)可以表示成:

式中ek(w)(k=1,2,…,N)为误差,dk表示期望输出,yk表示实际输出。

对于牛顿法,是通过最小二乘法求解神经网络的误差函数E(w)得到调整规则为

式中2E(w)为输入误差E(w)的Hessian矩阵;E(w)表示梯度,对于2E(w)进行近似计算,可以证明

其中J(n)为ek(w)的Jacobian矩阵,S(n)为误差矩阵,

的Hessian矩阵。在靠近极值点时S(n)≈0,所以牛顿法可以修正为高斯牛顿法

LM算法将高斯-牛顿算法又经过改进,表达式如下

其中比例系数μ>0为常数,I为单位矩阵。

从式中可以看出当接近一个解时,μ逐渐减小,权值调整类似高斯-牛顿法;当远离一个解时,μ逐渐增大,则权值调整接近梯度下降法。由于LM算法近似了二阶导数信息比梯度下降法快得多。在实际的操作中,μ是一个试探性的参数,对于给定的μ,如果求得的Δw能够使误差指标函数E(w)降低,则μ减小,反之,则μ增加。实践证明,LM算法可以较原来的梯度下降法提高速度几十甚至上百倍,大大改善网络的性能。

1.3 LM算法实现的步骤

Step1初始化训练参数,给出训练误差允许值ε,比例系数初始值μ0、增量因子μinc、减量因子μdec、最大值μmax和β,最小梯度gmin,以及初始化权值和阈值向量w0,令k=0,μ=μ0;

Step2根据输入向量,计算网络的输出及误差指标函数E(k)(w);

Step3如果E(k)(w)≤ε,表明算法已经收敛,停止;否则,转到Step4;

Step4用式(6)计算Jacobian矩阵J(k)(n);

Step5用式(8)计算Δw(k);

Step6用式(1)计算新的权值向量w(k+1)=wk+Δw,用式(2)计算出E(k+1)(w)和E(k+1)(w);

Step7若E(k+1)(w)

Step8如果E(k+1)(w)≤gmin,则达到局部极小值,停止;否则,保留w(k+1),令k=k+1,μ=μ/μdec,转向Step2,继续下一个训练;

Step9如果E(k+1)(w)≤gmin,则达到局部极小值,停止;否则,不保留w(k+1),令μ=μμinc,如果μ≥μmax,则停止;否则转向Step5,继续调整权值。

2 基于LM算法语音识别系统的试验

2.1 试验设计

神经网络语音识别实验设计分为以下几步(见图1)。

(1)语音信号的前端处理主要包括对语音信号进行采样量化、预加重、加窗分帧、端点检测等。经过前端处理后,增加了语音的高频分辨率,语音信号变得更加平滑,可以确切判断出语音信号的起始点,提高了后面处理的速度。

(2)特征参数提取主要是将前端处理过的语音信号冗余部分去掉,把代表信号本质特征的参数抽取出来。本文采用MEL频率倒谱系数(MFCC),其具有较好的识别性能和抗噪能力。

(3)BP神经网络结构优化根据输入数据的特点确定网络的输入层和输出层的节点数,利用黄金分割优选法确定隐含层节点数。

(4)语音信号的训练和识别将已知的样本,经过前端处理和特征提取后的特征矢量参数送入网络,采用LM算法进行训练。待网络训练成功后,将待识别的语音信号输入,即可得到识别结果。

2.2 仿真试验

(1)首先将语音信号进行8 k Hz和16 bit的A/D转换后存为.wav格式的语音文件,这个过程可以通过Window XP自带的录音机或录音软件完成。然后通过预加重滤波消除低频干扰。在提取语音信号特征前,对语音信号进行分帧,帧长取32 ms,帧移为10 ms,并用汉明窗加以平滑。在计算完信号的短时能量和过零率后求出12阶Mel频率倒谱系数,最后将得到的倒谱系数序列规整为一定长度。试验选取“四川理工”四个汉字作为输入语音,图2为端点检测的结果。

(2)将提取出的Mel频率倒谱系数经过归一化处理后的数据进行模板的训练,输入层神经元个数为24,隐含层神经元根据黄金节点法得到,选取25时为最优,输出层为1个神经元。

通过试验得到网络训练参数:学习因子lr=0.4,比例系数的初始值μ0=0.001,允许误差ε=0.001,下面是分别采用LM算法,拟牛顿法和最速梯度下降算法的时的网络训练结果仿真图(见图3),由图可以看出利用LM算法的BP网络,在14步时就完成训练目标,误差为0.000 961,利用拟牛顿算法,在313次达到训练要求,在14步时误差为0.086 9,而利用最速梯度下降法在第1 000步时仍未达到收敛。利用LM网络可以大大减少网络的训练时间。当训练样本数量非常大时,可以节省成本,提高效益。

3 结论

利用LM算法的BP神经网络有效解决了标准BP算法存在的收敛速度慢,易陷入局部极小等问题,当训练样本大小合适,有一定泛化性,网络结构和规模合理时,提高了网络的学习速度,减少了运算次数,实现孤立词语音识别是可行的。

参考文献

[1]蔡莲红,黄德智,蔡锐.现代语音技术基础与应用.北京:清华大学出版社,2003

[2]阎平凡,张长水.人工神经网络与模拟进化计算.北京:清华大学出版社,2004;11:1—82

[3]余华,曹亮,李启元.BP神经网络算法的改进手写体汉字识别中的应用.江西师范大学学报(自然科学版),2009;33(5):598—603

[4]李来强,王树林,赵兵涛.BP神经网络的LM算法及其对颗粒碰撞振动阻尼的预测.上海理工大学学报,2006;28(4):331—333

[5]Wilamowski B M,Chen Yixin,Malinowski A.Efficient algorithm fortraining neural networks with one hidden layer.International JointConference on Neural Networks,Washington,D.C,July10—16,1999:1725—1728

[6]Wilamowski BI,plikci S,Kayank O,et al.An algorithm for fast con-vergence training neural networks.International Joint Conference onNeural Networks,Washington,D.C,July15—19,2001:1778—1782

篇4：LM算法小结

关键词 BP神经网络；电力负荷预测；LM算法

中图分类号 F224 TP183 文献标识码 A

Power System ShortTerm Load Forecasting Based

on LevenbergMarquardt Algorithm BP Neural Network

LIU Jinbo， CHEN Xin， LI Xinhua

（School of Mathematics and Computational Science， Changsha University

of Science And Technology， Changsha，Hunan 410004，China）

Abstract By utilizing the normalization for the input load values of BP neural network and adopting LevenbergMarquardt algorithm， this paper established an improved BP neural network and investigated the power system shortterm load forecasting. LevenbergMarquardt algorithm improves the convergence speed and the load forecast accuracy. The simulation results show that the improved BP neural network can offer higher forecast precision and has greater applicability.

Key words BP neural network； Power load forecasting； LevenbergMarquardt algorithm

1 引 言

电力负荷预测是以电力负荷为对象进行的一系列预测工作.从预测对象来看，电力负荷预测包括对未来电力需求量（功率）的预测和对未来用电量（能量）的预测以及对负荷曲线的预测.其主要工作是预测未来电力负荷的时间分布和空间分布，为电力系统规划和运行提供可靠的决策依据.电力系统短期负荷预测能够预测提前一天至一周的电力负荷值，它不仅对确定日运行方式有十分重要的作用，而且也是确定负荷调度方案、地区间功率输送方案和机组组合方案所不可或缺的.电力负荷预测的结果，不仅对大中型电力用户来说，在安排生产计划、估算经济成本和效益、以及规划近、中期的生产规模都具有十分重要的意义，而且对地方政府在资源配置、产业布局等经济决策中有重要的参考价值[1].

人们经过长期的研究与实践开发了多种电力负荷预测方法，主要分为定量预测技术及定性的经验预测技术.常用的定性经验预测方法有主观概率法、专家预测法（专家会议法、德尔菲法等）、类比法等方法.常用的定量预测技术有人工神经网络预测技术、经典技术（弹性系数法、负荷密度法、单耗法、比例系数增长法等）、模糊预测技术、回归模型预测技术、专家系统预测技术、趋势外推预测技术、灰色模型预测技术、优选组合预测法、时间序列预测技术等[1，2].

经 济 数 学第 32卷第2期

刘进波等：基于LM算法的BP神经网络的电力负荷短期预测

目前利用BP神经网络技术对电力负荷进行短期预测是国际上公认为比较有效的方法[3，5-11]，但传统的BP神经网络技术因收敛速度比较慢，学习效率低，泛化能力差等缺陷而有待进一步的改进和完善，正因于此，本文研究了基于LM算法的BP神经网络的电力负荷短期预测问题，在总结现有理论成果的基础上主要对BP神经网络的算法、网络结构、输入数据的预处理等方面进行了研究，并应用到电力负荷的短期预测上.仿真结果表明，改进了的BP神经网络具有很高的预测精度和较强的适用能力.

2 BP神经网络

2.1 BP神经网络的结构

在电力系统负荷预测中，目前应用较多的是反向传播网络（Back Propagation Neural Networks），简称BP网络.它是由Rumelhart等研究者为了解决多层网络的学习问题于1986年提出来的.BP网络由输入层、隐含层、输出层这三个神经元依次组成，各层次之间的神经元按照一定的权重相互连接，但同一层次之间的神经元没有形成反馈连接.

1989年，Robert HechtNielsen证明了对于任何闭区间内的一个连续函数都可以用一个隐含层的BP网络来逼近（拟合），因而，一般选用一个三层的BP网络来进行训练学习[3].

2.2 标准BP算法

BP算法是一种有监督的学习算法.其基本思想是学习过程由信号的正向传播与误差的反向传播两个过程组成.信号正向传播时，输入样本从输入层传入，经过各隐藏层逐层处理后，传向输出层.若输出层的实际输出与期望的输出不符，则转入误差的反向传播阶段.误差反向传播是将输出误差以某种形式通过隐藏层向输入层逐层反传，并将误差分摊给各层的每个单元，从而获得各层每个单元的误差信号，这种误差信号将作为修正各单元权值的依据.此种信号正向传播与误差反向传播的各层权值调整过程，是不断重复地进行的.权值不断调整的过程，也就是网络的学习训练过程.这种过程一直进行到网络输出的误差减少到可接受的程度，或进行到预先设定的学习次数为止[1-3].

nlc202309031228

2.3 BP算法的不足

BP算法原理简单，实用性强，是一个很有效的算法，许多问题都可以由它来解决，因此，BP模型成为神经网络的重要模型之一.但是BP算法本身也存在一些不足：①神经网络连接权初值、隐层节点数目以及网络参数的选取往往依靠经验.②BP算法的学习效率低，收敛速度比较慢，一般需要成千上万次的迭代计算.③BP算法采用梯度下降法进行学习，可能会出现局部极小点[1-3].

2.4 BP算法的改进

针对标准BP算法存在的不足，BP算法在实际应用中很难胜任，因而出现了很多种改进算法.①拟牛顿算法；②附加动量项方法；③一步正割算法；④量化共轭梯度法；⑤梯度自适应算法；⑥动量及自适应算法；⑦LevenbergMarquardt（LM）算法等.本文采用的是LM算法，具体步骤如下：对于LM算法调整权值的规则为

Δw=JTJ+μ-1I -1JTe， （1）

式中：J为误差对权值微分的Jacobian矩阵；e是误差向量；μ是一个标量；I是单位矩阵.当μ很大时，上式就接近于梯度法；当μ很小时，上式就变成了GaussNewton法，在这种方法中，μ也是自适应调节的.

随着μ的增大，LM的项JTJ可以忽略.因此学习过程主要根据梯度下降，即μ-1JTe项.只要迭代使得误差增加，μ也就会增加，直到误差不再变化为止，但是，若μ过大，则会使学习停止（因为μ-1JTe项接近0，当已经找到最小误差时，就会出现学习停止的情况，这就是为什么μ达到最大值时要停止学习的原因[4].

3 改进的BP算法在电力系统

短期负荷预测中的应用

3.1 预测模型输入数据的选择和处理

在利用BP神经网络进行预测时，关键是对历史数据的选择和处理，它直接关系到计算速度的快慢和预测结果的好坏.

历史数据指的是历史上每天的实际负荷值，它反映了一段时期内的负荷水平.在负荷预测中，预测日的相邻日，指的是预测日前一天和临近历史（三星期内）负荷相关性比较好，就是相似日.在本文中，输入量将采用提前19天对应小时的负荷.

对输入数据进行归一化处理，目的是为了避免神经元饱和现象.首先通过式（2）将负荷值换算到-1，1区间的值，然后在输出层用式（3）换算回负荷值.

2） 隐含层

本文采用含一个隐含层的三层BP网络.由于隐含层节点数的问题过于复杂，所以至今为止尚未找到一个很好的解析式，隐含层节点数通常是根据自己进行试验和前人设计所得的经验来确定.一般认为，隐含层节点数与输入输出单元数多少、求解问题的要求都有直接的关系.此外，隐含层节点数过多会导致过长的学习时间；而隐含层节点数太少，容错性差，识别未经学习的样本能力低，因此必须综合多方面因素来设计.依据前人经验，本文采用下面的公式进行设计[2]：

4） 用BP网络结构图预测

本文建立的负荷预测神经网络结构如图1所示.网络的输入量为24个，输出量为24个，隐含层节点数为10个.输入数据中的所有负荷值都要经过负荷数据的预处理和归一化处理，网络输出数据回归是负荷值.

图1 预测用BP网络结构图

3.3 程序流程图

本文是基于Matlab神经网络工具箱做的仿真，预测模型程序实现流程图如图2所示.

图2 应用LM算法改进BP算法的短期预测流程图

3.4 实证分析

本文运用上面的模型对东北电网10月13—15日实际电力系统负荷进行预测.

3.4.1 训练误差性能曲线

1）标准BP算法，见图3.

2）采用LM算法改进的BP算法，见图4.

3.4.2 预测结果

东北电网10月13日预测结果与实际负荷比较见图5.

东北电网10月14日预测结果与实际负荷比较见图6.

东北电网10月15日预测结果与实际负荷比较见图7.

图3 标准BP算法收敛曲线

图4 采用LM算法改进的 BP算法收敛曲线

时间/H

图5 10月13日负荷预测数据与实际数据对比图

3.4.3 结果分析

由图2和图3可知，当采用标准BP算法时，训练经过了2 000次仍未达到要求的目标误差0. 001，说明采用标准BP算法进行训练时收敛速度较慢；当采用LM算法改进的BP算法时，由图4可知仅仅训练21次就达到要求精度，训练时间大大缩短.预测负荷的相对误差最大为3.57%，最小为0.01%，平均误差仅为1.41%，预测精度良好，显然满足电力系统短期负荷预测的要求.

时间/H

图6 10月14日负荷预测数据与实际数据对比图

时间/H

图7 10月15日负荷预测数据与实际数据对比图

4 结 论

BP神经网络是一个由简单信息单元组成的高度相关的网络系统，是有着良好的非线性逼近能力的非线性动力学系统，因此在电力系统短期负荷预测中有着广泛的应用.然而一般的BP神经网络具有收敛速度慢、容易陷入局部极小点、迭代时间长等缺点，为克服以上缺陷，人们经过长期的研究和实践提出了各种算法改进的BP神经网络.本文采用的基于LM算法的BP神经网络有效地提高了BP神经网络的收敛速度和负荷的预测精度.仿真结果表明，基于LM算法的BP神经网络对电力负荷的短期预测具有很高的预测精度和较强的适用能力.

参考文献

[1] 刘凯.基于改进BP神经网络的短期负荷预测研究[R].合肥：河海大学， 2005.

[2] 吕毅.基于改进BP算法的电力系统短期负荷预测[R].华北电力大学，2007.

[3] 郗亚辉.基于神经网络的电力负荷中长期预测研究[D].河北大学， 2006.

[4] 李方明， 陈国兴.基于BP神经网络的饱和砂土液化判别方法[J].自然灾害学报，2005， 14（2）： 108-114.

[5] 钟波，周家启，肖智.基于粗糙集与神经网络的电力负荷新型预测模型[J].系统工程理论与实践，2004， 24（6）：113-119.

[6] 张大海，江世芳，毕研秋，等.基于小波神经网络的电力负荷预测方法[J].电力自动化设备，2003， 23（8）：29-32.

[7] 胡云生，郑继明.基于主分量分析和神经网络的电力负荷预测[J].自动化技术与应用， 2008， 27（8）：1-3.

[8] 于海燕，张凤玲.基于模糊神经网络的电力负荷短期预测.电网技术[J]，2007， 31（3）：68-72.

[9] 杨龙. 基于神经网络的电力系统短期负荷预测研究与实现[R].长沙：中南大学，2009.

[10]MARA Lúcia M LOPES， C R MINUSSI， ANNA DIVA P. LOTUFO. Electric load forecasting using a fuzzy art & artmap neural network[J].Applied Soft Computing， 2005， 5（2）：235-244.

[11]M BECCALI， M CELLURA， V L BRANO，et al. Forecasting daily urban electric loadprofiles using artificial neural networks[J].Energy Conversion and Management， 2004， 45（2） ：2879-2900.

篇5：四线电阻触摸屏校准算法小结

(一)四线电阻屏的触摸板坐标和屏坐标有如下关系： X0 = xfac * X + xoff;Y0 = yfac * Y + yoff;其中X0,Y0是屏的物理坐标，xfac,yfac为x,y方向的比例因子，xoff,yoff为x,y方向的偏移 量.既然说到了校准，那么这四个量肯定是不变的，所以我们可以用至少两个屏的物理坐标点就 可算出这四个量,也即是两点校准法，由于按下屏后读出的是X,Y值，而校准时用的X0,Y0 也是已知的，那么就是解四元一次方程组了,算法如下：

(X1,Y1)和（X2,Y2）是用于校准时屏上显示的两个点，这两个点的坐标必须不一样，是已知的;(x1,y1)和(x2,y2)是校准时读取的被按下的两点的触摸板坐标值;有如下方程组：

X1 = xfac * x1 + xoff;// 1 Y1 = yfac * y1 + yoff;// 2 X2 = xfac * x2 + xoff;// 3 Y2 = yfac * y2 + yoff;// 4 解得：-1 得xfac =(X2-X1)/(x2-x1);//得到x轴方向的比例因子 + 1 得xoff = [(X2 + X1)-xfac(x2 + x1)]/2;//得到x轴方向的偏移量 4-2 得yfac =(Y2-Y1)/(y2-y1);

//得到y轴方向的比例因子 4 + 2 得yoff = [(Y2 + Y1)-yfac(y2 + y1)]/2;//得到y轴方向的偏移量

OK!所谓的三点触摸校准，四点触摸校准只不过是加了可靠的滤波算法，因为触摸笔和屏 的接触不是很准确的！而像素点是很小的，所以通常都用四点校准，而且经验证这此算法是 必须加的，否则很不准,参见STM32学习笔记相关实验实验例程，已验证通过理论知识: * 触摸屏实际是在普通的lcd 上贴了一个触摸膜, 没有原生的触摸屏 校准公式

X液晶= ax + by + c

x,y是触摸屏 Y液晶= dx + ey + d 公式原理

X,Y的公司类似, 这里就已X液晶的公式为例 先说a 首先, 液晶和触摸膜的分辨率通常是不一样的, 如液晶分辨率640*480, 触摸膜分辨率 1024 * 768, 则这时就需要把 触摸膜的分辨率 乘一个系数才和液晶分辨率对应, 这里 就是ax中的a, 这里a = 640 / 1024 = 0.625 再说c 由于安装的机械问题, 可能有水平的平移, 这里就是c 最后说b 一开始还以为公式错了, 为什么x的东西还有y的事, 原理还是安装机械的问题, 若膜和lcd 安装有一定的倾斜角度y就不是0了 计算abcdef参数

对应abc和def来说是独立的, 类似的, 下面以计算abc为例

有3个未知数abc,显然需要3个方程 M[0] = A * x[0] + B * y[0] + C M[1] = A * x[1] + B * y[1] + C M[2] = A * x[2] + B * y[2] + C M[0]~M[2]代表lcd 的坐标, x[0]~x[2], y[0]~y[2]是触摸膜坐标

这3个点不能在同一条直线上, 在校准过程中, 在源代码中给M[0]~M[2]赋值, 然后x[0]等是

从驱动读数,最后解方程即可 最后abc表达式, F=(Xt[0]-Xt[2])*(Yt[1]-Yt[2])-(Xt[1]-Xt[2])*(Yt[0]-Yt[2]);//计算参数

A=(Xd0-Xd2)*(Yt[1]-Yt[2])-(Xd1-Xd2)*(Yt[0]-Yt[2]);B=(Xt[0]-Xt[2])*(Xd1-Xd2)-(Xd0-Xd2)*(Xt[1]-Xt[2]);C=Yt[0]*(Xt[2]*Xd1-Xt[1]*Xd2)+Yt[1]*(Xt[0]*Xd2-Xt[2]*Xd0)+Yt[2]*(Xt[1]*Xd0-Xt[0]*Xd1);D=(Yd0-Yd2)*(Yt[1]-Yt[2])-(Yd1-Yd2)*(Yt[0]-Yt[2]);E=(Xt[0]-Xt[2])*(Yd1-Yd2)-(Yd0-Yd2)*(Xt[1]-Xt[2]);F=Yt[0]*(Xt[2]*Yd1-Xt[1]*Yd2)+ Yt[1]*(Xt[0]*Yd2-Xt[2]*Yd0)+ Yt[2]*(Xt[1]*Yd0-Xt[0]*Yd1);

篇6：LM公司内控机制完善的论文

全球经济一体化对企业而言既有机遇也有挑战，特别是对于我国成长型的中小企业，生存与发展的不确定性大大提升。至于机遇，主要是国家陆续出台了很多针对中小企业的优惠政策以及扶持计划，同时在税收、技术开发等方面也给予了一定的补贴；另外，政府为中小企业也提供了一定的资金融通绿色通道，为符合条件的中小企业提供发展基金以及资助。在挑战方面，主要是全球金融危机爆发以来，世界经济一直处于非常不稳定的状态，而且总体上呈现出下滑的态势。另外，国内消费价格指数一直居高不下，导致通货膨胀率随之提高，使中小企业的成本负担越来越重。因此，我国成长型的中小企业应该怎样克服市场环境中的风险、提升内控有效性成为亟待解决的问题。

―、LM公司内部控制机制简介

第一,LM公司为其发展设定了愿景，即发展成为中国饼业的明星品牌，打造流传百年的老字号。同时，企业还以愿景为基础，设定了不同阶段的发展目标。当前的主要目标就是要提升销售量与销售额；同时提高市场覆盖率，提升顾客满意度等。如果从战略管理层面分析的话，那么LM公司当前的主要发展目标就是成长，也就意味着该公司是一间成长型的中小企业。第二，LM公司借助SWOT分析法综合分析了当前的环境，并评估了各类运营风险。具体分析与评估内容见表1。第三,LM公司制定了一系列的财务以及会计内控制度,从而有效提升财务工作的有效性。第四，LM公司为了提升信息的互换与共享效率，使用了电子信息系统,对公司各项业务进行网络化管理。同时，公司还计划随着业务范围的扩大,建立基于ERP的信息管理系统，从而实现公司内部信息的即及时共享，提升公司的内控水平。

此外，笔者也发现了该公司内控存在的问题，具体表现在：公司内部环境、公司内控机制、内控监管三方面，为了提升内控的有效性,LM公司必须对这三方面进行整改。

二、LM公司内部控制制度的完善建议

(一）LM公司内部环境急待改善

对于任何一家公司来说，良好的内部环境都是成功实现内控目标的先决条件。通过调研,本文认为LM公司主要需要从组织结构、岗位职责以及人事管理方面进行完善。当前LM公司的组织结构见图1。通过图1可知，LM公司组建了专门的专家委员会，这样能够有效提升决策的科学性与合理性；同时公司还设置了战略管理部，对各类战略进行统一管理。其中不合理的地方就是将连锁经销部、市场部以及早餐公司并列起来进行管理，尽管这样可以显示出LM公司当前进行的是以市场为导向的经营活动，可并列管理的方式过于模糊，很容易造成管理混乱以及责权不清。

图1LIM公司组织结构示意图本文在详细分析了LM公司的业务特点后，认为其可以实行品牌与产品双线管理的模式，首先，各部门将主要精力都投入所负责的品牌或者产品上，从而提升公司对市场环境变化的适应性，进而推动公司快速成长；其次，明确各部门负责的产品或者品牌,从而确保责权清晰。

人事管理对于公司的内控来说，虽然并没有直接的推动作用，但却是内控执行的重要保障。实际情况是，成长型中小企业既需要大量的关键人才补充，又因为没有合理的人才培育体系以及考评、激励体系，导致人才流失情况非常严重。所以，为了提升LM公司的人力资源管理效率,建议做好以下几项工作。首先，完善职位体系，明确公司所有岗位的工作职责与工作内容，同时将内控措施融进工作内容里；其次,人事部门需要制定规范的人力资源评估流程，并根据绩效评估结果制定相关岗位员工的薪资待遇水平。特别是为了提升内控的有效性，应该量化内控工作从而实现对员工全方位的工作评估。这样不但能够提升员工对内控工作的重视程度，还能提升他们的工作责任心；最后，做好了上面两项工作之后，LM公司需要建立完善的内部培训体系。内部培训体系不但包括专业知识以及职业技能的提升，还包括职业生涯发展以及职业道德提升等方面。这样可以显著提升员工对公司的认同感。

(二）内控机制方面

通过调研之后将LM公司当前已经建立起来的内控制度总结为表2。表2的这些制度虽然能够对这些业务起到一定的规范作用，但是过于宏观,LM公司可以针对上述业务环节再进行内控管理制度的细化，从而提升内控效率。具体的细化过程为首先，对采购以及付款业务环节,应进行如表3所示的控制。其次,对生产以及储存环节,应进行如表4所示的控制。最后，对销售以及回款环节应进行如表5所示的控制。

表2LM公司已经建立起来的内控制度

(三）内控监管方面

通过实地调研了LM公司审计部的工作之后，认为要配合公司的发展战略，最好保持内审部门的独立性。当前内审部门的.工作明显会受到公司个别高级管理层的影响，实际上这对公司内控质量的提升是有百害而无一利的，应该改变这种局面。LM公司进行内控监管完善的时候，可以从以下几方面入手。首先，理顺工作流程。LM公司应该结合自身的经营情况与发展战略理顺内控监管工作流程，因为只有这样才可以科学制定内控考评的范围以及标准,从而确定考评样本,进行相关检验，并根据检验结果对公司内控进行总体评估，再将评估结果汇总为内控分析报告下发给责任部门进行相应的改进与完善。其次，完善内控检验流程。下面以销售合同以及回款这两个子环节为例进行说明。分别见表6和表7。借助表6、表7,可以得出检验结果,也就是究竟是哪个具体的业务环节存在问题，导致内控有效性处于较低水平。不过，做完了检验工作并不代表评估工作就全部完成了，实际上，还必须对存在问题的业务环节进行分析，进而找出导致问题的原因，

并根据原因的具体特性，制定针对性的改进建议；然后将评估结果以及改进建议一并下发至责任部门，要求他们结合自身的实际情况进行整改；责任部门整改之后，内审部门还要检查整改结果,从而保证检验过程中的问题已经被解决或者得到了很大程度的缓解。

篇7：LM算法小结

襄阳市第四十七中学 李敏

今天听了张娜老师的英语课，觉得自己又收获了很多。张老师是新老师，虽然教学经验不足，但也有自己的特点，她的课堂氛围和谐融洽，能充分发挥多媒体教学手段，师生互动充分。下面，我就具体对张老师这节课说一说我的个人体会。

一、注重营造和谐融洽的课堂氛围

张老师教态自然、语调亲切，并能不断地鼓励学生，给学生以勇气。以无私的爱心、童心去包容学生，用甜甜的微笑面对学生，使学生在和谐融洽的课堂氛围中学习，推动了知识的掌握和智力的发展，达到了较好的教学效果。

二、注重遵循学生的发展认知规律

1、课前热身（Warm-up）部分，张老师利用Free talk进行导入，T: Good morning, everyone.How are you today? T: Let’s sing a song.There are so many delicious food.Let’s review.T: What are these? Ss: They are „

学生同桌合作，谈论最喜欢的食物。

S1: What would you like? S2: I’d like some …

2、新知引入新知。

张老师在用旧知引入新知时，还能利用新知引入新知。如：用多媒体课件导入大量食物单词的图片，并学习了新单词后，①引出tea T: Who is he?(Mike)Where is he from? He likes coffee.Western people like coffee.What about Chinese people.Chinese people like to drink„ A cup of tea ②引出单词“sandwich”，“salad”，“hamburger”和“ice cream” T: What western food do you know?

教师用多媒体课件依次出示三文治、沙拉、汉堡包和冰激凌的图片。③跟着录音读。

④教师把生词贴在黑板上，带领学生读几遍，然后让学生分组比赛读、分男女生读。

3、多媒体图片引出对话

4、同桌对话

5、拓展对话

三、注重创设真实贴切的教学情境

在整个教学过程中，教师都非常注重情境的创设。将学生带入到真实贴切的情境中，将每个单词在一定的情境中呈现。先请两学生示范表演，Let’s act T: There are many foods in the restaurant.Now we need a waiter.(1)请两位学生站起来示范读对话。

(2)学生同桌合作，一人扮演客人，一人扮演服务员，模仿示例表演对话，提醒学生表演时要把客人与服务员该有的表现表演到位。

(3)请几组学生上讲台表演对话，并评选出“最佳表演者”.四、注重形成色彩明朗的视觉刺激

从教师的课件到板书，我们不难发现，张老师是花了一番心思的。在课件中出现的chant “ Water，water，I like water.” 等，教师就根据不同饮料的特征，设置不同的颜色，给学生形成明朗的视觉刺激，从而为教学服务。在板书的设计上，教师也关注到了这一点。

那么英语教学，我本人会比较注重学生“说”的这一块，这也是英语学习应用能力的一方面，在课堂中，我们的老师都能引领着学生进行师生对话、生生对话，那么在课后，我们是否也能注重学生的口语交际呢？又怎样培养学生课后口语交际能力？这是我从最后这点引申出来，想和大家一起探讨的一个问题。

总之，作为一位刚工作的的老师来说这节课是成功的。张老师讲的是五年级的一节英语课，五年级学生对英语已经有了一定的了解，而且也有了二年学习英语的基础，对英语学习有较高的学习兴趣。张老师根据这点，课上以学生为主体通过各种各样的教学方法进行愉快的教学，充分调动了学生学习英语的积极性。现将本节课的成功之处和需改进的地方总结如下：

成功之处：

1、教学目标明确，通过课前播放英语歌曲调动学生学习英语的兴趣，通过复习旧知引导新知过渡自然，环环相扣。

2、教师口语流利，具有亲和力和感染力，课堂氛围和谐融洽。

3、活动方式多样化，有group work, look and read, 等一系列活动。建议：

1、讲解过多，应让学生更可能多的进行练习，对句型的操练应该更多样化，更注重实效性，以达到会运用的目的，给学生尽可能多的创设情景，让学生在真实的语境中真实地运用语言。

2、应该充分体现以学生为主体，以老师为主导的作用，让每个学生都能开口说英语，多利用小组或者两人一组进行操练，以提高学生学习英语的主动性。

篇8：LM算法小结

牵引变压器是牵引供电系统的重要组成部分之一, 其运行状态直接关系到整个牵引系统的安全与稳定。因此, 搞好牵引变压器的运行维护, 特别是故障诊断工作, 对于提高牵引供电系统安全运行的可靠性具有非常重要的作用。

变压器故障诊断的方法较多, 其中溶解气体分析技术是目前油浸式变压器故障诊断中最方便、有效的方法之一。传统的IEC三比值法故障诊断是目前应用最普遍的方法, 随着人工智能技术的不断发展, 国内外专家根据油中溶解气体分析这一原理提出了多种方法对变压器进行故障诊断, 如专家系统、模糊逻辑、神经网络等, 但各有其优缺点[1,2]。本文提出一种基于非线性同伦LM神经网络算法的变压器故障诊断方

法, 克服了传统IEC三比值方法的缺陷, 相对常用的BP神经网络故障方法, 收敛速度快, 陷入局部极小点的可能性要低。

(二) 传统IEC三比值法的缺陷

传统三比值法是目前最常用的变压器故障诊断方法, 虽然人们在用特征气体判断法进行变压器故障诊断的过程中不断总结和改良, 相继推出了三比值法和改良的三比值法, 但大量的统计资料表明, 三比值法依然存在着以下不足[3]。

1.由于充油牵引变压器非常复杂的内部故障, 由典型事故统计分析得到的三比值法推荐的编码组合, 在实际应用中常常出现不包括范围内编码组合对应的故障;

2.只有油中气体各组分含量足够高或是超过注意值, 并经综合分析确定变压器内部存在故障后, 才能进一步用三比值法判断其故障性质。如果不论变压器内部是否存在故障, 一律使用三比值法, 就有可能对正常的变压器造成误判断;

3.在实际应用中, 当有多种故障联合作用时, 可能在表中找不到相对应的比值组合;同时, 在三比值编码边界模糊的比值区间内的故障, 往往易误判;

4.由于故障分类本身存在的模糊性, 一种故障状态可能引起多种故障特征, 一种故障特征也可在不同程度上反映多种故障状态, 因此, 三比值法不能全面反映故障状况。同时对油中各种气体组分含量正常的变压器, 其比值也是没有意义的;

5.三比值法不适用于气体继电器里收集到的气体分析诊断故障类型。

总之, 由于故障分类本身存在模糊性, 每一组编码与故障类型之间也具有模糊性, 三比值还未能包括和反映变压器内部故障的所有形态, 所以它还需要不断发展和积累经验, 并继续进行改良。

(三) 基于非线性同伦LM神经网络算法的变压器故障诊断方法

1.LM神经网络学习算法

Hagan和Menhaj提出的LM算法是Gauss-Newton算法的改进形式, 它是高斯牛顿法和最速下降法间进行平滑调和, 不需要计算Hessian矩阵, 是一种快速有效的神经网络训练算法[4]。对三层BP网络, 设l组输入模式向量Ak= (a1, a 2, L, an) , 希望输出向量Yk= (y1, y 2, L, yq) , 网络输出向量Ck= (c1, c 2, L, cq) 。输入层至中间层的连接权W={w ij}, i=1, 2, L, n;j=1, 2, L, p;中间层至输出层连接权V={v ij}, t=1, 2, L, q;j=1, 2, L, p;中间层节点阈值θ={θj}, j=1, 2, L, p;输出层节点阈值b={b t}, t=1, 2, L, q。令X=[W, V, θ, b], 构成BP网络所有的权值和阈值。则

E (X) 称为能量函数, 设权值和阈值的变化量为ΔX, LM算法公式描述为

其中:J为Jacobian矩阵;I为单位矩阵;μ是一个试探性参数, μ很大时LM算法近似于梯度下降法, μ接近0则是高斯-牛顿法。

LM算法训练过程如下:

(1) 初始化神经网络权值和阈值向量X, 设置训练误差允许值ε、常数β和μ0, 置迭代次数k=0, μ=μ0;

(2) 计算网络输出及指标函数E (X K) ;

(3) 计算雅可比矩阵J

(4) 计算ΔX和V (X K)

(5) 若E (X K) <ε则过程结束, 否则以Xk+1=Xk+ΔX为权值和阈值向量计算E (Xk+1) 。若E (Xk+1)

2.非线性同伦LM算法

同伦算法是20世纪70年代开始发展起来的解决非线性问题的数值方法, 是建立在微分拓扑学理论中的Sard定理、逆向定理和一维带边光滑流形分类等定理基础上的一种处理欧式空间非线性问题的有效方法。同伦算法中的零点路径跟踪概念可以推广到BP网络能量函数极小点路径的跟踪。因为能量函数E的极值点相当于梯度∇E的零点, 因此对能量函数极值点的跟踪可以转换成对其梯度函数零点的跟踪。常规BP算法是沿能量函数曲面的负梯度方向下行的, 因此有可能陷入局部极小点。同伦方法把沿能量函数曲面下行的学习方式改成先找到某一简单问题的全局极小, 然后逐步修改能量函数曲面, 同时跟踪曲面极小点的轨迹以达到待求能量函数的全局极小, 这样便有可能不致陷入局部极小, 可以证明:在一定条件下这样的极小值路径是存在的。本文给出如下同伦函数定义[5]。

定义1:设x, y是Rn上的非空子集, f0, f1都是从x到y的映射, 如果对任意的 (t, x) ∈[0, 1]×x成立:

则称映射 间的一个非线性同伦。此处m, n为给定的正实数。针对有教师学习的多层前馈神经网络, 记神经网络的期望输出 (给定的教师信号) 为D (D1, D2, L, DM) , 则可根据需要选取适当的初始教师信号d (d1, d 2, L, dM) , 其中M是神经网络的训练样本个数, 于是可以构造其同伦函数:T (t) = (1-tm) ⋅d+tn⋅D (4)

显然随着m和n的取值不同, 教师信号从d到D的过渡路径亦不同, 所以m和n的不同取值会影响应用该方法进行网络训练的速度快慢。由于标准的BP算法收敛速度较慢, 因而采用LM优化法代替标准的BP算法, 这样在增强避免陷入局部极小点能力的同时, 又能提高其收敛速度。

下面给出同伦LM算法的步骤:

第一步:网络训练初始化, 包括:

(1) 将同伦参数t∈[0, 1]均匀分成N个离散值, 0=t0

(2) 给出LM优化法的训练参数, 网络全局误差ε, 各段误差阀值Eith, 最大训练次数以及用于非线性同伦函数的同伦参数m, n。

(3) 采用MATLAB中的函数nwlog.m初始化神经网络的连接权值。

(4) 根据训练样本输入完成神经网络的前向运算, 其输出值作为式 (4)

中的初始教师信号d, 显然, 此时的教师信号等于网络的实际输出, E=0<ε成立, 且为全局极小, 置t=t1。

第二步:第i段学习算法 (i=1, 2, L, N-1) , 即对第i段用LM优化法调节权重使能量函数趋于极小点, 构造能量函数为:

其中, T (t i) =tin·D+ (1-tim) ·d, O (W, I) 为通过前向计算取得的网络输出, 它决定于权重W和给定的训练输入集合I。

(1) 该段的初始权值取上一段网络收敛时的终值, 同时取前一段的网络输出作为本段同伦算法中的初始教师信号d, 而该段网络收敛后的权值反映的是本段能量函数的极小值, 基于LM优化法迭代运算持续到Ei

(2) 将d, t=ti代入式 (4)

计算新的同伦教师信号T (t) 。

(3) 利用LM优化法训练神经网络, 如果网络收敛, 则转“第三步”;如果达到规定的最大训练次数仍不收敛, 则终止。

第三步:如果i

m和n的取值不同决定了同伦路径的形状[6], t从0向1刚刚开始变化时, 当m<1时, 1-tm比1-t变化得要快, 而当n<1时, tn比t变化得要快, t过渡一段时间后, 则正好相反。因此当m, n<1时, 满足上述理论分析的条件, 此时神经网络训练应该比m, n=1时具有更快的收敛速度, 相反, 当m, n>1时, 神经网络训练应该比m, n=1时的收敛速度要慢。大量研究表明同伦参数m和n取0.2到0.5之间时收敛速度较好。另外收敛精度也与离散化同伦参数t的训练阶段数N有关, 实验表明, 当N小于10时收敛精度太低, 而当N大于10时算法的收敛精度并没有明显的改变。因此, 本文取N=10。

(四) 实验仿真分析

对数据样本预处理后进行网络训练, 基于LM优化法的BP算法与非线性同伦BP算法进行仿真比较, 图1、图2分别为各种算法训练网络的某次训练曲线:

从图可知, 非线性同伦BP算法收敛性明显优于LM优化法。

用本文构建的非线性同伦LM算法的网络模型对121组变压器样本进行故障诊断, 并与传统的IEC三比值法进行比较, 表1为非线性同伦BP算法与三比值法诊断统计结果对照表

根据表1的实验数据可以对比看出, 运用非线性同伦LM算法得到的牵引变压器故障诊断神经网络模型优于传统的三比值法, 前者能够更加准确的判断出牵引变压器的故障类型。

(五) 结语

本文以神经网络为基础, 将LM最优化方法与同伦理论相结合, 提出了一种基于非线性同伦LM算法的牵引变压器故障诊断方法。仿真结果表明, 该算法优于常用BP算法, 具有全局收敛能力强和收敛速度快的特点, 并且在故障诊断准确度方面明显优于传统的三比值法。

摘要：针对牵引变压器故障的特点以及传统故障诊断方法在牵引变压器诊断应用中的局限性, 研究一种基于非线性同伦LM神经网络算法的变压器故障诊断方法。通过选择合适的故障样本进行数据预处理并训练神经网络, 达到变压器故障诊断的要求, 并通过仿真验证本算法的有效性。

关键词：牵引变压器,故障诊断,气体分析,非线性同伦LM算法

参考文献

[1]Adrianna Rosa Garcez Castro, Vladimiro Miranda.Knowledge Discovery in Neural Network with Application to Transformer Failure Dianosis[J].Power Systems, 2005, 20 (2) ;717-724.

[2]张利刚.变压器油中溶解气体的成分和含量与充油电力设备绝缘故障诊断的关系[J].变压器, 2000, 37 (3) :39-42.

[3]王晓莺.变压器故障与检测[M].北京:机械工业出版社, 2004.

[4]He Xuezhong, Zhang Xiangping, Zhang Suojiang.Improved L-M algorithm for ANNS prediction of phase equilibrium in macromolecule system[J].Journal of Chemical Industry ang Engineering, 2005, 56 (3) :392-399.