模式识别习题答案

第一篇：模式识别习题答案

模式识别总结

监督学习与非监督学习的区别：

监督学习方法用来对数据实现分类，分类规则通过训练获得。该训练集由带分类号的数据集组成，因此监督学习方法的训练过程是离线的。

非监督学习方法不需要单独的离线训练过程，也没有带分类号(标号)的训练数据集，一般用来对数据集进行分析，如聚类，确定其分布的主分量等。

(实例：道路图)就道路图像的分割而言，监督学习方法则先在训练用图像中获取道路象素与非道路象素集，进行分类器设计，然后用所设计的分类器对道路图像进行分割。

使用非监督学习方法，则依据道路路面象素与非道路象素之间的聚类分析进行聚类运算，以实现道路图像的分割。

1、写出K-均值聚类算法的基本步骤, 算法：

第一步：选K个初始聚类中心，z1(1)，z2(1)，…，zK(1)，其中括号内的序号为寻找聚类中心的迭代运算的次序号。聚类中心的向量值可任意设定，例如可选开始的K个模式样本的向量值作为初始聚类中心。 第二步：逐个将需分类的模式样本{x}按最小距离准则分配给K个聚类中心中的某一个zj(1)。 假设i=j时，Dj(k)min{xzi(k),i1,2,K}，则xSj(k)，其中k为迭代运算的次序号，第一次迭代k=1，Sj表示第j个聚类，其聚类中心为zj。 第三步：计算各个聚类中心的新的向量值，zj(k+1)，j=1,2,…,K zj(k1)1NjxSj(k)x,j1,2,,K 求各聚类域中所包含样本的均值向量：

其中Nj为第j个聚类域Sj中所包含的样本个数。以均值向量作为新的聚类中心，

JjxSj(k)xzj(k1),2j1,2,,K可使如下聚类准则函数最小：

在这一步中要分别计算K个聚类中的样本均值向量，所以称之为K-均值算法。 第四步：若zj(k若zj(k 1)zj(k)，j=1,2,…,K，则返回第二步，将模式样本逐个重新分类，重复迭代运算;

1)zj(k)，j=1,2,…,K，则算法收敛，计算结束。

T线性分类器三种最优准则：

wSFisher准则：maxJ(w)wSwFTbwww根据两类样本一般类内密集, 类间分离的特点，寻找线性分类器最佳的法线向量方向，使两类样本在该方向上的投影满足类内尽可能密集，类间尽可能分开。该种度量通过类内离散矩阵Sw和类间离散矩阵Sb实现。感知准则函数：准则函数以使错分类样本到分界面距离之和最小为原则。其优点是通过错分类样本提供的信息对分类器函数进行修正，这种准则是人工神经元网络多层感知器的基础。支持向量机：基本思想是在两类线性可分条件下，所设计的分类器界面使两类之间的间隔为最大, 它的基本出发点是使期望泛化风险尽可能小。

写出两类和多类情况下最小风险贝叶斯决策判别函数和决策面方程。

什么是特征选择?. 什么是Fisher线性判别?

答：1. 特征选择就是从一组特征中挑选出一些最有效的特征以达到降低特征空间维数的目的。

2. Fisher线性判别：可以考虑把d维空间的样本投影到一条直线上，形成一维空间，即把维数压缩到一维，这在数学上容易办到，然而，即使样本在d维空间里形成若干紧凑的互相分得开的集群，如果把它们投影到一条任意的直线上，也可能使得几类样本混在一起而变得无法识别。但是在一般情况下，总可以找到某个方向，使得在这个方向的直线上，样本的投影能分开得最好。问题是如何根据实际情况找到这条最好的、最易于分类的投影线，这就是Fisher算法所要解决的基本问题。

请论述模式识别系统的主要组成部分及其设计流程，并简述各组成部分中常用方法的主要思想。 信息获取：通过测量、采样和量化，可以用矩阵或向量表示二维图像或以为波形。预处理：去除噪声，加强有用的信息，并对输入测量仪器或其他因素造成的退化现象进行复原。特征选择和提取：为了有效地实现分类识别，就要对原始数据进行变换，得到最能反映分类本质的特征。分类决策：在特征空间中用统计方法把识别对象归为某一类。

定性说明基于参数方法和非参数方法的概率密度估计有什么区别?

答：基于参数方法：是由已知类别的样本集对总体分布的某些参数进行统计推断 非参数方法：已知样本所属类别，但未知总体概率密度函数形式 简述支持向量机的基本思想。

答：SVM从线性可分情况下的最优分类面发展而来。最优分类面就是要求分类线不但能将两类正确分开(训练错误率为0)，且使分类间隔最大。SVM考虑寻找一个满足分类要求的超平面，并且使训练集中的点距离分类面尽可能的远，也就是寻找一个分类面使它两侧的空白区域(margin)最大。过两类样本中离分类面最近的点，且平行于最优分类面的超平面上H1，H2的训练样本就叫支持向量。

(1)贝叶斯估计算法思想：准则，求解过程

(A)准则：通过对第i类学习样本X的观察，使概率密度分布P(X/θ)转化为 后验概率P(θ/X) ，再求贝叶斯估计;

(B)求解过程： ① 确定θ的先验分布P(θ),待估参数为随机变量。

② 用第i类样本x=(x1, x2,…. xN)求出样本的联合概率密度分布P(x|θ)，它是θ的函数。

i

T

ii

i

i

P(|X) ③ 利用贝叶斯公式,求θ的后验概率

iP(Xi|).P()

P(Xi|)P()d ④ 求贝叶斯估计P(|Xi)d

2、模式识别系统的基本构成单元包括： 模式采集 、 特征提取与选择 和 模式分类 。

3、统计模式识别中描述模式的方法一般使用 特真矢量 ;句法模式识别中模式描述方法一般有 串 、

树 、 网 。

4、聚类分析算法属于 无监督分类

;判别域代数界面方程法属于统计模式识别方法 。

5、若描述模式的特征量为0-1二值特征量，则一般采用 匹配测度 进行相似性度量。



6、下列函数可以作为聚类分析中的准则函数的有

、、、、、、

7、Fisher线性判别函数的求解过程是将N维特征矢量投影在 一维空间 中进行 。

8、下列判别域界面方程法中只适用于线性可分情况的算法有 感知器算法 ;线性可分、不可分都适用的有

积累位势函数法 。

9、影响层次聚类算法结果的主要因素有( 计算模式距离的测度、(聚类准则、类间距离门限、预定的类别数目))。

10、欧式距离具有(平移不变性、旋转不变性);马式距离具有(平移不变性、旋转不变性尺度缩放不变性、不受量纲影响的特性)。

11、线性判别函数的正负和数值大小的几何意义是(正(负)表示样本点位于判别界面法向量指向的正(负)半空间中;绝对值正比于样本点到判别界面的距离。)

12、积累势函数法较之于H-K算法的优点是(该方法可用于非线性可分情况(也可用于线性可分情况)

K(x)位势函数K(x,xk)与积累位势函数K(x)的

~xkXkK(x,xk)



13、在统计模式分类问题中，聂曼-皮尔逊判决准则主要用于( 某一种判决错误较另一种判决错误更为重要)情况;最小最大判决准则主要用于( 先验概率未知的)情况。

14、特征选择的主要目的是(从n个特征中选出最有利于分类的的m个特征(m>n )的条件下，可以使用分支定界法以减少计

m算量。

15、散度Jij越大，说明i类模式与j类模式的分布(差别越大);当i类模式与j类模式的分布相同时，Jij=(0)。

16、影响聚类算法结果的主要因素有(②分类准则 ③特征选取 ④模式相似性测度。)。

19、模式识别中，马式距离较之于欧式距离的优点是(③尺度不变性 ④考虑了模式的分布)。 20、基于二次准则函数的H-K算法较之于感知器算法的优点是(①可以判别问题是否线性可分 ③其解的适应性更好)。

21、影响基本C均值算法的主要因素有(④初始类心的选取 ①样本输入顺序 ②模式相似性测度)。

22、位势函数法的积累势函数K(x)的作用相当于Bayes判决中的(②后验概率 ④类概率密度与先验概率的乘积)。

23、统计模式分类问题中，当先验概率未知时，可使用(②最小最大损失准则 ④N-P判决)

24、在(①Cn>>n,(n为原特征个数，d为要选出的特征个数)③选用的可分性判据J对特征数目单调不减)情况下，用分支定界法做特征选择计算量相对较少。

25、 散度JD是根据(③类概率密度)构造的可分性判据。

26、似然函数的概型已知且为单峰，则可用(①矩估计②最大似然估计③Bayes估计 ④Bayes学习⑤Parzen窗法)估计该似然函数。

27、Kn近邻元法较之Parzen窗法的优点是(②稳定性较好)。

28、从分类的角度讲，用DKLT做特征提取主要利用了DKLT的性质：(①变换产生的新分量正交或不相关③使变换后的矢量能量更趋集中)。

29、一般，剪辑k-NN最近邻方法在(①样本数较大)的情况下效果较好。 d

29、如果以特征向量的相关系数作为模式相似性测度，则影响聚类算法结果的主要因素有(②分类准则 ③特征选取)。 30、假设在某个地区细胞识别中正常(w1)和异常(w2)两类先验概率分别为 P(w1)=0.9，P(w2)=0.1，现有一待识别的细胞，其观察值为x，从类条件概率密度分布曲线上查得P(xw1)0.2，P(xw2)0.4，并且已知110，126，211，220

试对该细胞x用一下两种方法进行分类： 1. 基于最小错误率的贝叶斯决策; 2. 基于最小风险的贝叶斯决策; 请分析两种结果的异同及原因。

第二篇：模式识别报告格式

一、封皮的填写：实验课程名称 模式识别

二、实验名称：按顺序填写图像的贝叶斯分类、K均值聚类算法、神经网络模式识别

三、年月：2013年4月

四、纸张要求：统一采用A4大小纸张，左侧装订，装订顺序与实验顺序一致。

五、书写要求：

1、报告可以手写也可以打印。

2、实验图像及结果图像打印，图像均位于实验结果与分析部分，图像打印于纸张上部，下部为实验分析。

3、报告中图要有图序及名称，表要有表序及名称，每个实验的图序和表序单独标号，具体格式参照毕业设计手册。不合格者扣除相应分数。

4、每个实验均需另起一页书写。

六、关于雷同报告：报告上交后，如有雷同，则课程考核以不及格处理，不再另行通知修改。

实验

一、 图像的贝叶斯分类

一、实验目的

将模式识别方法与图像处理技术相结合，掌握利用最小错分概率贝叶斯分类器进行图像分类的基本方法，通过实验加深对基本概念的理解。

二、实验仪器设备及软件

HP D

538、MATLAB

三、实验原理

以自己的语言结合课堂笔记进行总结，要求过程推导清晰明了。

四、实验步骤及程序

实验步骤、程序流程、实验源程序齐全。

五、实验结果与分析

要求写明实验得到的分割阈值，附分割效果图。对实验结果进行分析，说明实验结果好或者不好的原因，提出改进措施。

(另起一页)

实验

二、K均值聚类算法

一、实验目的

将模式识别方法与图像处理技术相结合，掌握利用K均值聚类算法进行图像分类的基本方法，通过实验加深对基本概念的理解。

二、实验仪器设备及软件

HP D

538、MATLAB、WIT

三、实验原理

以自己的语言结合课堂笔记进行总结，要求过程推导清晰明了。

四、实验步骤及程序

实验步骤、程序流程、MATLAB及WIT实验源程序齐全，WIT聚类程序可以图像形式

附于报告上。

五、实验结果与分析

以MATLAB和WIT分别实现K均值图像聚类算法，写明聚类类别数、聚类中心、迭代次数、运行时间，附原始图像和分类结果图像，并做实验分析。

(另起一页)

实验

三、神经网络模式识别

一、实验目的

掌握利用感知器和BP网进行模式识别的基本方法，通过实验加深对基本概念的理解。

二、实验仪器设备及软件

HP D

538、MATLAB

三、实验原理

以自己的语言结合课堂笔记及相关资料进行总结，要求过程推导清晰明了。

四、实验步骤及程序

感知器实验：

1、设计线性可分实验，要求训练样本10个以上

2、奇异样本对网络训练的影响

3、以线性不可分样本集训练分类器

BP网实验：利用BP网对上述线性不可分样本集进行分类

五、实验结果与分析

写明迭代次数、训练时间，附分类界面效果图，并讨论奇异样本对分类器训练的影响。

第三篇：模式识别与智能系统

所属院系：自动化科学与工程学院

一、学科概况

模式识别与智能系统是在信号处理、人工智能、控制论、计算机技术等学科基础上发展起来的新型学科。该学科以各种传感器为信息源，以信息处理与模式识别的理论技术为核心，以数学方法与计算机为主要工具，探索对各种媒体信息进行处理、分类、理解并在此基础上构造具有某些智能特性的系统或装置的方法、途径与实现，以提高系统性能。模式识别与智能系统是一门理论与实际紧密结合，具有广泛应用价值的控制科学与工程的重要学科分支。研

二、培养目标正门

本学科培养从事模式识别与智能系统的研究、开发、设计等方面工作的高级专门人才。业

1.博士学位 应具有模式识别、信息处理、人工智能与认知学及有关数学领域坚实宽广的基础理论和系统深入的专门知识;对于模式识别与智能系统主要前沿领域有深入了解;能独立开展模式识别与智能系统中有关研究方向的专题研究工作，并取得具有创造性研究成果;学风严谨，至少掌握一门国资语，能熟练地阅读本专业的外文资料，具有一定的写作能力和进行国际学术交流的能力。

2.硕士学位 应具有坚实的模式识别与智能系统学科的基础理论和系统的专门知识;对于模式识别与智能系统某一研究领域的进展和学术动态有较深的了解;能够熟练利用计算机解决本学科的有关问题;具有从事模式识别与智能系统中的某一研究方向的科学研究或独立担负专门技术工作的能力，并取得有意义的成果;较为熟练地掌握一门国资语。、

三、业务范围、

1.学科研究范围 模式识别，图象处理与分析，计算机视觉，智能机器人，人工智能，计算智能，信号处理。

2.主要课程设置 线性系统理论，矩阵分析，优化理论，数理逻辑，数字信号处理，图象处理与分析，模式识别，计算机视觉，人工智能，计算智能，非线性理论(如分形、混沌等)控制理论，系统分析与决策，计算机网络理论等。

四、主要相关学科

控制理论与控制工程，计算机科学与技术，信息与通信工程，电子科学与技术，生物学，心理学。

该学科培养的研究生毕业后，可到大、中、小型企业，科技部门，高等院校，金融、电讯单位，政府机关等各行业从事自动化和系统工程相关的科研、开发、设计、研制、生产与管理等工作。考

第一， 安阳县电业管理公司是严谨，规范的国资企业。尽管安阳县电业管理公司已经不是真正的国资企业，但是“国资企业”除了意味着享受优惠政策外，其真正含义在于，企业要严格按照国际惯例运作，建立完善的法人治理结构。前几年公司成立为股份有限公司，国家吃多半股份，放股给民众。股东是公司企业产权的拥有者，也可以说是企业的“老板”，公司的盈利或亏损全部由股东享受或承担。企业必须以感激地心态善待股东，正是由于股东投资办企业，才给了大家就业的机会，让员工能够过上稳定的生活，同时也为有志青年提供了充分体现和提升个人价值的机会。否则，你就是才高八斗，也是英雄无用武之地。古有萧何追韩信;没有刘备三顾茅庐，诸葛亮也永远只能是卧龙岗的一个学究。因此，每一个企业员工都应该将对股东的感激之情转化为工作的激情和动力，积极主动地做好每一件事，追求最好的工作业绩，以回报股东。安阳县电业管理公司是有着深厚文化底蕴和人性化管理的优秀企业。安阳县电业管理公司在关注股东价值的同时，对员工价值也给与了充分的肯定。

第二， 安阳县电业管理公司有恒久的价值判断标准：持久不断地创造价值。安阳县电业管理公司崇尚业绩，没有业绩的公司是没有生命力的。安阳县电业管理公司由原县电业局转型，强化以业绩为导向的价值取向，把业绩作为价值的衡量标准。“我们要让公司创造价值的员工享受体面的生活，让取得优异业绩的员工赢得人们的尊重”，安阳县电业管理公司致力于成本领先，低成本领先是放利给人民，获取生存和发展空间的根本策略，也是实现企业目标，实践企业使命的最重要的动力。电力企业属于资金密集型行业，这种密集主要体现在电力建设的投资巨大。因此，在建设中，应千方百计控制工程耗费和协调各方力量缩短建设工期，从源头降低公司的建设成本和经营固定成本，抢得竞争先机。而且在运营中，必须降低燃料的运输及治理费用，最低化变动成本，获得竞争优势，这也是检验企业专业化水平的重要标准。此外，充分发挥脱硫项目，做好保护环境的工作，发挥高技术成果并争取合理补偿，以提高营业能力，也将有助于使企业在同行中脱颖而出;安阳县电业管理公司具有强烈的市场意识，这也是创造价值不可或缺的重要因素。安阳县电业管理公司是由市场促生的商业化公司，因市场需要而存在。依市场要求运作，其精髓是合理和整合市场资源，并以市场标准来评价其优劣。

第三， 安阳县电业管理公司有凝聚力的企业精神：诚信，团队，务实，积极，专业，创新。诚信，为人之本，立业之本，是公司的基本精神，坚守诚信原则，重视个人操守，加强互信关系，巩固卓越商誉;团队，事业成功的保障，尊重不同文化，包容各种观念，倡导平等沟通，发挥团队精神;务实，对待工作应有的科学态度，激励奋发精神，壮大企业根基，奠定领导地位;积极，掌握主动地关键，积极迎接挑战，勇于面对改变，主动学习新知识;专业，公司持续成长的正确方向，整合丰富资源，荟萃各方精英，积累中外经验，提升专业水平;创新，不断适应新的经营模式是企业的不竭源泉，经营开放环境，鼓励创新思路，构思非凡理念，推动企业发展。

第四， 安阳县电业管理公司有特色鲜明的管理模块：基于务实，前瞻思维的管理行为。生产管理：安阳县电业管理公司坚持以成熟，先进的技术手段和科学的运作模式为支撑，不断强化包括人力资源在内的各种生产力，最大力度提高生产效能。每一岗位必须信守“按章办事”的承诺，工作严谨规范，确保生产过程的安全，稳定;营销管理：客户的要求是企业行动的准则也是企业发展的根本动力。安阳县电业管理公司重视客户关系，引入客户关系，对不同客户的特点实施有针对性地营销方案，满足客户期望，提升客户价值。广义的说，电网，政府及终端用户等利益相关者都是使电力业务对客户依赖的唯一性，决定了对客户服务的纵深程度要远远大于别的行业。电力营销的最终结果，将能够提高企业的合理回报。以上四点是我在安阳县电业管理公司实习时的深切体会，安阳县电业管理公司的企业精神值得我们思考和学习!而且，我发现安阳县电业管理公司员工的职业素养也很高。我觉得一个人的职业素养除了应具备专业的知识外，还应当包括两个方面：敬业精神和合作精神。电力部门重要的发电设备的正常运行需要各机组的协调合作，而有的高压水泵, 溢流水泵, 轴封水泵等却是比较容易坏的，这个时候就需要强烈的敬业精神。高压水泵漏水了，修理的员工们穿着闷热的工作服在现场维修着，现场是没有空调的，而且机器的运作声音很大，夏天长时间呆在工作现场使员工们的衣服都被汗水浸湿了。明明可以交给别的部门做的事，明明可以不需要继续工作了，可是他们还坚持把问题全都解决掉：等其他部门来的话就浪费了宝贵的时间了!而且，维修时也需要团队精神，我说过，现场的噪声很大，彼此讲话要很大声才能听见。可是，他们却不需要大叫。一个手势，一个眼神，同事们就明白了你的意思，这个不是只有团队合作才能做到的事吗?而且，当有人收到责任单时，我没看见暴跳如雷的抱怨和不满，我看见的是立即签单和着手改善事项的合作态度。其实，责任单上的错误不一定是当事人犯的，可是他为了小组为了同事，竟然去签单!这种精神，难道不值得我们学习吗?还有之后的改进措施，步步到位，没有任何推托。在这里我觉得稽核小组也应该负责到位，

开单要有根据，只有这样才能共同把企业做大做强!

通过这次的暑假实践，我学到了很多无法在书本上学到的知识和企业经营的实际经验，感谢安阳县电业管理公司给我的机会!

第四篇：2014模式识别课程设计

【设计题目】

自选

【设计目标】

通过本课程设计，学习利用非监督学习方法对生活中的实际问题进行识别分类，掌握模式识别系统的基本设计思路与步骤。

【设计内容】

观察生活与环境，自选一个问题，采用一种非监督学习方法对其进行分类与识别。

【设计要求】

提交设计报告，报告内容包括：问题描述，选用某种方法的理由，模式采集，特征提取与选择，分类器设计，学习过程，测试结果，结果分析(含不足与展望)，设计总结。程序代码作为附录与报告一起提交。报告正文部分不超过10页，文字部分不超过1万字。

1模式识别在发动机故障诊断中的应用 模式识别受体在慢性阻塞性肺疾病中的作用

基于模式识别的短时交通流预测Fault Mode Diagnosis System Based on for Automobile ABS Nerve Network

平行路段模式识别与简化初探 - Primary study on recognition and simplification of parallel sections in road networks

第五篇：模式识别与智能系统简况

模式识别与智能系统是二十世纪八十年代发展起来的新型交叉学科，该学科包含自动控制、模式识别、人工智能、模糊逻辑、仿生学和计算机科学等多种学科。该学科以信息处理与模式识别的理论技术为核心，探索对各种信息进行处理、分类、理解，并在此基础上构造出具有某些智能特性的系统或装置的方法、途径与实现。该学科在经济建设和国防建设具有广泛的实际背景，二十多年来，已引起了国内外有关学者的极大重视，被称其为面向二十一世纪的控制科学。

本学科点开始于我校省级重点学科计算机应用学科，从该学科人工智能方向发展而来。最早的团队可以追溯到二十世纪八十年初，从承担航空基金立体仓库机器人开始。经过近三十年的发展，该学科逐步形成了稳定的研究方向，于2003年从计算机应用学科独立出来，成为独立的学科，2005年获得“模式识别与智能系统”硕士学位授予权。主要研究方向包括：神经网络与模式识别、图象处理与模式识别、智能机器人与人工智能和智能检测与智能控制等。当前正在筹建“自主武器技术平台研究中心”，这是目前我省唯一一所高等院校首次建立的平台研究中心，中心下设6个实验室分别为飞行器仿真与模拟技术实验室、智能机器人与目标探测技术实验室、综合健康管理技术实验室、任务设备检测技术实验室、武器应用环境仿真实验室和导弹实验室，其中，导弹实验室近2-3年内投资200万多万元，购置了3枚导弹等，实验室已初具规模。本学科主要关注与武器平台自主运行有关的技术，即主要关注：自主控制、环境感知、导航制导、保障与健康管理、电源、部分任务的关键技术研究和工程验证研究，逐步发展对平台总体设计、搭载任务武器等技术研究和工程验证。本学科具有一定师资力量基础，现拥有双聘院士1人，博士生导师5人(外校兼职，本学科点没有博士授予权)，硕士生导师9人，教授12人，副教授16名，其中，具有博士学位的教师有20名。目前本学科点已培养硕士研究生10多名，学科梯队结构合理，整体实力强。