哈工大模式识别课程6特征的提取与选择

第7章 特征的选择与提取

主讲人： 主讲人：邱剑彬 李君宝哈尔滨工业大学

1.引言 1.引言 2 类别可分离性判据 3 特征选择 4.特征提取 4.特征提取

1.引言 1.引言

【问题的提出】

对特征空间的改造、优化、主要的目的是降维， 对特征空间的改造、优化、主要的目的是降维，即把维数 高的特征空间改成维数低的特征空间。 高的特征空间改成维数低的特征空间。

降维主要有两种途径。一种是删选掉一些次要的特征，问 降维主要有两种途径。一种是删选掉一些次要的特征， 题在于如何确定特征的重要性，以及如何删选。 题在于如何确定特征的重要性，以及如何删选。另一种方 法是使用变换的手段， 法是使用变换的手段，在这里主要限定在线性变换的方法 通过变换来实现降维，这两种方法的区分要弄清楚。 上，通过变换来实现降维，这两种方法的区分要弄清楚。

【学习的目的】1.了解特征空间的选择在设计模式识别系统，解决模式识别具 了解特征空间的选择在设计模式识别系统， 了解特征空间的选择在设计模式识别系统 体问题中是至关重要的。 体问题中是至关重要的。 2.了解描述量选择，特征组合优化的两种基本方法，一是对原 了解描述量选择， 了解描述量选择 特征组合优化的两种基本方法， 特征空间进行删选，另一种是通过变换改造原特征空间。 特征空间进行删选，另一种是通过变换改造原特征空间。

3.典型的运用线性变换对原特征空间优化的基本方法，进一步 典型的运用线性变换对原特征空间优化的基本方法， 典型的运用线性变换对原特征空间优化的基本方法 深入理解模式识别处理问题的基本方法-确定准则函数 确定准则函数， 深入理解模式识别处理问题的基本方法 确定准则函数，并通 过计算进行优化。 过计算进行优化。 4.使用特征选择方法的基本问题。 使用特征选择方法的基本问题。 使用特征选择方法的基本问题

【问题的提出】1.什么叫特征空间？如果我们用颜色、尺寸、重量来衡量水果 .什么叫特征空间？如果我们用颜色、尺寸、 的构造的特特空间是几维空间？ 的构造的特特空间是几维空间？

2.如果用颜色、尺寸与重量组成的特征空间来区分苹果与梨， .如果用颜色、尺寸与重量组成的特征空间来区分苹果与梨， 你认为这三种度量中的哪种最有效？为什么？ 你认为这三种度量中的哪种最有效？为什么？能否想像这两 种水果在这个三维空间的分布？ 种水果在这个三维空间的分布？如果用这个特征空间来区分 红苹果与樱桃， 红苹果与樱桃，你想像一下这两类水果在特征空间如何分布 能否对这

两种情况设计更经济有效的特征空间？ ?能否对这两种情况设计更经济有效的特征空间？

【问题的提出】3.如果两类物体在一个二 . 维特征空间如图分布,能 维特征空间如图分布 能 否用删除其中任一维来 优化特征空间？ 优化特征空间？有没有 什么方法能得到一个对 分类很有利的一维特征 空间？ 空间？

【问题的提出】

4.上题的答案可用右图 . 上题的答案可用右图Y1 组成的空间表示？ 与 Y2组成的空间表示 ？ 你 组成的空间表示 认为哪个分量可以删掉？ 认为哪个分量可以删掉？

5.你有没有办法将原在X1、X2空间表示的数改成用 、Y2 .你有没有办法将原在 、 空间表示的数改成用 空间表示的数改成用Y1、 空间表示？ 空间表示？

【问题的提出】1.描述事物方法的选择与设计 .方案1.从框架的左边框到数字之间的距离 方案1.从框架的左边框到数字之间的距离 1. 变化反映了不同数字的不同形状， 变化反映了不同数字的不同形状，这可以 用来作为数字分类的依据。 用来作为数字分类的依据。

方案2.强调分析不同截面的信号， 方案2.强调分析不同截面的信号，如 2.强调分析不同截面的信号 在框架的若干部位沿不同方向截取截 面分析从背景到字， 面分析从背景到字，以及从字到背景 转换的情况,如AB截面切割字符三次， 转换的情况, AB截面切割字符三次， 截面切割字符三次 CD截面切割字符一次等 截面切割字符一次等。 CD截面切割字符一次等。

【问题的提出】2.特征空间的优化这个层次的工作发生在已有了特征的描述方法之后， 这个层次的工作发生在已有了特征的描述方法之后，也就是已 有了一个初始的特征空间，如何对它进行改造与优化的问题。一 有了一个初始的特征空间，如何对它进行改造与优化的问题。 般说来要对初始的特征空间进行优化是为了降维。 般说来要对初始的特征空间进行优化是为了降维。即初始的特征 空间维数较高。能否改成一个维数较低的空间，称为优化， 空间维数较高。能否改成一个维数较低的空间，称为优化，优化 后的特征空间应该更有利于后续的分类计算

RGB颜色空间和HSI颜色空间 颜色空间和HSI 例 用RGB颜色空间和HSI颜色空间

【问题的提出】

【问题的提出】

【概念】

【概念】

【概念】

2 类别可分离性判据