线性分类器 下载本文

内容发布更新时间 : 2024/5/7 13:55:15星期一 下面是文章的全部内容请认真阅读。

实验报告

实验内容 姓名 学号 实验时间 一.实验目的:

1、掌握Fisher线性分类器设计方法; 2、掌握感知准则函数分类器设计方法。 二.实验内容:

1、对下列两种情况,求采用Fisher判决准则时的投影向量和分类界面,并做图。

TTTT???{(2,0),(2,2),(2,4),(3,3)}?1?TTTTT??{(0,3),(?2,2),(?1,?1),(1,?2),(3,?1)}??2 TTTTT???1?{(1,1),(2,0),(2,1),(0,2),(1,3)}?TTTTT??{(?1,2),(0,0),(?1,0),(?1,?1),(0,?2)}??2

***

***

线性分类器设计实验

单位 实验环境 **年**月**日

*** MATLAB

2、对下面的两类分类问题,采用感知准则函数,利用迭代修正求权向量的方法求两类的线性判决函数及线性识别界面,并画出识别界面将训练样本区分的结果图。b5E2RGbCAP TTTTT???{(1,1),(2,0),(2,1),(0,2),(1,3)}?1?TTTTT??{(?1,2),(0,0),(?1,0),(?1,?1),(0,?2)}??2

三.实验原理

1. Fisher线性判决函数为

?TSb?J(=TF?)?S??

分子反映了映射后两类的类间离散度,该值越大可分性越好;分母反映了两类的类内离散度,该值越小越好。即最佳分类为使

J(F?)值达到最大。p1EanqFDPw 2. 感知准则函数为

JP(v)?z?Z?(?vkTz)

k 当且仅当错分样本集Z为空时,

?JP(v)?0,即

JP(v?)?minJP(v)?0,

这时将不存在错分样本,而v将是我们要寻找的解向量。 四.实验结果及分析 Fisher线性分类器

1. 数据分为两组,分别计算每组两类样本的均值向量。

第一组样本的均值向量为μ11和μ12,第二组样本的均值向量为μ21和μ22。计算得到μ11=[2.2500 2.2500],μ12=[0.2000 0.2000],

μ21=[1.2000 1.4000],μ22=[-0.6000 -0.2000]。

2. 计算类内离散度矩阵和总类内离散度矩阵。

?15.5500?7.4500?s1w=???7.450027.5500s1ws2w??,设两组样本总类内度为和。可得到?4-4?s2w=???414??。

3. 计算两组样本一维空间均值。

设第一组样本一维空间均值为y11和y12,第二组样本一维空间均值为y21和y22。经过计算得到y11=0.7174,y12=0.0638,y21=1.4240,

y22=-0.5420。

*4. 计算最优投影方向w

经过计算得到两组样本最优投影方向w1=[0.1924 0.1264],

w2=[0.7900 0.3400]。

5. 分类。 根据分类函数

y?(w*)Tx?y0,在投影空间选择判决阈值

1y0?(?1??2)2,若y?y0,则x??1,否则x??2得到分类结果。分

类图如图1和图2所示。

图1第一组样本分类情况