向量范数函数的单调递减性质 v3 下载本文

内容发布更新时间 : 2024/12/23 13:08:14星期一 下面是文章的全部内容请认真阅读。

向量范数函数的单调递减性质

傅绪加1,2,?,吴红光1

(1 淮北师范大学数学科学学院,安徽 淮北 235000 2 南京理工大学理学院,江苏 南京 210094)

摘要:在有限维实向量空间

N中,用两种方法证明了lp范数函数(p?0)

的单调递减性质,并应用此性质,简洁明了地证明了任意两个lp范数(p?1)之间的等价性。

关键词:向量空间,向量范数,单调递减性

中图分类号:O151.21 文献标识码:C 文章编号:

在有限维实向量空间N中,可以引入不同的范数,使之成为不同的赋范空间[1,2],常用的范数有lp范数(p?1),如l1范数、l2范数、l?范数[1]。由于范数满足齐次性与三角不等式性[1,2],故范数可视为是定义在向量空间上的凸函数,很多工程问题最终可归结为相应的赋范空间中的lp范数极小化或lp范数正则化问题[1-6]。近年来,此类问题在机器学习、反问题、图像处理、结构化稀疏表示、压缩感知等领域[3-6]广受关注。探究向量lp范数的有关性质,仍具有意义。对于不同的p?1值,空间

N中向量的lp范数实际上给出了向量长度或模的不同度量

N方式,它们之间具有某些联系,如等价性,见本文定义2与定理3。在lp范数的定义式中取p??0,1?时,所得到的实函数并不是向量空间

[6]

(N?2)中的向量

范数,详见本文的定义1及其说明,但是,此时的lp极小化问题或正则化问题(p??0,1?)却有诸多有趣的性质。本文主要讨论向量不同范数之间的大小关系,主要结论为定理1与定理2。为了文章的完整性,本文内容安排如下,在第1节中引入相关记号并给出主要结论之一即定理1;为了在第3节清晰表述定理1两种证明方法,并引出定理2,先在第2节给出相关预备知识;最后,在第4节给出定理1的一个简单应用,即用此定理的结论证明任意两种常用lp范数(p?1)之间的等价性。

1、主要结论

N?在有限维实向量空间N中,可被赋予lp范数[1]:x关系式:x?p???(

?为正整数集),向量x??x1,x2,,xN??p?与x??max?xk?,其中p??1,??,且有?x?k??p1?k?N?k?1??limxp。因为由limN1p?1有

p??1pN1p?Np?max?xk????xk?1?k?N?k?1??N1p?max?xk??max?xk?, p??。

1?k?N1?k?N当p??0,1?,且N?2时,x ?

p?Np????xk??k?1?1p并不是向量x?N的范数,因

基金项目:淮北师范大学教研项目(JY10227);淮北师范大学青年研究项目(2012xq56);安徽省高等学

校省级自然科学研究项目(KJ2013B252)。

作者简介:傅绪加(1978- ),男,淮北师范大学讲师,南京理工大学在读博士生; 研究方向:图像建模与分析,Email:fxj068@gmail.com;吴红光(1989 - ),男,淮北师范大学2010级应用数学专业班;

为它不能满足范数公理中的三角不等式原则[1,2],但为表述方便,在不引起混淆的情况下,仍称之为向量的范数,并给出如下概念:

定义1(lp范数、范数函数):在向量空间N中,N??,称

1p??Np????xk?,p??0,?? (1) xp???k?1??max?x?,p???1?k?Nk为向量x的lp范数;称实函数f?p??xp,p??0,??为向量x的范数函数。

在定义1中,采用p??0,??记法是为表述之便。要说明的是,当p??0,1?,且N?2时,lp范数并不是真的范数,也不是范数。

对于任意给定的向量x?N上的凸函数;但对于N?1,公

式(1)中一维向量x??x?的所有lp范数(p??0,??)均为常数值x,也均为真的

N,N??,范数函数f?p?在区间?0,??内连续

可微,因为它可看成是由有限多个基本初等函数经过有限多次复合而组成的初等函数,并且有以下单调性质:

定理1:范数函数f?p??xp在区间?0,??上单调递减,x?N,N??。

例如,取定x1??1,0,,0??N时,f?p??x1p?1为常值函数;取定

x2??1,1,,1??N时,f?p??x2p?N1p为常值函数(N?1)或为严格单调

递减函数(N?2)。定理1实际上描述了向量x的不同lp范数(p?0)之间的大小关系。

2、预备知识 引理1:设实函数f?x?在非空区间U?调,则函数f?x?在区间U上单调。

证明:仅针对单调递减情形用反证法证明,类似可证明单调递增情形。假设函数f?x?在U上单调递减,但函数f?x?不在区间U上单调递减,即

上连续,且在有理数集U上单

?x1,x2?U,x1?x2,使得f?x1??f?x2?。记?0?1?f?x2??f?x1???0,由函数21f?x?在区间U上连续可知,存在足够小的正数?k??x2?x1?,使得

2f?x??f?xk???0,?x??xk??k,xk??k??U,k?1,2 (2)

任取有理数xk??xk??k,xk??k?f?x1??(如果x1或x2位于区间U的端点处,只要在

其相应的单侧邻域取相应的有理数xk即可),由式(2)中的两个不等式有:

f?x1??f?x2??f?x2?,x1?x2,

2上单调递减”的假设前提矛盾,故假设不成立。证毕。

,K)中至少有两个为正数,?m,n?Z?且

这与“函数f?x?在U引理2:设ak?0(k?1,2,m?n,则有

??m?n?a?a??k???k??k?1??k?1?证明:由于akKnKm (3)

?0(k?1,2,,K)为有限个数,且至少有两个为正数,不妨

aka?maxa?0??记1,则有??0,1?(k?1,2,k1?k?Ka1?a?,K),??k??1,从而有:

ak?1?1?Kn?K?a????k??k?1?a1??m??K?a??????k???k?1?a1???xnn??K?a??????k???k?1?a1???nn?? ??m由此立得不等式(3),证毕。

?bx,?x?0。

xxxxab?1fx?ab??a?b????证明:要证明,只需证 。令,则函

引理3:设a?b?0,则有a数f?x?在区间?0,??上连续且单调递增,因为f??x???ab?ln?ab??0。从而当x?0时有f?x??f?0??1,即?ab??1。证毕。

3、定理1的两种证法

3.1、 定理1的第一种证法 分两种情形进行证明: (I)若N?1或x?N中至多只有一个非零分量,则此时f?p?为常数函数,结论成立;

(II)若x?Nxx中至少有两个非零分量,则f?p??xp?p????xk??k?1?N1p?0,

由引理1及f?p?的连续性,只要证明f?p?在集合?0,??以下证明:?p1,p2??0,??由于p1,p2??0,??,?i1,i2,j1,j2??上单调递减即可。

,当p1?p2时,就有f?p1??f?p2?。

使得p1?i1j1(i1,j1互质),

1j1j2p2?i2j2 (i2,j2互质)。由p1?p2有i1j2?i2j1。下面只要证明

fi1i2?p1??f?p2?,便可得到f?p??f?p?。记ai1i212k?xki1j2?0,

(k?1,2,,N),则其中至少有两个大于0,且有

Ni2j11221??Nij?i1i2i1j2?iif?p1????ak?,f?p2????ak?,

?k?1??k?1?i1i2i1i2令m?i1j2,n?i2j1,有m?n,结合引理2得f?p1??f?p2?,证毕。

在上述证法的情形(II)中,实际上证明了: 定理2:若x?N至少有两个非零分量,范数函数f?p??xp在区间?0,??上严格单调递减。

3.2、 定理1第二种证法

分两种情形进行证明:

(I)若x?N为零向量,则此时f?p?为常数函数,结论显然成立; (II)若x?量不为零,并记akN中有K个分量不为零,K??1,2,,N?,不妨设其前K个分

?xk?0,k?1,2,,K。再不妨设a1?max?ak??0,则有

1?k?KpppKKak????????aaa0??1,ln?ak??0,由引理3有0??k??1,??k??1,ln??k??0且

a1k?1?a1?k?1?a1??a1??a1?f?p??xp?p????xk??k?1?pN1p?K?a?p??a1???k???k?1?a1????1ppK?1?ak???a1exp?ln????。

?pk?1?a1????K?ak?1gp?ln记?????,由复合函数的性质可知,此时只要证明函数g?p?在

pk?1?a1?区间内?0,??时单调递减即可。而这是成立的,因为当p?0时有,

g??p??1p??aka1?k?1KppK??a?p?a??1?ak?kkln?ln???????????0, 2pk?1??a1?k?1?a1??a1????K证毕。

4、应用

本节给出定理1的一个简单应用,即用此定理证明向量空间N中任意两个lp范数(p??1,??)等价。所给的证明过程比文献[1、2]中的证明都简洁明了。这里不考虑p??0,1?情形,因为这时xp并不是真的向量范数,除非x?定义2[1,2](向量范数的等价性):设xs,xt为向量空间数,若存在常数c1,c2?0使得对任意x?则称范数xs与xt相互等价。

范数等价关系具有反身性;对称性;传递性。对于

定理3[1,2]:向量空间

NNN1。

上的任意两种范

N有

c1xs?xt?c2xs

上的lp范数有:

上任意两个lp范数xs,xt等价,s,t??1,??。

证明:任取s??1,??,由等价关系的传递性,只要证明xs与x1等价即可。首先由定理1中单调性有x?xs?x1,又显然有,?1x1?x?,从而有: N1x1?xs?x1, N这表明xs与x1等价。 定理3表明,向量空间

N在赋予不同lp范数(p??1,??)后,在拓扑上是同

胚的。

参考文献:

[1] 李庆杨, 王能超, 易大义. 数值分析[M]. 第5版,北京: 清华大学出版, 2008:51-56.

[2] 张恭庆, 林源渠. 泛函分析讲义[M]. 上册,北京: 北京大学出版社, 2009:20-38.

[3] Lu Zhaosong. Iterative reweighted minimization methods for lp regularized unconstrained nonlinear programming [J]. arXiv preprint, 2012, arXiv:1210.0066.

[4] Ingrid Daubechies, Ronald DeVore, et al. Iteratively reweighted least squares minimization for sparse recovery [J]. Communications on Pure and Applied Mathematics, 2010. 63(1): 1-38.

[5] Luminita A. Vese, Stanley J. Osher. Image denoising and decomposition with total variation minimization and oscillatory functions [J]. Journal of Mathematical Imaging and Vision, 2004. 20(1-2): 7-18.

[6] Xu Zongben, Guo Hailiang, et al. Representative of L12 Regularization among Lq (0?q?1) Regularizations: an Experimental Study Based on Phase Diagram [J]. Acta Automatica Sinica, 2012. 38(7):1225-1228.

The Monotone Decreasing Property of Vector Norm Functions

FU Xu-jia1,2,WU Hong-guang1

(1 School of Mathematical Sciences, Huaibei Normal University, Huaibei, Anhui, 235000 2 School of Science, Nanjing University of Science and Technology, Nanjing, Jiangsu, 210094)

Abstract: In finite dimensional real vector space N, the monotone decreasing property of lp norm functions (p?0) has been proved by two methods, and then, this property has been applied to prove the equivalence of any two lp norms (p?1).

Keywords:Vector space, vector norms, monotone decreasing property