巴拿赫不动点定理,又称为压缩映射原理(Contraction Mapping Principle)。
也许看起来这个定理貌似很简单,但其应用范围很广。也正是由于其强大,所以保证了在一些前提条件成立的情况下,我们可以对值函数赋任意初始值,其迭代后总会收敛到真实解。(其收敛是线性的,速度取决于下文定义的压缩常数,因而实际操作中我们往往不使用值函数迭代算法,而利用如政策函数迭代算法这种收敛更快的方法求解,当然这是后话,此处暂且不表。)
定义:算子
从一个度量空间映射到它自身的函数,称为一个算子。
定义: 李普希茨连续
一个算子f:M→M如果满足(∃β∈R+)(∀x,y∈M)[d(f(X),f(y))≤βd(x,y)],则称f为李普希茨连续映射,其中使得前式成立的最小β称为李普希茨常数。可知,李普希茨连续能推出连续。(有另外一种定义方式,即任何使定义式成立的数都称为李普希茨常数,从而每个比这个数大的数也是李普希茨常数。)
定义: 压缩映射
一个算子f:M→M如果满足
(∃β∈(0,1))(∀x,y∈M)[d(f(X),f(y))≤βd(x,y)]
则称f为压缩映射。可知,压缩映射即是李普希茨常数被限定在(0,1)的李普希茨连续算子。
定义: 非扩张映射
若李普希茨常数为1。
引理
如果f:M→M为压缩映射,则∀x∈M,序列(x,f(x),f(f(x)),…)为柯西列。
定理
如果f:M→M为压缩映射,且(M,d)为完备度量空间(如果其中每个柯西列都是收敛列,且其极限位于该空间中,则称其为完备度量空间),则f具有唯一不动点,且从任意起始点x0开始,如上面引理中定义的柯西列(x0,f(x0),f(f(x0))…)均收敛于该不动点。
存在性
因为M为完备度量空间,因此柯西列(x0,f(x0),f(f(x0))…)必收敛于空间中某点,记此点为x∗。∀ϵ>0,∃T,使得∀t>T
-
根据收敛定义,有d(x∗,xt)<ϵ/3;
-
根据柯西列定义,有d(xt,xt+1)<ϵ/3;
-
根据距离(度量)的三角不等式,有d(x∗,f(x∗))≤d(x∗,xt)+d(xt,xt+1)+d(f(xt),f(x∗));
-
根据压缩映射定义,有β∈(0,1)使得d(f(xt),f(x∗))<βd(xt,x∗)<βϵ/3。
综上,有d(x∗,f(x∗))<ϵ,亦即d(x∗,f(x∗))=0。
唯一性
假定x°=x∗,且满足x°=f(x°) 及x∗=f(x∗)。
因x°=f(x°)及x∗=f(x∗)而有d(x°,x∗)=d(f(x°),f(x∗))。
但根据压缩映射定义有d(x°,x∗)=d(f(x°),f(x∗))≤βd(x°,x∗),而β∈(0,1),因此d(x°,x∗)<βd(x°,x∗)。
但这意味着d(x°,x∗)=0,而根据距离(度量)定义这就是x°=x∗,矛盾。因此仅有唯一不动点。□
Blackwell 充分条件
通过验证这一充分条件,可以得知给定的算子是否是压缩映射。(若满足,可知是压缩映射;若不满足,则不知道)
令T为度量空间(X,d∞)上的一个算子,其中X为函数空间,如果算子T满足:
(a) 单调性。对于任意x,y∈X,x≥y意味着T(x)≥T(y);
(b) 贴现性。令c表示在X中所有函数的定义域上均为常值的函数,对于任意这样一个c和每个x∈X,都存在一个β∈[0,1),使得T(x+c)≤T(x)+βc。
则T是以β为压缩常数的压缩映射。
证明
对于所有的函数x,y∈X,都有x≤y+d(x,y)。因为有单调性,可知T(x)≤T(y+d(x,y)),根据贴现性,进一步有T(y+d(x,y))≤T(y)+βd(x,y),即:T(x)≤T(y)+βd(x,y);
交换x和y的角色,可得T(y)≤T(x)+βd(x,y),
综上,d(T(x),T(y))≤βd(x,y)。
应用
与Kakutani不动点定理一样,压缩映射原理也用于证明一些存在性问题。
应用
(待续)