split-bregman迭代_线性bregman迭代小波_bregman divergence(2)

下面我们把4.11和前面定义的Bregman距离带入到4.5里面去,具体如下：

在上面的推导中，u_k是常量，C是与u_k有关的一个常量，将上式对u求导，由于有绝对项，所以要分开讨论，得到上面这个分段表达式。进一步整理得到：

这里，我们定义了一个shrink操作，这个收缩算子很重要，在后面所有的Bregman算法中都有这个操作。根据这个操作，我们导出下面的表达式，并最终把线性Bregman迭代算法总结如下：

Split Bregman 算法是另一种高效的算法。我们已经知道，Bregman迭代算法用于求解下面的凸优化问题：

我们可以把上面的表达式变换为下面的等价形式：

这一步，看是多此一举，但是Bregman经过推导，得出了一种高效的迭代算法，Bregman迭代。

上面的5.2是一个等式约束优化问题，把它转化为无约束优化问题如下：

上面这个公式中，优化变量多了一个d。做如下的变量替换：

如果我们对5.5，应用最前面提到Bregman 迭代算法，很容易写出下面的迭代序列：

式5.9是根据5-6按照Bregman距离展开的结果。式5.7,5.7后面一项是对5-5分别对u，d求其偏导数得到。split-bregman迭代如果我们对5.7迭代展开，于是得到：

同理，对于5.8，有

注意到式5.11和5.12有一个公共的SIGMA求和项，把它重新定义如下：

把5.14,5.15带入5.9，具体如下：

在对5.16的化简中，要注意的是u，d为变量，其它看做常量。

到此，我们可以给出Split Bregman迭代算法的通用优化步骤：

对u的迭代，把u看做自变量，其它所有变量看做常数，对d的迭代则是d为自变量，其它变量都是常数。之所以说是通用迭代优化过程，是因为对于具体的问题，其迭代的具体表达式不同。例如，对于基于各向异性TV的去噪模型，各向同性TV去噪模型，其迭代的具体表达式是不同的。

本文来自电脑杂谈，转载请注明本文网址：
https://www.pc-fly.com/a/jisuanjixue/article-38504-2.html