逆问题求解的贝叶斯方法

　　《逆问题的贝叶斯方法》是Jér？？me Idier博士组织法国贝叶斯机器学习领域顶级专家推出的一大力作。全书系统介绍了了贝叶斯框架、原理、方法及其在逆问题求解中的应用，学术思想新颖前沿，理论研究超前，理论应用结合紧密，应用实例涉及对于解决战场感知、战略预警系统中的目标精细成像识别具有极高的参考价值，对国防科技和武器装备发展具有较大的推动作用。申译者团队长期从事目标成像与探测识别、统计学习方面的教学和科研工作，他们及所指导的学生具有在原书作者之一的单位巴黎十一大学联合研究或攻读博士学位的经历，与原书作者建立了良好的师生之谊和合作关系，具有较好的专业素质和英文水平。

　　邓彬 国防科技大学电子科学学院智能感知系副研究员，硕士生导师、973项目管理办公室副主任，从事太赫兹雷达及合成孔径雷达成像研究。承担国家自然科学基金、863项目、973课题级项目、航天支撑基金等多项，获军队科技进步三等奖1项。出版专著1部、教学科研文集1部、译著1部，发表论文50余篇，SCI检索20余篇，获专利19项。

目录 引言15第一部分 基础问题与工具23第一章 逆问题与病态问题25 1．1 引言25 1．2 基本实例26 1．3 病态问题30 1．3．1 离散数据31 1．3．2 连续数据32 1．4 广义求逆34 1．4．1 伪解35 1．4．2 广义解35 1．4．3 实例35 1．5 离散化与条件化36 1．6 小结38 1．7 参考文献39第二章 病态问题的正则化方法41 2．1 正则化41 2．1．1 维数控制42 2．1．1．1 截断奇异值分解42 2．1．1．2 离散化变形43 2．1．1．3 迭代方法43 2．1．2复合准则的最小化44 2．1．2．1 欧式距离45 2．1．2．2 粗糙程度46 2．1．2．3 非二次惩罚47 2．1．2．4 库尔贝克伪距47 2．2 准则下降法48 2．2．1 逆问题中的最小化准则48 2．2．2 二次情形49 2．2．2．1 非迭代技术49 2．2．2．2 迭代技术50 2．2．3 凸情形51 2．2．4 一般情形52 2．3 正则化系数选择53 2．3．1 残余误差能量控制53 2．3．2 “L曲线”法53 2．3．3 交叉验证法54 2．4 参考文献56第三章 概率框架下的逆问题59 3．1 逆问题与推理59 3．2 统计推理60 3．2．1 噪声规律与数据的直接分布61 3．2．2 最大似然估计63 3．3 逆问题的贝叶斯方法64 3．4 与确定性方法的联系66 3．5 超参数的选择67 3．6 先验模型68 3．7 准则选取70 3．8 线性高斯情形71 3．8．1 解的统计特性71 3．8．2 边缘似然函数计算73 3．8．3 维纳滤波74 3．9 参考文献76第二部分 解卷积79第四章 逆滤波及其线性方法81 4．1 引言81 4．2 连续时间解卷积82 4．2．1 逆滤波82 4．2．2 维纳滤波84 4．3 问题离散化85 4．3．1 求积法选择85 4．3．2 观测矩阵结构87 4．3．3 常规边界条件89 4．3．4 问题条件89 4．3．4．1 轮换矩阵情形90 4．3．4．2 拓普利兹矩阵情形90 4．3．4．3 分辨率与条件的矛盾91 4．3．5 广义求逆91 4．4 批量解卷积92 4．4．1 初步选择92 4．4．2 估计的矩阵形式93 4．4．3 亨特方法(周期边界假设)94 4．4．4 平稳情况下的精确求逆方法96 4．4．5 非平稳信号情形98 4．4．6 实例结果与讨论98 4．4．6．1 一维解卷积中的偏差与方差折衷98 4．4．6．2 二维处理结果100 4．5 递归解卷积102 4．5．1 卡尔曼滤波102 4．5．2 退化状态模型与递归最小二乘104 4．5．3 自回归状态模型105 4．5．3．1 初始化106 4．5．3．2 卡尔曼平滑器最小化准则107 4．5．3．3 实例结果108 4．5．4 快速卡尔曼滤波108 4．5．5 平稳条件下的渐进技术110 4．5．5．1 渐进卡尔曼滤波110 4．5．5．2 小核维纳滤波器111 4．5．6 ARMA模型与非标准卡尔曼滤波111 4．5．7 非平稳信号情形111 4．5．8 在线处理：二维情形112 4．6 小结112 4．7 参考文献113第五章 脉冲序列解卷积117 5．1 引言117 5．2 反射率惩戒与L2LPL2Hy解卷积119 5．2．1 二次项正则化121 5．2．2 非二次项正则化122 5．2．3 L2LP或L2Hy解卷积123 5．3 伯努利-高斯解卷积124 5．3．1 复合BG模型124 5．3．2 各种估计策略124 5．3．3 边缘似然函数的一般化表示125 5．3．4 BG解卷积迭代方法126 5．3．5 其他方法128 5．4 处理与讨论实例130 5．4．1 解的性质130 5．4．2 参数设置132 5．4．3 数值复杂度133 5．5 延伸133 5．5．1 R与H结构推广134 5．5．2 冲击响应估计134 5．6 小结136 5．7 参考文献137第六章 图像解卷积141 6．1 引言141 6．2吉洪诺夫正则化142 6．2．1 原理142 6．2．1．1 一元信号情形142 6．2．1．2 多元延拓143 6．2．1．1 离散框架144 6．2．2 线性PDE与图像处理的关联144 6．2．3 吉洪诺夫正则化方法的局限145 6．3 检测估计148 6．3．1 原理148 6．3．2 缺陷149 6．4 非二次方法150 6．4．1 检测估计与非凸惩戒154 6．4．2 PDE各向异性扩散155 6．5 半二次增广准则156 6．5．1 非二次准则与HQ准则的对偶性 157 6．5．2 HQ准则的最小化 158 6．5．2．1 松弛原理158 6．5．2．2 凸函数φ情形159 6．5．2．3 非凸函数φ情形159 6．6 图像解卷积应用159 6．6．1 解的计算159 6．6．2 实例161 6．7 小结164 6．8 参考文献165第三部分 高级问题与工具169第七章 吉布斯-马尔科夫图模型171 7．1 引言171 7．2 贝叶斯统计框架172 7．3 吉布斯-马尔科夫场173 7．3．1 吉布斯场174 7．3．1．1 定义174 7．3．1．2 一般实例175 7．3．1．3 成对相互作用与不适合准侧176 7．3．1．4 马尔科夫链176 7．3．1．5 最小群与势体非唯一性177 7．3．2 吉布斯-马尔科夫等价177 7．3．2．1 领域关系177 7．3．2．2 马尔科夫场定义178 7．3．2．3 吉布斯场就是马尔科夫场179 7．3．2．3 哈默斯利-克利福定理179 7．3．3 GMRF的后验规律180 7．3．4 图像吉布斯-马尔科夫模型181 7．3．4．1 用于分类的具有离散值和标号字段的像素181 7．3．4．2 高斯GMRF182 7．3．4．3 边缘变量与复合GMRF183 7．3．4．4 交互边缘变量184 7．3．4．5 非高斯GMRF185 7．4 统计工具与随机采样185 7．4．1 统计工具185 7．4．2 随机采样188 7．4．2．1 迭代采样方法189 7．4．2．2 MCMC类的蒙特卡洛方法192 7．4．2．3 模拟退火法193 7．5 小结194 7．6 参考文献195第八章 无监督问题197 8．1 引言与问题描述197 8．2 直接观测场199 8．2．1 似然函数性质199 8．2．2 最优化200 8．2．2．1 梯度下降200 8．2．2．2 重要性采样200 8．2．3 近似方法202 8．2．3．1 编码方法202 8．2．3．2 伪似然函数203 8．2．3．3 平均场204 8．3 间接观测场205 8．3．1 问题描述205 8．3．2 EM算法206 8．3．3 GMRF参数估计的应用207 8．3．4 EM算法与梯度208 8．3．5 线性GMRF的超参数210 8．3．6 拓展与近似212 8．3．6．1 广义最大似然212 8．3．6．2 全贝叶斯方法213 8．4 小结215 8．5 参考文献216第四部分 一些应用219第九章 解卷积法在超声无损评价中的应用221 9．1 引言221 9．2 评价实例与解析困难 222 9．2．1 待查部分的描述222 9．2．2 评价准则222 9．2．3 评价结果与解析223 9．2．4 基于恢复间断的解析224 9．3 直接卷积模型定义225 9．4 盲解卷积226 9．4．1 盲解卷积方法概述226 9．4．1．1 预判解卷积226 9．4．1．2 最小熵解卷积228 9．4．1．3 多脉冲解卷积技术228 9．4．1．4 顺序估计：先后估计核与输入228 9．4．1．5 核与输入联合估计229 9．4．2 DL2HyDBG解卷积230 9．4．2．1 改进直接模型230 9．4．2．2 双反射率的先验信息230 9．4．2．3 双伯努利-高斯（DBG）解卷积230 9．4．2．4 双曲（DL2Hy）解卷积231 9．4．2．5 DL2HyDBG解卷积方法的行为231 9．4．3 盲DL2HyDBG解卷积232 9．5 实测数据处理232 9．5．1 盲解卷积处理233 9．5．2 测量波形解卷积234 9．5．3 DL2Hy与DBG比较237 9．5．4 总结240 9．6 小结240 9．7 参考文献241第十章 大气湍流光学成像反演243 10．1 湍流光学成像243 10．1．1 引言243 10．1．2 成像244 10．1．2．1 衍射244 10．1．2．2 光学干涉原理245 10．1．3 湍流对成像的影响246 10．1．3．1 湍流与相位246 10．1．3．2 长曝光成像247 10．1．3．3 短曝光成像247 10．1．3．4 长基线干涉仪的例子248 10．1．4 成像技术249 10．1．4．1 散斑技术249 10．1．4．2 波前感知解卷积250 10．1．4．3 自适应光学251 10．1．4．4 光学干涉度量法251 10．2 采用的求逆方法与正则化准则253 10．3 相差测量254 10．3．1 引言254 10．3．2 哈特曼-夏克传感器255 10．3．3 相位恢复与相位分集257 10．4 近视成像修复258 10．4．1 动机与噪声统计258 10．4．2 波前感知解卷积中的数据处理259 10．4．2．1 短曝光图像的常规处理259 10．4．2．2 短曝光图像的近视解卷积260 10．4．2．3 仿真261 10．4．2．4 实验结果262 10．4．3 自适应光学校正图像恢复263 10．4．3．1 自适应光学校正图像的近视解卷积263 10．4．3．2 实验结果265 10．4．4小结267 10．5 光学干涉测量中的图像重建（OI）268 10．5．1 观测模型268 10．5．2 传统贝叶斯方法271 10．5．3 近视建模272 10．5．4 结果274 10．5．4．1 综合数据处理274 10．5．4．2 实验数据处理276 10．6 参考文献 277第十一章 超声多普勒测速中的光谱表征285 11．1 医学成像中的速度测量285 11．1．1 超声成像中的测速原理286 11．1．2 多普勒信号携带的信息286 11．1．3 一些特点与局限性288 11．1．4 处理的数据与问题288 11．2 自适应谱分析290 11．2．1 最小二乘与传统拓展290 11．2．2 长AR模型-光谱平滑-空间连续性291 11．2．2．1 空间规律291 11．2．2．2 光谱平滑292 11．2．2．3 正则最小二乘292 11．2．2．4 最优化293 11．2．3 卡尔曼平滑 293 11．2．3．1 状态与观测方程293 11．2．3．2 参数化等价294 11．2．4 超参数估计294 11．2．5 处理结果与比较296 11．2．5．1超参数调整296 11．2．5．2 量化比较296 11．3谱矩跟踪297 11．3．1 已有方法298 11．3．1．1 似然函数298 11．3．1．2 幅度：先验分布与边缘化298 11．3．1．3 频率：先验法则与后验法则300 11．3．1．4 维特比算法302 11．3．2 超参数似然函数302 11．3．2．1 前向-后向算法302 11．3．2．2 似然函数梯度303 11．3．3 处理结果与比较304 11．3．3．1 超参数调节304 11．3．3．2 量化比较305 11．4 小结306 11．5 参考文献307第十二章 基于少量投影的层析重建311 12．1 引言311 12．2 投影生成模型312 12．3 二维解析方法313 12．4 三维解析方法317 12．5 解析方法的局限317 12．6 重构的离散方法319 12．7 准则与重构方法选取321 12．8 重构方法323 12．8．1 凸优化方法323 12．8．1．1 梯度算法324 12．8．1．2 SIRT(同时迭代松弛技术)325 12．8．1．3 ART(代数重构技术)325 12．8．1．4 分块ART326 12．8．1．5 ICD（迭代坐标下降）算法326 12．8．1．6 理查森-露西算法326 12．8．2 最优化与集成算法327 12．9 二进制对象的特定模型328 12．10 例证328 12．10．1 二维重构328 12．10．2 三维重构329 12．11 小结331 12．12 参考文献332第十三章 绕射层析成像335 13．1 引言335 13．2 问题建模336 13．2．1 绕射层析成像应用实例336 13．2．1．1 微波成像337 13．2．1．2 用涡流对导电材料的无损评估337 13．2．1．3 地球物理学探测338 13．2．2 直接问题建模338 13．2．2．1 非均匀介质传播方程338 13．2．2．2 直接问题的积分建模339 13．3 直接问题离散化340 13．3．1 代数框架选取340 13．3．2 矩量法341 13．2．1 基于矩量法的离散化342 13．4 逆问题求解准则构建343 13．4．1 第一种形式：估计x 344 13．4．2第二种形式：估计x与φ345 13．4．3 准则的性质347 13．5 逆问题求解347 13．5．1逐次线性化348 13．5．1．1 近似348 13．5．1．1 正则化349 13．5．1．1 解译349 13．5．2 联合最小化350 13．5．3 最小化MAP准则351 13．6 小结 353 13．7 参考文献354第十四章 低强度数据成像357 14．1 引言357 14．2 一般低强度图像数据的统计特性359 14．2．1 似然函数与极限行为359 14．2．2 纯泊松测量360 14．2．3 涵盖背景计数噪声362 14．2．4 含泊松信息的复合噪声模型362 14．3 逆问题中的量子极限测量363 14．3．1 最大似然的性质363 14．3．2 贝叶斯估计366 14．4 贝叶斯估计实现与计算368 14．4．1 纯泊松模型的实现368 14．4．2 复合数据模型的贝叶斯实现370 14．5 小结372 14．6 参考文献372作者列表375索引377