自适应光学系统能够校正大气湍流带来的波前畸变以及各种生物组织中的折射率不均匀引起的成像模糊，因此广泛应用于天文观测、自由空间光通信和生物医学等领域。波前传感器作为自适应光学系统的重要组成部分，为自适应光学系统中的波前控制和波前校正提供了畸变波前的相位信息，因此不仅决定了系统的校正精度，很大程度上还影响着系统的稳定性。其中夏克-哈特曼波前传感器和基于干涉原理的波前传感器是自适应光学系统中最为常用的两种波前传感器，也同时广泛应用于光学测量和光束质量诊断等领域中，具有十分重要的研究价值。

与此同时，以人工神经网络为核心的深度学习技术在近年来突飞猛进，成为人工智能领域最为成功和最有潜力的技术之一。正所谓“人工智能就是新电力”，深度学习技术就像第二次工业革命中的电力那样，正迅速在各个科学及工业领域普及和应用。深度学习技术和自适应光学的波前探测、波前控制等环节的结合也正被广泛和深入地研究，具有广阔的发展潜力。

本文围绕使用深度学习技术对夏克-哈特曼波前传感器以及基于干涉原理的波前传感器进行算法和结构上的改进，以期实现稳定性和探测精度的提升。全文的主要内容可以分为四个部分：

首先，介绍了自适应光学系统的基本原理，以及常用的波前传感器。详细分析了夏克-哈特曼波前传感器的组成结构和算法原理，指出夏克-哈特曼波前传感器在极端环境下存在鲁棒性不足的问题，以及在高精度测量环境下存在对高频信息探测精度不足的问题。详细分析了干涉法中的相位提取算法，发现现有的移相干涉算法存在需要的干涉图数量过多以及对移相器精度依赖严重的问题。然后概述了深度学习中的常用技术，并详细梳理了深度学习在自适应光学波前探测以及波前控制中的应用现状。从已有的研究中可以发现，将深度学习技术引入波前传感具有很高的技术可行性，但同时也存在不少问题，有巨大的改进空间。

第二部分，首先建立了低信噪比以及干扰光环境下的子孔径高斯光斑模型，并分析了各类改进重心法在极端环境下的局限性。为了解决夏克-哈特曼波前传感器在极端环境下质心探测失效而导致闭环紊乱的问题，提出了基于逻辑回归的变形镜闭环稳定性分类方法，能在自适应光学系统闭环异常的时候及时开环，避免系统设备遭受损失。为了进一步使自适应光学系统能够在极端环境下继续工作，详细分析了各类改进重心法的神经网络计算图表示形式，发现所有的改进重心法都是全连接单隐层神经网络的特例，因此提出了能找出子光斑质心所在像素点的分类神经网络SHNN，并仿真生成包含6万个数据的训练集对网络进行训练。训练完成后，对SHNN和传统算法在仿真和实际实验中进行了对比，实验结果发现，最优的SHNN复原相位的残差的均方根误差要比传统的阈值法复原相位的残差的均方根误差小近一个数量级。

第三部分，详细介绍了四种只使用两幅干涉图并且不需要准确知道相移步长的双帧干涉测量算法，随后概述了计算机视觉领域的有力工具U-Net的发展历程，并借鉴和改造了原始U-Net，构造了能从两幅干涉图恢复包裹相位的神经网络Phase U-Net。仔细选择参数生成仿真数据集，并对Phase U-Net进行了训练。随后对训练完成的Phase U-Net的性能进行了详细的仿真分析，并探讨了神经网络计算包裹相位的原理和有效性。通过与四种传统算法的实验对比，证明了Phase U-Net算法的精度优势。

第四部分，为了提高夏克-哈特曼波前传感器对相位中高频信息的探测能力，提出了融合相位反演技术的离焦面高分辨率哈特曼波前传感器。充分利用子孔径的光斑形态信息，从而获取相位分布信息，一直是众多研究人员努力的方向。然而如何从一幅光强图获得子孔径相位信息，以及如何将子孔径相位信息和传感器的斜率信息进行融合一直是提升夏克-哈特曼波前传感器精度的两个难点。本文首先利用线性相位反演技术，仅需一幅离焦面哈特曼传感器的光强图，就能在小像差的前提下恢复出每个子孔径中的相位，然后构造神经网络LPR U-Net对线性相位反演的结果和模式法复原的相位进行融合。仿真表明，该方法对相位中高频信息的探测精度要优于经典夏克-哈特曼传感器的探测精度。

本文针对不同应用环境下对波前传感器的具体需求，重点开展基于深度学习的自适应光学波前传感技术的算法研究和实验验证，为进一步推动深度学习技术与自适应光学系统的深度融合打下了基础。