海洋蕴含丰富的生物与矿产等资源，可靠、高效的海洋探索对人类发展具有重要意义。本文围绕机器人水下自主探索中的视觉感知问题，从小样本目标检测、开集目标检测以及增量目标检测三个方面逐层递进展开深入研究，旨在为水下机器人在海洋环境下的智能自主探索提供理论指导和技术支撑。取得的主要研究成果如下：

       一、针对小样本目标检测中特征耦合以及分类头容易过拟合的问题，提出了一种解耦度量的单阶段小样本目标检测方法。首先，构建了一种解耦表达转换模块（Decoupled Representation Transformation，DRT），提出了特征自适应变换方法，实现了分类定位特征解耦，提升了检测器在新类上的泛化性。其次，提出了一种图像级度量学习模块（Image-Level Distance Metric Learning，IDML），实现了对整张特征图的直接处理，无需感兴趣区域（Region of Interest，RoI）池化操作，适用于单阶段目标检测。得益于度量学习较高的泛化性，所提IDML进一步提升了检测器对新类的检测精度。最后，结合所提的DRT与IDML，构建了解耦度量网络（Decoupled Metric Network，DMNet），实现了较高性能的单阶段小样本目标检测。大量实验验证了所提方法的有效性、实时性与鲁棒性。水下目标检测实验结果表明，DMNet在真实水下场景能够很好地完成水下小样本目标检测任务。

       二、针对小样本检测中多分类范式与小样本任务间的冲突以及困难负样本问题，提出了一种能够抑制困难负样本的高精度两阶段小样本目标检测方法。首先，从小样本目标检测出发，得出多重二分类范式比现有多分类范式更适合小样本检测任务的结论。其次，基于多重二分类范式，设计了一种二元相似度头，在新类上具有更高的泛化性。再次，针对困难负样本设计了一种特征增强模块，加大了正样本与困难负样本特征间的差异，降低了假阳性率。最后，基于上述所提模块，提出了一种二元相似度检测器（Binary Similarity Detector，BSDet），实现了较高的小样本目标检测精度。大量实验验证了所提方法的有效性和优越性，表明多重二分类范式更适合小样本目标检测任务。野外湖泊场景实验结果表明，BSDet在真实水下场景能够很好地完成水下小样本目标检测任务。

       三、针对开集目标检测问题，提出了一种基于分类定位融合的开集目标检测方法。首先，结合分类与定位的特点，提出了一种融合区域建议网络，实现了对未知类物体泛化性更好的前景置信度预测。其次，提出了一种未知类伪标签选取方法，实现了训练过程中对未知类物体的自动标注，避免了潜在的前景物体被分配为背景标签，损害对未知类物体的检测性能。再次，提出了面向已知类和未知类物体的差异增强模块，提高了检测器区分已知类与未知类物体的能力，缓解了两者混淆的问题。最后，大量实验和可视化验证了所提方法的有效性，在公开数据集上与野外湖泊场景均较好地完成了对未知类物体的检测。

       四、针对机器人水下自主探索任务，提出了一套完整的视觉感知框架。首先，梳理并规范化了机器人水下自主探索任务，将其拆分为闭集目标检测、开集目标检测以及增量目标检测，建立了三者的相互关系。其次，提出了一种余弦相似度聚类，实现了无监督情况下自适应地确定聚类簇数，以及不同未知类物体之间的细分。再次，提出了一种回传梯度缩放策略以及知识蒸馏方法，使检测器在增量学习时能较好保留旧类知识。最后，提出了一套完整的视觉感知框架，实现了机器人的水下自主探索，完成了已知类物体检测、未知类物体检测、未知类物体细分以及对新类物体的增量学习等任务。大量实验结果表明了所提方法的有效性，机器人在野外水下场景能够有效完成自主视觉感知任务。