基于光线模型的成像系统标定与三维测量进展

一、背景介绍：

机器视觉可称为人工智能的“慧眼”，成像系统的标定又是机器视觉处理的重要环节之一，其标定精度与稳定性直接影响系统工作效率。在传统机器视觉与摄像测量标定领域，小孔透视模型仍存在高阶透镜畸变无法完备表征和多类复杂特殊成像系统不适用的问题。

而基于光线的模型以成像系统聚焦状态下每个像素点均对应空间一条虚拟主光线为前提假设，通过确定所有像素点所对应光线方程的参数即可实现标定与成像表征，可避免对复杂成像系统的结构分析与建模。基于该光线模型，研究院相关课题组发展了各类特殊条纹结构光三维测量方法与系统，实验证明光线模型可通用于多类复杂成像系统的高精度测量，是校准非针孔透视成像系统的有效模型，可作为透视模型的补充。

二、光线模型

Baker等人最早提出了一种可表征任意成像系统的光线模型[1]，认为图像是像素的离散集合，并以一组虚拟的感光元件“光素”表示每个像素与某像素相关联的空间虚拟光线间的完整几何特性、辐射特性和光学特性，如图1所示。

因此，光线模型的标定即确定出所有像素点对应的光线方程，无需严格分析和构建成像系统的复杂光学成像模型，具备一定的便携性和通用性，从一定程度上也可避免镜头畸变的多项式近似表征引入的测量误差，为非小孔透视投影模型成像系统的表征提供了一种新的思路。

图1 成像系统的光线模型示意图

三、基于光线模型的条纹结构光三维测量

在条纹结构光投影三维测量领域，光线模型一方面可作为三维重建的光线方案，用于表征大畸变镜头、光场相机、DMD投影机、MEMS投影机等多类特殊结构的成像与投影装置，可发展新的基于光线模型的条纹结构光三维测量方法与系统；另一方面，发掘光线模型在结构光测量中的优势，光线模型对克服投影与相机的非线性响应、大畸变镜头成像下提升三维重建精度具有优异的效果。

3.1 Scheimpflug小视场远心结构光测量系统光线模型与三维测量

课题组开发了小视场远心结构光测量系统，采用Scheimpflug结构设计确保公共景深覆盖，如图2所示。考虑到远心镜头属平行正交投影、Scheimpflug倾斜结构造成畸变模型非中心对称，因此，提出一种基于光线模型的非参数化广义标定方法[2]。系统中相机与投影机成像过程均采用光线模型表征，标定其像素与空间光线对应关系，计算光线交汇点坐标，实现三维重建。图3展示了系统实物图与五角硬币局部小区域的三维测量结果，测量精度为2 μm。

图2 Scheimpflug小视场远心结构光测量系统

图3 测量系统实物图与五角硬币局部的三维测量结果

3.2光场相机的光线模型标定与主动光场三维测量

课题组发展了基于主动条纹结构光照明的光场三维测量方法与系统。光场相机通过在传感平面前放置微透镜阵列，实现光线强度和方向的同时记录，由于存在微透镜加工误差、畸变像差、装配误差等复杂因素影响，光场相机完备表征与精密标定是个难题。

课题组提出光线模型表征光场成像过程[3]，即将光场相机内部看作黑盒，直接建立像素m与所对应的物空间光线方程l的参数，如图4所示。并通过标定光场所有光线与投影条纹相位的映射关系实现被测为物体的高精度三维测量，考虑光场多角度记录特点，构建基于条纹调制度的数据筛选机制，实现了场景的高动态三维测量，如图5所示，黑色面板与反光金属可同时重建。

图4 光场成像模型

图5 主动光场高动态三维测量

3.3 DMD投影机与双轴MEMS激光扫描投影机的光线模型标定与三维测量

基于微机电系统（MEMS）激光扫描的投影机以小型化、大景深的优势被应用于条纹投影测量系统，如图6（a）所示。但由于其依赖激光点的双轴MEMS扫描投影图案，不依赖镜头成像，透视投影模型表征会存在一定误差。此外， DMD等依赖镜头成像的投影机，大光圈设计也会影响小孔透视投影模型的表征精度。

对此，课题组采用光线模型表征投影机[4]，并提出了一种基于投影机光线模型的条纹投影三维测量系统标定方法，该方法根据双轴MEMS投影的正交相位对光线进行识别追踪，利用投影光线与相机构建的三角测量实现了三维重建。进一步发现：由于投影光线的相位一致性特性，光线模型可显著抑制系统非线性响应引起的测量误差，图6（b）展示了单目系统在3步相移条件下（未额外矫正非线性响应），分别使用透视投影模型与光线模型对石膏雕塑的三维重建结果，可见光线模型对非线性响应影响具有免疫性。

图6 双轴MEMS激光扫描投影原理和石膏雕塑三维重建结果（3步相移，左图为透视投影模型，右图为光线模型）

3.4单轴MEMS激光扫描投影机光线模型标定与三维测量

单轴MEMS投影机将激光点扫描拓展为面扫描大幅提升了投影速率，可应用于动态测量。针对单轴MEMS投影机无透镜结构使得针孔模型不适用、单向投影无法提供正交相位特征点的问题，课题组提出一种基于等相位面模型的系统标定方法[5]，推导出了相机反向投影射线与该等相位面交点处的三维坐标值与相位值间新的映射函数，实现了快速三维重建。

图7展示了使用高速相机搭建的单目测量系统和重建场景，投影采集速率为1000 frame/s，采用4步相移与雷码图相位展开，三维重建速率为90 frame/s。后续为适应更高速率测量应用，可将单目扩展为双目或多目系统，采用单帧解调相位和多极线约束相位展开等方法减少投影图像数量，提升三维测量速率。

图7三维测量系统与动态重建场景

3.5大畸变镜头成像的光线模型标定与三维测量

针对传统低阶多项式不能完备表征大畸变镜头的问题，课题组采用光线模型表征大畸变镜头相机成像，并提出一种完全脱离对相机和投影机内参依赖（透视模型依赖相机与投影机内参）的光线与条纹相位映射的三维重建方法。通过直接标定相机光线与条纹相位的倒数多项式映射系数，避免了繁琐耗时的对应点搜索与光线插值操作。

图8为装配4 mm广角镜头的光线标定结果与标准球三维测量结果，可见由于广角镜头畸变较大，光线模型较透视模型重建质量有所提升。

图8 广角镜头光线标定与标准球三维测量数据的拟合误差分布（a）透视投影模型，（b）光线映射模型

四、总结

光线模型通过确定所有像素点所对应光线方程的参数实现标定与成像表征，从而避免了对复杂成像（投影）系统的结构分析与建模，解决了特殊条纹投影三维测量系统的标定与重建问题，同时在条纹投影三维测量的系统非线性相位误差抑制和精度提升上展示出优异性能。在结构光三维测量的未来发展中，可进一步扩展光线模型三维测量的方法与应用，提升测量精度、效率与通用性，解决各类特殊复杂场景中的应用测量问题。

参考文献

[1] Baker S, Nayar S K. A theory of catadioptric image formation[C]//Sixth International Conference on Computer Vision (IEEE Cat. No.98CH36271), January 7, 1998, Bombay, India. New York: IEEE Press, 1998: 35-42.

[2] Yin Y K, Wang M, Gao B Z, et al. Fringe projection 3D microscopy with the general imaging model[J]. Optics Express, 2015, 23(5): 6846-6857.

[3] Cai Z W, Liu X L, Peng X, et al. Ray calibration and phase mapping for structured-light-field 3D reconstruction[J]. Optics Express, 2018, 26(6): 7598-7613.

[4] Yang Y, Miao Y P, Cai Z W, et al. A novel projector ray-model for 3D measurement in fringe projection profilometry[J]. Optics and Lasers in Engineering, 2022, 149: 106818.

[5] Miao Y P, Yang Y, Hou Q Y, et al. High-efficiency 3D reconstruction with a uniaxial MEMS-based fringe projection profilometry[J]. Optics Express, 2021, 29(21): 34243-34257.

课题组简介：

本文作者：刘晓利 ，杨洋 ，喻菁 ，缪裕培 ，张小杰 ，彭翔 ，于起峰 ；深圳大学物理与光电工程学院深圳市智能光测与感知重点实验室。

以于起峰院士领衔的深圳大学智能光测图像研究院主要研究方向包括大型结构变形与大尺度运动测量、超常光学测量与智能图像分析、计算成像与三维测量以及多传感器融合感知与控制等。