Application of Infrared and Visible Image Fusion: History
Please note this is an old version of this entry, which may differ significantly from the current revision.
Contributor: ,
红外和可见光图像融合通过从每张图像中提取主要信息并将其融合在一起,将红外和可见光图像结合起来,从两张照片中提供具有更多特征的更全面的图像。
  • infrared and visible image fusion
  • image fusion
  • multi-scale decomposition
  • compressed sensing

1. 简介

图像融合试图使用各种技术作为增强策略来创建具有许多方面和信息的丰富图像。组合多个传感器产生的图像是图像融合的过程。当前科学技术的不断进步导致了图像融合技术的发展,因为具有单个信息的图像无法满足人们的需求[1]。红外和可见光图像融合[2]、多焦点图像融合、医学图像融合、遥感图像融合等是图像融合的主要分支。
红外和可见光图像融合是上述四种图像融合中比较常用的技术。可见光波段具有很高的分辨率和异常详细的纹理,与人眼的视野最一致,产生的图像与人们日常生活中看到的图像非常相似。但是,它将受到屏蔽,天气和其他因素的严重干扰。识别和识别红外图像中目标的能力即使在最具挑战性的天气情况下(如大雨或烟雾)也能捕获热目标。另一方面,低分辨率、模糊性和对比度差是红外图像的进一步缺点。
在实际应用中,红外和可见光图像的合并可以解决各种问题。例如,在某些情况下,操作员必须同时监控来自同一场景的大量可见光和红外图像,每个图像都有自己独特的要求。人类发现,仅仅通过凝视各种可见光和红外图像来组合来自可见光和红外图像的信息是非常具有挑战性的。在一些背景复杂的情况下,红外图像可以克服可见光图像的约束,在夜间或低照度环境下获取目标信息,提高目标识别能力。通过融合红外和可见光照片,可以大大提高工作流程的有效性并带来便利。同时,红外和可见光图像融合在夜视、生物特征识别、检测和跟踪等领域存在广泛的应用[4]。这凸显了红外和可见光图像融合研究的重要性。

2. 夜视的应用

目标物体或场景的热辐射信息通常转换为假彩色图像,因为人类视觉系统对彩色图像比对灰度照片更敏感。由于采用了色彩转移技术,产生的彩色图像具有逼真的白天色彩外观,这使得场景更加直观,有助于观众理解图像。图17显示了在夜间融合可见光和红外图像以实现色觉的实例。
图 17.夜间彩色视觉的红外和可见光图像融合示例。(a) 可见光图像;(b) 红外图像;(c) 参考图像;(d) 融合图像。
灰度图像对人类视觉的响应不如彩色图像。人眼能够区分数千种颜色,但它们只能区分大约 100 张灰度图像。因此,必须对灰度图像进行着色,特别是因为具有颜色对比度增强的红外和可见光图像的融合方法已在军事装备中被广泛采用[94]。此外,由于多波段红外和夜视系统的快速增长,现在人们对许多图像传感器信号的色彩融合人体工程学表示更感兴趣。

3. 在生物识别领域的应用

面部识别研究的课题进展迅速。视觉图像的人脸识别技术已经发展到非常先进的阶段,并取得了巨大的成功[95]。在弱光情况下,使用视觉技术的人脸识别率会降低;但是,热红外人脸识别技术可以表现良好。图18显示了在红外光和可见光下捕获的人脸图像。
图 18.红外和可见人脸图像的示例。(a) 可见光图像;(b) 红外图像。
尽管基于可见图像的人脸识别技术已经得到了深入研究,但其实际实施仍然存在重大问题。例如,识别效果会受到实际场景中的照明、面部表情、背景等变化的显著影响。为了识别人脸,红外照片可以补充隐藏在可见光照片中的信息。近年来,基于生物特征优化算法的红外和可见光图像融合的应用有所增加。通过增加计算量,这种方法可以提高识别精度,并为生物特征提供更多补充数据。未来红外和可见光融合技术在生物识别领域的应用也将变得更加广泛。
然而,面部识别技术的使用越来越多,也带来了一些道德和隐私问题。例如,虽然公共场所的监控系统有助于社会安全,但它们也引发了人们的面部信息是否可能被外部各方窃取和不当使用的问题。各国政府正在利用面部识别技术监控公民活动的各个国家都对虐待和侵犯人权的行为表示担忧。

4. 在检测和跟踪领域的应用

在目标检测领域,可见光和红外图像可以协同作用来检测目标。Bulanon [32]等人将橘子树冠场景的热图像和视觉图像合并,克服了两种成像技术的局限性,提高了果实检测的准确性。首先,由于果实和树冠之间的色差,可以在可见光图片中看到水果,但由于可见光图像对光波动敏感,因此水果可能会被错误分类。经过真实测试,很明显,晚上水果的温度明显大于树顶的温度,使产生的红外图像能够有效地检测出水果。最后,水果检测的精度有所提高。为了提高监测系统的整体有效性,Elguebaly等人[97]提出了一种基于可见光和红外图像融合的目标检测方法。
在视频的后续帧中,对象跟踪会定位当前帧中指定的对象。为了在时间序列中定位目标项,目标跟踪算法必须确定帧之间的关系。单模跟踪是最受欢迎的,但不太可靠。如果是夜间或照明条件差,则无法保证目标跟踪性能,因为可见图像的质量与成像环境高度相关。这类似于红外照片缺乏纹理,对场景的三维理解不佳,无法保证它们在特定情况下的性能。因此,刘[98]等人提出了一种将彩色图像和红外图像相结合的视觉跟踪方法,即RGBT跟踪,它可以融合红外和可见光图像中的互补信息,使目标跟踪更加鲁棒。

5. 在医学诊断领域的应用

医学图像融合旨在通过保持特定功能、扩大图像在临床诊断中的使用以及评估医疗问题来提高图像质量。随着临床应用需求的不断发展,医学图像融合越来越多地被证明具有重要优势。通过对医学图像的研究,计算机或临床医生能够进行大多数医学诊断。不同类型的医学图像采用各种成像技术,并对人体的描述给予不同的强调。计算机断层扫描[99](CT),磁共振成像[100](MRI),单光子发射计算机断层扫描[101](SPECT),正电子发射断层扫描[102](PET)和超声[103]是常见医疗技术的例子。这些方法包括那些专注于区域代谢能力的方法和那些专注于器官结构的方法。如果可以合并各种模式的医学图像,诊断的有效性和准确性将显着提高,同时删除冗余信息并提高图像质量。如图19所示,MRI图像可以更好地看到更变形的软组织,而CT扫描可以更好地观察更密集和更少扭曲的组织。然后可以使用图像融合技术将两种不同类型的照片组合在一起,以提供更精确的患者信息。
Figure 19. Image fusion in clinical imaging field. (a) MRI; (b) CT; (c) Fused image.

6. Applications in the Field of Autonomous Vehicles

The field of autonomous vehicles is constantly evolving, and vision, radar, and LiDAR sensors are also widely used in autonomous vehicle perception technology. The first step in autonomous driving and a crucial element in deciding how well a vehicle performs is the ability to precisely and properly recognize the surroundings around it. General vision sensors may have trouble identifying things, particularly in low light, intense sunlight, or severe weather, which is a test for self-driving automobiles. In order to increase the visual effects of automated vehicles and the safety and dependability of autonomous driving in challenging conditions, infrared and visible light image fusion has been introduced into the application of the field of driverless vehicles. For usage in the field of autonomous cars, Li [104] et al. suggested a novel two-stage network (SOSMaskFuse) that can efficiently cut down on noise, extract critical thermal data from infrared photos, and display more texture features in visible images. In order to efficiently detect and identify objects even in environments with limited visibility, such as day or night, Choi [105] et al. presented a sensor fusion system that integrates thermal infrared cameras with LiDAR sensors. This system effectively ensures the safety of autonomous vehicles.

 

This entry is adapted from the peer-reviewed paper 10.3390/app131910891

This entry is offline, you can click here to edit this entry!
Video Production Service