3D增强现实(AR)技术正在如何改变医药和医疗保健行业

话题:
作者:
Anne Corning

增强现实(AR)属于“空间计算”类别,即数字空间与物理空间的合并。这个概念在改变生活的应用方面比医药具有更大的潜力。到2026年,AR与虚拟现实(VR)和混合现实(MR)在医疗保健行业的应用预计将达到70.5亿美元的全球市场规模,实现28.3%的爆炸性复合年增长率(CAGR)1,包括硬件和软件。到2020年,仅AR的市场规模预计就将达到12亿美元,到2025年将增长至51亿美元2

在医药和医疗保健领域,增强现实技术有助于从医疗服务提供商和患者两个角度提高安全性和效率。它已经促进了微创手术、医学教育、诊断、药物服用依从性和疾病检测等领域的变化。新的AR应用提供的最大突破之一在于它们能够使用来自传统2D医学成像技术(比如超声波、X射线和磁共振成像(MRI))的数据呈现3D可视化图像。显而易见的是:人体是3D对象,因此能够查看患者身体、器官或其他内部结构的3D全息再现图像对于诊断和治疗而言是一项重大飞跃。

以患者为中心的AR应用

增强视野。色素性视网膜炎(一种会导致视力下降的退化性眼部疾病)患者可以借助于AR眼镜。这种遗传性疾病会导致患者看周边的东西时以及在弱光条件下看东西很困难,并且无法通过眼镜、隐形眼镜、药物或手术进行矫正。

然而,南加州大学 进行的一项新研究发现,AR眼镜可以使患者的活动能力提高50%,抓握能力(即使在特定物品位于其他物品后面的情况下也能够抓握)提高70%。该解决方案专注于AR作为“辅助技术”的功能,以增强(而非替代)人类的自然视觉,使用更明亮的颜色来聚光照亮患者环境中的物体和障碍物。

服药。最近拿过处方的任何人都熟悉那些长长的印刷处方单,上面印有关于每种药物的用途、服用方法、作用、副作用及其他信息。谁能够阅读和消化所有这些内容?!增强现实技术可通过提供药物作用机制及其在人体内作用原理的3D模型,帮助患者提高对重要药物知识的理解和记忆。

药物服用依从性(按处方服药)是确保治疗成功的最重要因素之一。据疾病控制与预防中心估计,不按处方服药会导致30%-50%的慢性疾病治疗失败率,每年导致125,000例死亡3。新的AR应用程序经过专门设计,旨在帮助患者遵循药物治疗方案(例如:为需要注射药物的家庭成员提供药物治疗提醒信息或视觉支持),包括使用Microsoft HololensAR设备的患者。

英国刚刚启动的一项新的mHealth计划正在使用AR和游戏技术来帮助哮喘患儿学习如何正确使用吸入器。虽然仍处于早期开发阶段,但由Orbital Media和萨福克大学(University of Suffolk)开发的名为MySpira的应用程序显示,相比仅观看视频和提供纸质印刷处方,儿童的药物服用管理有效性分别提高了26%和70%。

 

MySpira AR应用程序,其可帮助哮喘患儿学习如何正确使用吸入器。(图片来源

以医疗服务提供商为中心的AR应用

超声波和射线照相培训。 超声波扫描、X射线和MRI是医疗工具包中最有价值的工具。通过投射超高频声波(超声波)、X射线(射线照相和计算机断层扫描)以及电磁波和无线电波(MRI),医疗服务提供商可以“看到”患者体内,以进行诊断、评估患者的状况以及制定治疗或手术计划。

医学成像行业已投入巨大的精力改进这些技术,以提高图像的质量和可读性。同时,内科医生、放射科医生和其他成像技术人员也努力学习,以发展他们在图像解读方面的技能。尽管如此,但仍然会发生错误。据一项研究估计,3%-5%的错误是由于技术人员在各种成像方式方面的认知或感知错误所致4

病理专家、放射科医生和其他阅读医学图像的专业人员面临的一项挑战在于,他们通常必须查看一系列2D扫描/胶片,然后将多个图像整合到他们的脑海中,以实现器官、肿瘤或胶片上其他图像的3D现实可视化。AR应用程序的功能强大性在于它们能够整合图像数据,以呈现患者的完整3D全息交互式图像。这不仅有助于专业执业人员完成工作,而且在对成像技术人员进行培训以学习如何从一开始进行诊断方面也很有用。

在一项研究中,超声波专业领域的学生使用基于平板电脑的AR系统来实现患者心脏的可视化。通过使用该系统,“即使学生们尚未充分获取解读诊断图像的能力,也能够使他们快速了解正在查看的解剖结构…”5,从而可以帮助缩短通常为期一年的培训期间。

 

通过使用智能眼镜,放射科医生可以查看3D 形式的CT、MRI和超声波扫描图像并与之进行交互。(图像来源

心脏可视化。波士顿贝斯以色列女执事医疗中心的心脏病专家正在研究如何使用AR技术帮助外科医生在进行手术时实现心脏瘢痕的可视化。将通过心脏MRI扫描获取的图像以心肌瘢痕3D全息图像的形式投影到玻璃屏幕上,外科医生将该玻璃屏幕像戴面具一样戴在脸上。在此过程中,外科医生无需触摸屏幕或鼠标即可与数据进行交互,从而有助于维持无菌环境。到目前为止,该AR成像技术仅在动物患者身上进行了测试,接下来将通过将瘢痕信息与电生理学数据合并来进行测试,用于心律失常的治疗。

在3D图像引导下进行手术。许多微创手术使用图像引导系统来帮助内科医生实现可视化并通过微小的切口在人体内进行治疗,从而避免了开腹手术的风险。新的AR / MR技术能够将当前在2D屏幕上显示的图像整合到3D环境中,以提高外科医生在手术过程中“观看”他们正在做的事情的能力。 Philips和Microsoft经合作使用HoloLens 2全息计算平台在手术过程中帮助医生实现解放双手以及抬头与3D数字对象进行互动的目标。

 

AR系统可以改进导管室中的工作流程和程序导航:佩戴Microsoft Hololens 2护目镜的内科医生可以查看手术台上患者上方的3D全息图并与之进行交互,仅通过语音和手势命令即可操作图像,以维持无菌环境。(图像来源

设备质量和功效至关重要

当人们的健康和生命处于危险中的时候,诊断或治疗环境下使用的任何AR、VR或MR系统都必须极其可靠。屏幕上显示的任何信息对用户而言必须具有可读性并且清晰,同时不影响周围环境的必要可见性。为了确保可用于医疗用途的AR / VR / MR显示器(比如头戴式设备、护目镜和眼镜)的质量和性能,硬件需要进行精确的功能测试,并尽可能接近于复制用户的视觉体验。亮度和色度变化、与背景环境的对比度以及与显示均匀性和清晰度有关的其他问题均是不可接受的。由于在这些系统中图像是在靠近眼睛的位置观看的,因此即使是较小的缺陷(比如少许死像素)也会被放大,并可能影响可视化效果。

Radiant Vision Systems已开发出一种AR/VR 镜头解决方案,其采用独特的光学设计,专门用于测量近眼显示器(NED),比如头戴式VR、AR和MR设备中内置的显示器。该镜头可模拟人眼的大小、位置和视场,以准确采集和评估用户所看到的内容。

 

Radiant ProMetric®成像色度计及 AR/VR镜头和TT-ARVR™分析软件。

AR / VR镜头的光圈为3.6毫米(复制人类瞳孔的大小),位于镜头的前部,使得成像系统的入射光瞳(接收光线的位置)能够置于头戴式NED设备中 与人眼相同的位置。AR / VR镜头与RadiantProMetric®成像亮度计或色度计搭配使用,可采集头戴式设备内置显示器的高分辨率图像,用于进行像素和亚像素测量,以检测可能影响视觉质量的缺陷和异常。

Radiant的TrueTest™软件TT-ARVR™测试模块提供行业领先的显示器测试算法,能够进行测试排序,并将选定的测试应用于相机采集的单个图像,在数秒钟内对显示器的所有相关特性快速进行评估。TrueTest测试模块中的标准测试包括亮度、色度、对比度、均匀性、Mura(瑕疵)、像素缺陷和线缺陷等。用于AR/VR显示器分析的独特测试包括:

  • 调制传递函数(MTF),基于斜边对比度ISO 12233标准评估图像清晰度
  • 图像失真(用于失真表征)
  • 图像残留/重影
  • 出厂时对镜头解决方案进行失真校正,确保用于测试的宽视场图像正常化
  • 以度数(°)报告空间x,y位置

上面概述的这些新的AR医疗保健计划以及许多其他类似的计划代表了医疗专业人员和技术开发人员正在共同尽最大的努力兑现增强现实技术可帮助提升人们生活品质的承诺。

如需了解更多有关AR/VR/MR设备质量测量的信息,请阅读我们的白皮书:“头戴式增强现实(AR)和虚拟现实(VR)设备内置显示器测量解决方案 ”。

 

 

 

 

 

引用文献:

  1. AR/VR在医疗保健市场的应用:按技术(AR、 VR)、组件(硬件、软件和服务)、应用(手术、模拟与诊断、患者护理管理、教育等)和最终用户进行统计及2016-2026年细分市场预测,由Reports and Data发布的报告,2019年5月15日。
  2. “Augmented Reality in Medicine and Healthcarre", ThinkMobiles,2019年9月6日检索。
  3. “Why You Need to Take Your Medications as Prescribed or Instructed”,美国食品药品监督管理局,2019年9月6日检索。
  4. Shavel, T., “Augmented Reality is Taking Over Radiology Training”,《成像技术新闻》(Imaging Technology News),2019年2月27日。
  5. “How Augmented Reality Helps Train Ultrasound Technicians”, MedCognition,2019年4月1日。
radiant vision system wechat