借助面罩、隐形眼镜、音箱等VR电子设备,人们能“横越”到刀光剑影的赤壁,带入无垠彼方的外太空旅途,将侦探小说、电影里的情景移往眼前……VR早已进入我们的生活。除此以外,VR也已逐渐应用应用领域到更广泛的应用领域,如可视化式现场直播、医疗保健、教育、工程建设、零售、国防、服装、建筑物和旅游等。在轻工业应用领域,VR与增强现实和其他二维建模控制技术的结合,为产品研发、生产锻造带来了空前的变革。
「 1.VR与增强现实的定义」
VR(virtual reality,VR)控制技术借助二维建模等控制技术,建立一个可视化式的空间,再借助VR电子设备,提供听觉、感官、甚至感官和触觉的感官演示,能够使使用者身历其境地沉浸于在这样的可视化式的合成自然环境中,VR的可视化式隐形眼镜使使用者在此自然环境中无限地观察可视化式空间中的事物,佩戴电子设备还会给身体不同方位角的阻尼意见反馈。
VR控制技术最早应用应用领域在航太应用领域,集中在美国伊拉克政府对机师的射击训练,机师在飞行工具包中就好像在真的飞机上一样,在萤幕上操作各种仪表板电子设备,视景窗能动态生成驾驶舱外的景像,如机场与滑行道、建筑物物、河流、云雾等。
VR控制技术是仿真控制技术的一个重要方向,是仿真控制技术与计算机系统信号处理、Nagapattinam控制技术、多媒体技术、感测控制技术和网络控制技术等多种前端控制崇天而成。VR有4个关键要素:想象(imagination)、可视化(interaction)、沉浸于(immersion)和行为(behavior)[1]。
增强现实(augmented reality,AR)也是一种计算机系统建模的控制技术,它透过捕捉摄影机的边线,计算出影像物体的角度和边线来进行建模,当完成建模后,在此边线上增加一些可视化式的影像、音频或者更为三维的3D模型,这些可视化式的第一类和摄影机捕捉的真实世界第一类结合在一起,让使用者能透过探头就看到真实世界和可视化式两种影像。目前,在轻工业应用应用领域上,AR控制技术着重于建筑材料锻造和修理、工程建设电子设备的修理、在医疗上用作解剖学和训练、在国防上用作作战指挥、办案、同时AR控制技术还应用应用领域在课堂教学的培训和抢险抢险救灾等情景。
混和现实(mixed reality,MR)控制技术则是VR控制技术和增强现实控制技术的混和应用应用领域,在建筑物、轻工业、艺术展、医疗等行业都有成熟的应用应用领域事例。
1)可视化式/增强现实的关键要素
(1)沉浸于
沉浸于指透过听觉、感官等使得使用者有身历其境的感觉,来增加可视化式世界的真实世界性。理想的可视化式自然环境应该达到使使用者难以分辨真假的程度,甚至超越真实世界,如实现比现实更逼真的照明和音响效果等。
(2)可视化
可视化指计算机系统透过各种各样的感测器捕捉使用者的动作等信息,经过处理后与人产生相互作用。可视化是沉浸于感的重要影响因素,可视化的动态性和可视化的可操作程度都很关键。同时,可视化的动态性对于硬件要求很高。
(3)行为
行为是可视化的表达方式。大多行为透过硬件来完成,比如头戴式电子设备,主要限于听觉体验。现在,越来越多的感测器,诸如手柄、激光定位器、追踪器、运动感测器,以及VR座椅、VR跑步机等硬件的出现,呈现出更多样化的行为体验。
(4)想象
想象指可视化式情景由设计者想象出来,既能是真实世界现象的重现,也能加入想象的内容。想象主导着VR(VR)的内容,为精品内容的出现提供了可能,也为新的交互方式、新的行为方式提供了灵感。
2)可视化式/增强现实关键控制技术
可视化式/增强现实的关键控制技术主要包含:
(1)自然环境建模控制技术:建立相应的可视化式自然环境模型。
(2)三维声合成和三维显示控制技术:在VR系统中消除声音的方向与使用者头部运动的相关性,同时在复杂的情景中动态生成三维图形。
(3)感官意见反馈控制技术:在VR系统中让使用者能够直接操作可视化式物体并感觉到可视化式物体的反作用力,从而产生身历其境的感觉。
(4)可视化控制技术:VR控制技术中的人机可视化远远超出了键盘和鼠标的传统模式,借助数字面罩、数字手套等复杂的感测器电子设备,以及二维可视化控制技术与语音识别、语音输入控制技术成为重要的人机可视化手段。
(5)系统集成控制技术:由于VR系统中包括大量的感知信息和模型,因此系统的集成控制技术为重中之重。这些信息包括信息同步控制技术、模型标定控制技术、数据转换控制技术、识别和合成控制技术等等。
「 2.可视化式/增强现实控制技术发展综述」
要集中于航太及大学实验室,如NASA的Ames实验室研究主要集中在:将数据手套工程建设化,使其成为可用性较高的产品;在约翰逊空间中心完成空间站操纵的动态仿真;大量运用面向驾驶舱的飞行演示控制技术;对哈勃外太空望远镜进行仿真。麻省理工学院(MIT)是研究人工智能、机器人和计算机系统信号处理及动画的先锋,这些控制技术都是VR控制技术的基础,其他国家也有不同程度的发展,如英国在分布式并行处理、辅助电子设备(包括感官意见反馈)设计和应用应用领域研究方面全球领先,日本主要致力于建立大规模VR(VR)知识库的研究,在VR游戏方面的研究也处于领先地位。图1显示了VR控制技术发展历程。
展历程及发展趋势分析》,产业研究智库)
我国VR控制技术研究起步较晚,与发达国家相比还有较大差距。北京航太大学计算机系统系是国内最早进行VR(VR)研究的单位之一,在可视化式自然环境中物体物理特性的表示与处理、VR中听觉接口方面软硬件、分布式可视化式自然环境网络设计方面成果突出;浙江大学CAD&CG国家重点实验室开发出了一套桌面型可视化式建筑物自然环境动态漫游系统,还研制出了在可视化式自然环境中一种新的快速漫游算法和一种递进网格的快速生成算法;哈尔滨轻工业大学已经成功地可视化式出人的高级行为中特定人脸影像的合成、表情的合成和唇动的合成等控制技术问题;清华大学计算机系统科学和控制技术系对VR和临场感的方面进行了研究;西安交通大学信息工程建设研究所对VR中的关键控制技术——三维显示控制技术进行了研究,提出了一种基于JPEG标准压缩编码新方案,获得了较高的压缩比、信噪比以及解压速度。
近几年,GPU控制技术、三维隐形眼镜和头显控制技术的进步,促使VR/AR技术在个人消费市场的爆发,在锻造应用领域的应用应用领域情景也在加速落地。工信部在《VR产业白皮书(2019)》中指出,VR在锻造业的应用应用领域主要包括可视化式研发、可视化式装配、电子设备维护检修等,已经在大型装备锻造中实现初步应用应用领域。但VR(VR)电子设备的标准体系不完善,VR控制技术、产品和系统评价指标体系尚不健全,产品性能和质量缺乏标准规范,硬件、系统和内容之间兼容性差等,这些对于轻工业应用领域大范围的使用锻造了障碍。
纵观虚拟现实(VR)控制技术多年来的发展历程,以及未来在轻工业应用领域更为广泛的应用应用领域,VR/AR控制技术的研究将遵循“低成本、高性能”原则,分别有以下主要方向的发展趋势[2] [ 3]。
1)动态自然环境建模控制技术
可视化式自然环境的建立高刷新频率、提升系统性能,减少晕眩和提高真实世界感。
因此,一是需要提升感测器性能,提高听觉感测、体感识别、眼球追踪、感官意见反馈等能力,增强数据采集能力,从而精确、精准定位,快速意见反馈周围自然环境。二是突破CPU、GPU等数据处理单元的性能水平。可视化式建模控制技术需要对运动中大规模的数据模型进行重建,要求硬件能处理较大的并行音频数据,在可视化式世界中同步现实世界,提升使用者体验。
2)近眼显示控制技术
显示延迟、晕眩、视场角狭窄是目前VR控制技术普遍存在的问题,为了进一步提升VR的真实世界感、沉浸于感,显示控制技术还有较大的提升空间。未来,近眼显示控制技术将以沉浸于感提升与眩晕控制为主要发展趋势。
高角分辨率与广视场角显示成为提升VR沉浸感的重要切入点。随着VR(VR)头显在近眼显示上对清晰度提出了更高要求,分辨率将达到4K以上。增强现实强调与现实自然环境的人机可视化,由于显示信息多为基于真实世界情景的提示性、补充性内容,现阶段增强现实显示控制技术以广视场角等高可视化性(而非高分辨率等画质提升)为首要发展方向。
目前,VR眩晕产生机理尚未完全为人所知,因此,在显示控制技术方面眩晕控制成为VR在近眼显示方面的发展难点,发展非固定焦深的多焦点显示、可变焦显示与光场显示成为业界在近眼显示眩晕控制方面的重中之重。
此外,在硬件方面,AMOLED、LCOS/OLEDoS成为近眼显示萤幕控制技术的主导路线,分别在响应时间、蓝光辐射量、功耗、轻便程度等方面具备优势。
3)感知可视化控制技术
感知可视化控制技术聚焦于追踪定位、自然环境理解与多通道可视化等热点应用领域。
追踪定位将成为VR(VR) 与增强现实在感知可视化应用领域的核心控制技术,该控制技术的发展趋势为由外向内的空间位姿跟踪向由内向外的空间位姿跟踪的转变。
手部体感可视化呈现由手势识别向手部姿态估计/跟踪的发展趋势。传统的手势识别是让静态手型或动态手势与确定的控制指令进行映射,触发对应的控制指令,这种方式需要使用者学习和适应才能掌握。而手部姿态估计与跟踪控制技术不需判断手部形态实际含义,透过还原手部26个自由度的关节点姿态信息,可视化式手与现实世界中双手的活动保持一致,使用者像使用真实世界手操作现实物体一样对可视化式信息进行操作,这种控制技术学习成本低,可实现更多、更复杂、更自然的可视化动作。
增强现实(AR)感知可视化的发展趋势着重于基于机器听觉的自然环境理解。自然环境理解呈现由有标识点识别向无标识点的情景分割与重建的方向发展。基于机器听觉的自然环境理解成为AR感知可视化的控制技术焦点,随着深度学习和定位重建控制技术的发展,机器识别会逐渐拓展到对现实情景的语义与几何理解。
VR(VR) 感知可视化的发展趋势则着重于多通道可视化的一致性,即透过听觉、感官、感官等感官的一致性,以及主动行为与动作意见反馈的一致性。基于使用者眩晕控制与沉浸于体验方面的特性要求,浸入式声场、眼球追踪、感官意见反馈、语音可视化等可视化控制技术成为VR的刚性需求。
4)软件控制技术
VR控制技术除了硬件能力上的提升外,还需要加强软件开发能力。需要鼓励应用应用领域程序开发者研发通用化、易用性高的VR软件,使AR/VR控制技术更容易与移动电子设备相结合,使用者能更方便地创建各种增强现实应用应用领域,降低开发费用,从而降低VR系统的购买成本和使用成本。
此外,AR/VR控制技术需要与企业级系统结合,借助PLM系统中的二维模型、BOM和产品信息以及SLM系统中的修理服务信息,形成产品修理服务、培训指导的动态可视化的能力。
5)分布式VR技术
网络分布式VR将分散的VR系统或仿真器透过网络联结起来,采用协调一致的结构、标准、协议和数据库,形成一个在时间和空间上互相耦合、可视化式、合成的自然环境,参与者可自由地进行可视化作用。目前,分布式可视化式可视化仿真已成为国际上的研究热点,相继推出了DIS、mA等相关标准。
此外,VR的沉浸于感还需要大幅提升端到端网络传输性能。VR涉及接入网、承载网、数据中心网络、网络传输运维与监控以及投影、编码压缩等多种网络传输和数据处理控制技术,在借助VR仿真的过程中会产生大量的动态数据,因此,网络传输控制技术呈现出大带宽、低时延、高容量、多业务隔离的发展趋势。
参考文献
[1] 李巍.VR控制技术的分类及应用应用领域[J].无线互联科技,2018,15(08):138-139.
[2] 刘华益,汪莉,单磊,等.VR产业发展白皮书[R].北京:中国电子控制技术标准化研究院,2016.
[3] 中国信息通信研究院.可视化式(增强)现实白皮书(2017年)[R].北京:中国信息通信研究院,华为控制技术有限公司,2016.