AR技术已经被广泛应用于营销、教育、游戏、展览等场景。通过2D图像跟踪技术和3D物体跟踪技术,用户只需使用一台手机进行拍摄,即可实现海报、卡牌等平面物体以及文物、手办等立体物体的AR效果。尽管近年来2D图像跟踪和3D物体跟踪算法已经取得了很大的进步,但受限于环境等因素影响,效果仍然有很大提升空间,是目前AR开发者的研发难点。

HMS Core AR Engine提供了2D图像和3D物体的端云协同跟踪技术,让开发者更简单便捷地开发AR类应用,让用户拥有更丰富的AR交互体验。

2D图像跟踪技术

端云协同2D图像实时跟踪技术已率先应用于Bilibili会员购,购物者在选购时能够浏览商品的AR特效,多角度、近距离地与IP衍生商品实现互动,从而获得全新的AR购物体验。据会员购后台数据统计,具备AR特效的商品销量更好,AR活动参与率是普通游戏参与率的2倍左右,助力会员购平台收入提升。

Play Video

图1. Bilibili会员购效果图

传统的纯端侧2D图像跟踪方案,如果开发者要让新的图片支持AR特效就必须更新应用版本,有较高的版本维护成本,而且随着支持AR特性图片的增加,应用的体积也会不断增大。为此,AR Engine采用端云协同的架构解决该问题,开发者仅需将图片上传到云端即可快速发布新图片的AR特效,端侧应用版本无需更新,应用体积也不会因此而增加。

HMS Core AR Engine 2D图片/3D物体跟踪技术 助力打造更智能AR交互体验_3d

图2. 端云协同2D图像跟踪技术原理图

端云协同2D图像跟踪技术主要涵盖了:

  1. 云侧图像特征提取模块
  2. 云侧向量检索引擎
  3. 端侧视觉跟踪模块

在提升云端服务的响应速度方面,端云协同2D图像跟踪技术利用硬件平台加速,开发了软硬协同的高性能向量检索引擎,实现海量特征下的毫秒级检索响应。

3D物体跟踪技术

在文物介绍、商品展示、AR教育等场景,AR Engine还提供了端云协同3D物体实时跟踪技术。该技术能够实现3D物体全息式信息展示效果

HMS Core AR Engine 2D图片/3D物体跟踪技术 助力打造更智能AR交互体验_开发者_02

图3. 端云协同3D物体实时跟踪技术效果图

现实生活中,会存在不同纹理材质的3D物体,例如雕塑类的纯色弱纹理材质,或者金属器皿类的反光现象,3D物体也会受光线变化导致表面出现阴影,这些场景都对3D物体跟踪带来很大的挑战。为了实现在各种场景下均能快速准确的进行识别跟踪,AR Engine使用多个AI网络组合完成3D识别定位功能,分别完成对象检测、位姿粗定位、位姿优化。

HMS Core AR Engine 2D图片/3D物体跟踪技术 助力打造更智能AR交互体验_3d_03

图4. 端云协同3D物体跟踪技术原理图

端云协同3D物体实时跟踪技术主要涵盖了:

  1. 云侧训练样本AI合成模块
  2. 云侧AI网络自动训练模块
  3. 云侧AI网络推理模块
  4. 端侧视觉跟踪模块

在对AI网络进行算法训练时,传统的训练样本人工标注方式,往往存在工作量大、开发周期长等问题。为此,AR Engine结合海量的离线数据和对抗生成策略,设计了训练样本的AI合成算法,能够免人工标注,仅依赖合成样本就可以实现复杂场景下3D物体的精准识别。

端云协同3D物体跟踪技术在文物介绍场景,已助力华为河图为莫高窟实现全息式文旅导游体验,帮助游客随时探究洞窟的内部细节。

HMS Core AR Engine 2D图片/3D物体跟踪技术 助力打造更智能AR交互体验_开发者_04

图5. 华为河图的莫高窟全息式文旅导游效果图

以上技术来自华为2012中央媒体技术院,通过AR Engine面向开发者开放,在广告营销、教育、文旅等场景为用户带来差异化的AR体验。

更多AR技术的信息,欢迎收看5月27日19:00-20:00 ​HMS Core Discovery第15期直播​,让我们一起探索HMS Core AR Engine是如何帮助开发者们构筑立体世界,打造沉浸式营销的服务体验。

欢迎访问​华为开发者联盟官网-HMS Core AR Engine​