3D-Face-Landmark-in-UnityCG-HLSL 项目推荐
项目基础介绍
本项目是由SCRN-VRC开发的开源项目,主要致力于在Unity中使用HLSL(High-Level Shading Language)实现基于MediaPipe的3D面部标记检测功能。该项目的开发语言主要是C++,用于实现MediaPipe的Facemesh和Iris跟踪模型的集成和优化,以及HLSL用于Unity中的着色器编写。
核心功能
项目的核心功能是利用MediaPipe的Facemesh和Iris模型,在Unity中实现对用户面部特征的实时跟踪和3D标记。具体功能包括:
- 实时检测并追踪用户的面部,输出468个3D面部点和133个2D轮廓点。
- 利用SVD(奇异值分解)计算面部旋转矩阵,从而获取更加精确的面部旋转信息。
- 通过Iris模型追踪眼部运动,获取71个3D眉毛和轮廓点以及5个3D瞳孔点。
- 根据面部关键点计算blendshape值,用于驱动虚拟角色的面部表情动画。
最近更新
最近项目的更新主要包括:
- 对Facemesh和Iris模型的性能优化,使其更适合移动平台和VR应用。
- 优化了面部旋转和眼部追踪算法,提高了准确性。
- 增加了对面部动画 blendshape 值的平滑处理,使得虚拟角色的面部动作更加自然流畅。
- 更新了一些文档和示例代码,帮助用户更好地理解和使用项目。
以上就是该项目的基础介绍和近期更新内容,该项目对于面部捕捉和虚拟角色动画制作领域的技术人员和开发者来说,是一个非常有价值的开源资源。
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考



