Praca z rękami za pomocą ARCore dla Jetpack XR

ARCore dla Jetpacka XR może dostarczać informacje o wykrywaniach rąk użytkownika oraz informacje o położeniu rąk i powiązanych z nimi stawów. Te dane dłoni można wykorzystać do dołączania elementów i modeli do rąk użytkownika, na przykład menu narzędzi:

Tworzenie sesji ARCore dla Jetpack XR

Dostęp do informacji o ręce w ramach sesji ARCore dla Jetpack XR. Aby uzyskać Session, zapoznaj się z artykułem Omówienie cyklu życia sesji.

Pobieranie danych o ręce

Dane dotyczące dłoni są dostępne osobno dla lewej i prawej ręki. Użyj state każdej ręki, aby uzyskać dostęp do pozycji poszczególnych stawów:

Hand.left(session).state.collect { // or Hand.right(session)
  // Hand state has been updated.
  // Use the state of hand joints to update an entity's position.
}

Ręce mają te właściwości:

  • isActive: czy ręka jest śledzona.

  • handJoints: mapa połączeń dłoni z pozami. Pozy dłoni są określone w standardach OpenXR.

Korzystanie z danych o ręce w aplikacji

Pozycje stawów dłoni użytkownika mogą służyć do doklejania obiektów 3D do dłoni, na przykład do przyczepienia modelu do lewej dłoni:

Hand.left(session)?.state?.collect { leftHandState ->
  val palmPose = leftHandState.handJoints[HandJointType.PALM] ?: return@collect

  // the down direction points in the same direction as the palm
  val angle = Vector3.angleBetween(palmPose.rotation * Vector3.Down, Vector3.Up)
  palmEntity.setHidden(angle > Math.toRadians(40.0))

  val transformedPose =
    session.perceptionSpace.transformPoseTo(
      palmPose,
      session.activitySpace,
    )
  val newPosition = transformedPose.translation + transformedPose.down*0.05f
  palmEntity.setPose(Pose(newPosition, transformedPose.rotation))
}

Aby przypiąć model do palca wskazującego prawej ręki:

Hand.right(session)?.state?.collect { rightHandState ->
  val tipPose = rightHandState.handJoints[HandJointType.INDEX_TIP] ?: return@collect

  // the forward direction points towards the finger tip.
  val angle = Vector3.angleBetween(tipPose.rotation * Vector3.Forward, Vector3.Up)
  indexEntity.setHidden(angle > Math.toRadians(40.0))

  val transformedPose =
    session.perceptionSpace.transformPoseTo(
      tipPose,
      session.activitySpace,
    )
  val position = transformedPose.translation + transformedPose.forward * 0.03f
  val rotation = Quaternion.fromLookTowards(transformedPose.up, Vector3.Up)
  indexEntity.setPose(Pose(position, rotation))
}