Episodes Preview Unitree G1 Visualizer
97 episodes · 30 fps · 1 camera · 848×480 h264

G1_Dex3_pick_white_cup_v3_grasp

Dataset LeRobot (Unitree G1 + mãos Dex3-1) da tarefa "Pick up the white cup", teleoperado por VR. 97 episódios, 21106 frames, 30 fps.

Novidade vs v2: dims de grasp do controle

Este é o v2 com 4 dimensões extras de action que registram os sinais de grasp brutos do controle VR (0–1), recuperados exatamente do dataset original via least-squares (resíduo 0):

idx nome descrição
28 left_grasp_squeeze.q fechamento total da mão esquerda (grip)
29 right_grasp_squeeze.q fechamento total da mão direita (grip) — o grasp principal
30 left_grasp_trigger.q pinça fina (gatilho do indicador) esquerda
31 right_grasp_trigger.q pinça fina (gatilho do indicador) direita

action passou de 28 → 32 dims; observation.state permanece 28 (os sinais de grasp são comando do operador, não medição do robô). As dims 0–27 são idênticas ao v2.

Nos dedos da Dex3 vale hand_q[i] = squeeze·TARGET[i] + trigger·W[i], então estas 4 dims são o sinal limpo por trás das posições redundantes dos dedos. No treino, dá pra manter só o squeeze/trigger da mão e descartar as 7 posições de dedo.

Obs.: gravado com --left-arm-limp (braço/mão esquerda travados), então as dims esquerdas são ~0.

Como treinar com "7 braço + 1 grasp" (mão direita)

Em vez das 7 posições de dedo redundantes, use o braço direito + 1 escalar de grasp:

1. Slice (índices diferentes p/ action e state, pois o grasp só existe na action):

RIGHT_ACTION_INDICES = [7, 8, 9, 10, 11, 12, 13, 29]   # 7 braço dir + right_grasp_squeeze → 8 dims
RIGHT_STATE_INDICES  = [7, 8, 9, 10, 11, 12, 13]        # 7 braço dir (robô não mede o gatilho)

Fatie action com RIGHT_ACTION_INDICES e observation.state com RIGHT_STATE_INDICES (inclusive os stats em meta/stats.json e meta/episodes/*).

2. Config de treino:

input_features:  { observation.state: { type: STATE,  shape: [7] } }
output_features: { action:            { type: ACTION, shape: [8] } }
# max_state_dim / max_action_dim: 32 continuam (padding interno)

3. Inferência — re-expandir o grasp escalar nos 7 dedos da Dex3:

right_arm_q  = pred[:7]
grasp        = min(max(pred[7], 0.0), 1.0)
RIGHT_TARGET = [0.0, -0.920, -1.74, 1.57, 1.74, 1.57, 1.74]
right_hand_q = [grasp * t for t in RIGHT_TARGET]   # inverso exato do least-squares

Variantes: incluir right_grasp_trigger (idx 31) → "7 braço + 2"; ou pôr o grasp medido no state (recuperando-o das dims 21–27 do observation.state) → state com 8 dims, estilo pi0 "braço+gripper".

Representação compacta: braço + grasp (action 18 dims)

Como os 14 dedos do action são exatamente squeeze·TARGET + trigger·W (resíduo 0), dá pra trocá-los por 4 escalares (squeeze/trigger × 2 mãos) sem perder nada:

action[0:14] = braço (7 esq + 7 dir)      action[14:18] = [sqL, sqR, trL, trR]   → 18 dims
  • action 28→18, lossless. Reconstrói os dedos no deploy com hand_q = squeeze·TARGET + trigger·W (inclui thumb_0 = -0.5·trigger, então a pinça é preservada — nada é congelado).
  • observation.state fica em 28 (14 braço + 14 dedos medidos). O estado medido dos dedos não segue a fórmula (resíduo ~0.22 rad: a mão para no objeto, tem dinâmica), então comprimi-lo perderia propriocepção. O pi05 aceita state (28) e action (18) de tamanhos diferentes.

Gerar a partir do dataset cru de 28 dims:

python lerobot-ext/tools/compress_hand_to_grasp.py <dataset_28dim> <saida_18dim>

Config de treino: observation.state.shape: [28], action.shape: [18] (max_*_dim 32 mantidos).

Downloads last month
231