Datasets:
G1_Dex3_pick_white_cup_v3_grasp
Dataset LeRobot (Unitree G1 + mãos Dex3-1) da tarefa "Pick up the white cup", teleoperado por VR. 97 episódios, 21106 frames, 30 fps.
Novidade vs v2: dims de grasp do controle
Este é o v2 com 4 dimensões extras de action que registram os sinais de grasp brutos do
controle VR (0–1), recuperados exatamente do dataset original via least-squares (resíduo 0):
| idx | nome | descrição |
|---|---|---|
| 28 | left_grasp_squeeze.q |
fechamento total da mão esquerda (grip) |
| 29 | right_grasp_squeeze.q |
fechamento total da mão direita (grip) — o grasp principal |
| 30 | left_grasp_trigger.q |
pinça fina (gatilho do indicador) esquerda |
| 31 | right_grasp_trigger.q |
pinça fina (gatilho do indicador) direita |
action passou de 28 → 32 dims; observation.state permanece 28 (os sinais de grasp são
comando do operador, não medição do robô). As dims 0–27 são idênticas ao v2.
Nos dedos da Dex3 vale hand_q[i] = squeeze·TARGET[i] + trigger·W[i], então estas 4 dims são
o sinal limpo por trás das posições redundantes dos dedos. No treino, dá pra manter só o
squeeze/trigger da mão e descartar as 7 posições de dedo.
Obs.: gravado com --left-arm-limp (braço/mão esquerda travados), então as dims esquerdas são ~0.
Como treinar com "7 braço + 1 grasp" (mão direita)
Em vez das 7 posições de dedo redundantes, use o braço direito + 1 escalar de grasp:
1. Slice (índices diferentes p/ action e state, pois o grasp só existe na action):
RIGHT_ACTION_INDICES = [7, 8, 9, 10, 11, 12, 13, 29] # 7 braço dir + right_grasp_squeeze → 8 dims
RIGHT_STATE_INDICES = [7, 8, 9, 10, 11, 12, 13] # 7 braço dir (robô não mede o gatilho)
Fatie action com RIGHT_ACTION_INDICES e observation.state com RIGHT_STATE_INDICES
(inclusive os stats em meta/stats.json e meta/episodes/*).
2. Config de treino:
input_features: { observation.state: { type: STATE, shape: [7] } }
output_features: { action: { type: ACTION, shape: [8] } }
# max_state_dim / max_action_dim: 32 continuam (padding interno)
3. Inferência — re-expandir o grasp escalar nos 7 dedos da Dex3:
right_arm_q = pred[:7]
grasp = min(max(pred[7], 0.0), 1.0)
RIGHT_TARGET = [0.0, -0.920, -1.74, 1.57, 1.74, 1.57, 1.74]
right_hand_q = [grasp * t for t in RIGHT_TARGET] # inverso exato do least-squares
Variantes: incluir right_grasp_trigger (idx 31) → "7 braço + 2"; ou pôr o grasp medido
no state (recuperando-o das dims 21–27 do observation.state) → state com 8 dims, estilo pi0 "braço+gripper".
Representação compacta: braço + grasp (action 18 dims)
Como os 14 dedos do action são exatamente squeeze·TARGET + trigger·W (resíduo 0),
dá pra trocá-los por 4 escalares (squeeze/trigger × 2 mãos) sem perder nada:
action[0:14] = braço (7 esq + 7 dir) action[14:18] = [sqL, sqR, trL, trR] → 18 dims
action28→18, lossless. Reconstrói os dedos no deploy comhand_q = squeeze·TARGET + trigger·W(incluithumb_0 = -0.5·trigger, então a pinça é preservada — nada é congelado).observation.statefica em 28 (14 braço + 14 dedos medidos). O estado medido dos dedos não segue a fórmula (resíduo ~0.22 rad: a mão para no objeto, tem dinâmica), então comprimi-lo perderia propriocepção. O pi05 aceitastate(28) eaction(18) de tamanhos diferentes.
Gerar a partir do dataset cru de 28 dims:
python lerobot-ext/tools/compress_hand_to_grasp.py <dataset_28dim> <saida_18dim>
Config de treino: observation.state.shape: [28], action.shape: [18] (max_*_dim 32 mantidos).
- Downloads last month
- 231