UR5e Sim2Real Bin Picking

00현재 판정

Teacher v2(34D, 대칭 그리퍼)와 Vision Student가 모두 sim 봉인 평가(seed 42–45 × 512 = 2,048 에피소드, 보조 없음)를 통과했습니다. 실기에서는 Vision Student를 10회 실행해 파지에 한 번도 성공하지 못했고(0 / 10), 원인 분석 후 재실험할 예정입니다. 정식 릴리스 레인(패리티·지연 벤치마크·커밋 동결)은 거치지 않았습니다.

01실기 배포 — Vision Student 10회 평가

02작업 셀

03파이프라인 — Phase 0 → 4

1. PHASE 0

   환경 · scene smoke

   • Isaac Sim 5.1 + Isaac Lab v2.3.2 기동 확인
   • flange–TCW1–2FG7 체인, 카메라 방향, 작업면 육안 확인
   • RL 이전 파지 물리 진단
   Phase0/scene_bin_ur5e.py
2. PHASE 1

   State Teacher · PPO

   • 배포 가능한 34D 관측만 쓰는 actor
   • critic은 sim 참값을 더한 비대칭 관측
   • 인식 오차 DR, 실행 속도 상한 clamp
   • 16,384 env × 25k iter
   scripts/train.ps1 -Preset Teacher
3. PHASE 2

   RGB-D Vision Student

   • 채택 Teacher의 행동을 정답으로 증류 (rsl-rl DistillationRunner)
   • RGB-D 112² + 고유수용 관측
   • 512 env × 25k iter
   scripts/train.ps1 -Preset Distill
4. PHASE 3

   캘리브레이션 · sim 리허설

   • TCP offset, ChArUco hand-eye, scene registration
   • 실기 배포 코드 경로를 sim 로봇에 물려 리허설
   deployment/Calib_*.py
   Phase3/SimDeploy_Rehearsal.py
5. PHASE 4

   fail-closed 실기

   • SafetyGuard 속도·작업영역 clamp, e-stop latch
   • 증거·캘리브레이션이 없으면 실행을 거부
   • 모션은 명시적 인가 플래그로만
   Phase4/Run_Task_Teacher.py
   Phase4/Run_Task.py

04관측 · 행동 계약

05배포 레인

06채택 게이트와 봉인 평가

08고정 스택

09빠른 시작

모든 경로는 저장소 루트 기준 상대 경로라 어느 폴더에 clone해도 됩니다. 명령은 저장소 루트에서 PowerShell로 실행합니다. 학습·시뮬레이션은 Windows 11 + NVIDIA GPU(VRAM 8 GB 이상), 실기 배포는 Isaac 없는 Windows 11 PC가 필요합니다.

git clone https://github.com/ChangeDayAndNight/UR5e_SIM2REAL-public.git
cd UR5e_SIM2REAL-public

1 · 시뮬레이션에서 학습된 정책 보기

# 처음 한 번: conda 환경 isaac51에 Isaac Sim 5.1 · Isaac Lab v2.3.2 · PyTorch · 프로젝트 확장 설치
powershell -ExecutionPolicy Bypass -File scripts/bootstrap_training.ps1
conda activate isaac51
python Phase3/SimDeploy_Rehearsal_Teacher.py --policy-dir exported_experimental/teacher_177c7eefed0f --gui --episodes 5

2 · 처음부터 학습

powershell -ExecutionPolicy Bypass -File scripts/train.ps1 -Preset Teacher -Smoke
powershell -ExecutionPolicy Bypass -File scripts/train.ps1 -Preset Teacher -NumEnvs 16384 -MaxIterations 25000 -Seed 42 -Headless
powershell -ExecutionPolicy Bypass -File scripts/train.ps1 -Preset Distill -DistillFrom <TEACHER_MODEL_PT> -NumEnvs 512 -MaxIterations 25000 -Seed 42 -Headless

3 · 실기 배포 (Isaac Sim 불필요)

powershell -ExecutionPolicy Bypass -File setup.ps1
conda activate env_ur_real

# 1) configs\real.local.yaml 에 로봇 IP · 카메라 시리얼 입력, TCP offset · hand-eye 캘리브레이션
# 2) 추론만(모션 없음) — 검출률 30% 미만이면 3)으로 가지 않는다
python Phase4\Run_Task_Teacher.py --policy-dir exported_experimental\teacher_177c7eefed0f `
    --dry-run --verbose-perception --target-pos="-0.50,0.15,-0.0125"

# 3) 실제 모션 — 사람이 e-stop 앞에서
python Phase4\Run_Task_Teacher.py --policy-dir exported_experimental\teacher_177c7eefed0f `
    --yes-i-am-at-the-estop --home-first --target-pos="-0.50,0.15,-0.0125"

10저장소 구조

Phase0/ … Phase4/

단계별 실행 스크립트 — scene smoke, Teacher 학습·평가, Student 증류·export, 리허설, 실기 러너

source/ur5e_binpick/

Isaac Lab 확장 패키지 — 태스크, MDP, 에이전트 설정

common/

sim·실기 공유 순수 로직 — 관측 전처리, 행동 매핑, 그리퍼 명령 상태, 큐브 인식

sim/ · real/

같은 인터페이스의 sim / 실기 로봇·카메라 어댑터

deployment/

캘리브레이션, 패리티 검증, 배포 번들 빌드, 배포 PC 런북

configs/

common · sim · dr · safety · calib — 계약을 소유하는 설정 파일

scripts/

학습 런처, preflight, 채택 파이프라인, 저장소 검증

analysis/ · diagnostics/

평가 통계·논문 표 / 물리·렌더·가시성 프로브

calibration/

hand-eye ChArUco 캡처와 번들 조정

assets/

UR5e + 2FG7 URDF·USD, D435i mesh (NOTICE · LICENSE 보존)

exported_experimental/

sim 채택 정책 번들 2종 (Teacher · Student)

tests/

Isaac·하드웨어 없이 도는 순수 pytest

11한계와 남은 일

• 실기 0/10Vision Student 실기 10회 평가에서 파지 0 / 10(false grasp). sim 성능이 아직 실기로 옮겨지지 않았고, 원인을 분리한 뒤 재실험합니다.
• 미검증TCP offset은 sim 체인 값(calibrated: false)이고, hand-eye v7(27-view ChArUco, RMS 2.01 mm)은 기계 보정 뒤 실기 재검증이 필요합니다.
• 하드웨어현재 브라켓에서는 그리퍼 바로 아래 큐브가 카메라 세로 FOV 밖입니다. 정책은 이 결측 구간을 학습에서 경험했습니다.
• P02FG7은 DO 펄스 구동이라 실제 폭·파지 feedback이 없습니다. gripper_command_state는 명령 이력이지 파지 증거가 아닙니다.
• P0RTDE controller 시계와 RealSense 획득 시계의 동기화(PTP/하드웨어 타임스탬프)가 증명되지 않았습니다.
• P0신뢰할 수 있는 motion_safety 증거 collector와 승인 발행 절차가 없어 정식 릴리스의 모션 승인이 불가능합니다.