arm_dev 47ad9d9a8b P5c-4 相机出图联调:桥接 d405/d435 到 ROS,并修掉两处静默的几何错误
相机链路(devices/sim/gazebo/config/cameras.yaml 是唯一真相)
  - sim_cameras.py        纯逻辑:话题映射 / 深度换算 / 内参 / 视场一致性比对
  - sim_camera_adapter.py 改光学系 frame_id、32FC1 米 → 16UC1 毫米、覆盖内参
  - gazebo_sim.launch.py  桥接 + 适配器 + 世界相机的静态 TF(位姿从 world 解析)

本轮修掉两个**静默**的几何错误(都能出图、都能查到 TF,但点位是错的)

  1. gz 发的 camera_info 是错的:恒为 fx=fy=277, cx=160, cy=120
     (等于它的默认 60° 视场 + 半分辨率主点),而渲染用的是配置的 87° 视场。
     照抄它做三维反投影,点会偏半米量级;单目预览完全正常。
     用已知地面平面做最小二乘反解,得 fy=337.2 / cy=239.5,与
     640/(2·tan(87°/2))=337.2、480/2=240 吻合(残差中位 0.2mm)。
     改为由 sim_cameras.intrinsics() 按 cameras.yaml 的视场重算并覆盖。
     代价:cameras.yaml 的 horizontal_fov 必须与 SDF 一致,启动时自动比对告警。

  2. assembly.world 里 D435 的 rpy 写成 (0, 50°, 180°),
     而 URDF 相机的视线是**本体 X 轴**、rpy 复合顺序又是 Rz·Ry·Rx,
     于是"先俯 50° 再偏航 180°"把视线翻到了背面:相机背对台面、只看地面。
     它不报错,而且几何自洽(点确实落在真实地面上),只查数值发现不了。
     改为 (0, 50°, 0),并加回归测试锁住。

新增验收工具 + 测试
  - scripts/check_sim_cameras.py  反投影深度、要求命中地面/台面才算通过。
    "有图像"不是验收标准;实测 d435 台面 11.9%/地面 75.3%、d405 台面 37.8%。
  - 97 项单测(新增 sim_cameras 22 项、sim_site 16 项)

顺带修掉一处"改了配置静默无效"
  - sim.world 此前硬编码在 robot_description._WORLD_REL,而 site.yaml 与
    manifest.yaml 都宣称改它就生效。现在真的读了:
    优先级 --world > site.yaml:sim.world > 内置默认(相对路径按仓库根解析)。
  - physics_enable / joint_prefix 仍未接线,但若其值与实际状态冲突,
    启动时会告警(sim_site.unwired_warnings),不再静默忽略。

文档
  - devices/sim/gazebo/README.md 重写:原文还写着"仿真不是 Gazebo"、
    相机插件用 libgazebo_ros_camera.so,与实现早已不符。现分三部分:
    哪个"仿真"是真的 / 现状与缺什么 / 五条静默失效的坑及怎么验。

Co-authored-by: Cursor <cursoragent@cursor.com>
2026-09-23 15:19:16 +08:00

Flexiv Rizon 视觉伺服(~/ros2)

独立工作空间:腕部 D405 眼在手上、手眼标定、YOLO 找工件、法兰悬停跟踪、DH 夹爪、入孔检测。
一份仓库即可跑完整跟踪与检测,不依赖 camera_test 或装配 HMI。

工作目录必须是 ASCII 路径(推荐克隆到 ~/ros2)。

项 值
配置 config/site.yaml(从 example 复制,不进 git)
操作 scripts/
目录说明 docs/WORKSPACE.md(每个文件夹做什么)
Conda ros_flexiv
ROS Humble

克隆后

cd ~/ros2
cp config/site.example.yaml config/site.yaml
# 编辑 site.yaml:robot.sn / robots[].ip / camera.serial / paths.yolo_weights
# 权重文件放到 models/<分组>/(二进制不在 git 里;布局与标签见 models/README.md)

conda activate ros_flexiv
source scripts/env.sh
./scripts/build_all.sh
source scripts/env.sh

示教器:AUTO + Remote Ethernet,关掉 Flexiv Studio(RDK 独占)。

# 三个终端必须带同一个 --arm(89=左  91=右)
bash ~/ros2/scripts/run_real.sh --arm 89
bash ~/ros2/scripts/run_camera_d405.sh --arm 89 --preview
bash ~/ros2/scripts/run_visual_servo_rt.sh --arm 89 --control

改 site.yaml:锁高 / YOLO / 伺服 → 重启第三终端;分辨率 / 曝光 → 重启相机。

功能入口

功能 命令
实机 scripts/run_real.sh --arm 89|91
腕部相机 scripts/run_camera_d405.sh --arm … --preview
顶视 D435 scripts/run_camera_d435.sh --preview
列出相机 scripts/list_realsense.sh
跟踪 scripts/run_visual_servo_rt.sh --arm … [--control]
回 home scripts/go_home.sh --arm …
手眼 scripts/run_handeye.sh --arm … teach → merge → calibrate
PGEA / RGI 夹爪 scripts/run_gripper.sh --arm 89|91 --cli …
双爪 ROS scripts/run_dual_gripper.sh
入孔检测 scripts/run_hole_detect.sh --arm … --preview
Orisys 触觉 scripts/run_tactile.sh [--cli]
看配置 scripts/show_site_config.sh

89 与 91 各有 手眼、相机序列号、锁高、named poses,禁止混用。

文档

文档 内容
docs/WORKSPACE.md 每个目录 / 脚本 / 包
docs/QUICKSTART.md 环境与第一次跑通
docs/ARCHITECTURE.md 进程与几何
docs/SITE_CONFIG.md site.yaml 字段
docs/HANDEYE.md 手眼标定
docs/TRACKING.md 视觉伺服
docs/GRIPPER.md PGEA + RGI
docs/HOLE_DETECT.md 入孔检测
docs/TACTILE.md Orisys 视触觉
docs/INTERFACES.md ROS / 脚本接口
docs/TRAJECTORIES.md 轨迹回放

上传 git 时

  • 要提交:src/ scripts/ docs/ config/site.example.yaml models/README.md models/**/*.labels.yaml handeye/
  • 不要提交:config/site.yaml(含本机 IP/序列号)、handeye/tmp/(临时产物)、build/ install/ log/、YOLO .pt/.onnx/.engine、thirdparty/ vendor/
  • 规则已写在 .gitignore

handeye/ 是个例外,说明一下

handeye/poses/(示教点)与 handeye/results/(标定结果)是入库的, 尽管它们属于某台现场的数据。理由是:手眼标定要用真机示教十几分钟, 是费了真机时间换来的资产,入库才有一份可回滚的备份;一旦没入库, 一次误删就得重新上真机采点。所以这两类文件按"资产"对待,而不是按"配置"。

因此别人克隆后必须重新标定,并把结果覆盖到 handeye/results/<臂号>_<模式>.yaml。 不要直接用仓库里现成的 T_4x4 —— 那是属于另一台机器、另一个相机安装位的, 用错的表现是跟踪始终差几厘米,且很难怀疑到标定值上。 示教点同理:handeye/poses/ 里的关节角只在对应的那台臂上有意义。

(注:config/site.yaml 不入库、而 handeye/ 入库,看似矛盾,其实是 "配置属于站点、不入库;标定成果属于资产、入库"这条区分。早期这两类的 边界没写清,导致 README 的说明和仓库实际状态不一致。)

S
Description
No description provided
Readme 193 MiB
Languages
Makefile 34.3%
Python 24.2%
C 20%
C++ 14.6%
CMake 5.2%
Other 1.7%