24小时热门版块排行榜    

CyRhmU.jpeg
查看: 489  |  回复: 0

BFT驿站

新虫 (小有名气)

[交流] AnyPlace助力Franka突破物体形状与配置多样性挑战

物体几何形状与放置配置多样性的挑战

在机器人操作领域,物体放置一直是一个复杂且富有挑战性的任务。由于物体的几何形状和放置配置的多样性,实现稳健且可推广的物体放置变得尤为困难。
传统的机器人放置方法往往依赖于大量的特定任务演示,难以泛化到未见过的物体或新的放置配置,大大限制了机器人在实际应用中的灵活性和效率。
AnyPlace的出现,为解决物体放置存在的各类问题提供了新的思路。这是一种完全在合成数据上训练的两阶段方法,能够预测现实世界任务的各种可行放置姿势。

AnyPlace主要通过两个阶段组合形成:高级放置位置预测和低级姿势预测

高级放置位置预测阶段

输入处理:接收输入语言描述和RGBD图像。
对象分割:利用Molmo和SAM-2技术对感兴趣的对象进行分割。
放置位置建议:通过Molmo提议可能的放置位置。
3D投影与裁剪:利用相机参数将深度图重新投影到3D空间,并以提议的放置位置为中心裁剪感兴趣的区域。

低级姿势预测阶段

数据输入:将要放置的对象的完整点云以及高级放置位置预测阶段裁剪的放置位置区域输入到低级姿势预测模型中。
输出变换:模型输出用于对象放置的精确相对变换。

泛化能力如何实现?AnyPlace生成了一个完全合成的数据集,包括:

合成数据集构建:
Blender中随机生成多样物体。
IsaacSim模拟多样化放置场景(堆叠、插入、悬挂)。

模型训练与泛化:
使用上述合成数据集训练模型。
模型学习到物体放置特性,实现泛化能力。

真实场景验证

在仿真环境中测试AnyPlace模型,评估其在不同放置模式下的成功率、覆盖广度以及细粒度放置的精度。

在实验室将小瓶精准插入试管架

任务设定:明确放置任务“把药瓶放到药瓶架上”,准备实验环境。
物体识别与模式匹配:启动AnyPlace系统,识别药瓶和药瓶架,匹配放置模式。
布局预测与调整:分析最佳放置位置,进行碰撞检测,调整Franka机器人姿态。

不同放置模式下的任务演示:

多样化验证与优化:执行放置任务,检查放置效果,更换配置重复验证,收集反馈优化系统。

这些实验都证明了,在零样本方式下直接应用于真实场景测试时,使用完全合成的数据集训练的模型能够准确预测各种配置和物体的放置姿势,这一结果充分展示了所提出方法的稳健性和泛化能力。

本研究所有实验均使用Franka机械臂完成,使用外部微型摄像头来获取现实世界的视觉信息。该7自由度协作机器人可通过BFT机器人平台获取

技术突破与商业价值

突破了传统机器人在精细操作上的限制,AnyPlace实现了四大应用价值:
生产效率提升:完成高精度任务,效率提升30%以上
操作精度提升:实现精细放置的高精度达毫米级别
人力成本降低:减少人力需求,人力成本节约可达20%
应用拓展:用于工业、教育、医疗等领域,市场潜力巨大,年收入增长率超过15%

登录BFT平台了解更多Franka机器人的商业部署方案。
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 BFT驿站 的主题更新
普通表情 高级回复(可上传附件)
信息提示
请填处理意见