基于3D形状重建网络的机器人抓取规划方法

发布时间:2024-02-03  

  我们提出了一种新的机器人抓取规划方法,该方法同时使用了学习的抓取提议网络和学习的3D形状重建网络。我们的系统从目标对象的单个RGB-D图像生成6-DOF抓取,该图像作为两个网络的输入。通过几何重构来优化抓取提议网络生成的候选抓取,我们的系统能够准确地抓取已知和未知物体,即使在物体上的抓取位置在输入图像中不可见 本文介绍了该系统的网络结构、训练过程和优化方法。实验证明了我们的系统在抓取已知和未知物体时的有效性(在物理机器人环境中成功率为91%,在模拟环境中成功率为84%)。我们还进行了消融研究,展示了将学习抓取提议与几何重建相结合的好处,也表明我们的系统在抓取任务中优于多个参考基线。 

aba779b4-790b-11ee-939d-92fbcf53809c.png

图1:系统概述。一个带有分割掩码的输入RGB-D图像被提供给两个神经网络,分别产生一个6自由度的抓取姿势和一个物体的3D点云重建。通过将抓取姿势投影到点云中最近的点来优化抓取姿势,从而产生最终的输出抓取。

abac3224-790b-11ee-939d-92fbcf53809c.png

图2:GPNet的架构由并行的ResNet-34模块组成,这些模块嵌入了屏蔽的灰度图像和深度图像。这些嵌入被连接起来,并通过两个完全连接的层回归到一个向量t∈R12,表示齐次变换C TG。

abc091ba-790b-11ee-939d-92fbcf53809c.png

图3:在我们单独的shoe和YCB对象数据集中的示例抓取。从使用3D网格生成的一组候选抓取中,我们为每个对象选择一个单一的基本事实示例。

abd6bc9c-790b-11ee-939d-92fbcf53809c.png

图4:从前景掩盖灰度和深度图像中,我们的3D形状重建网络SRNet学习了一个映射函数fθ,该函数将点从标准域(如单位球体)映射到3D对象。我们的系统利用这种重建所提供的附加几何信息来改进GPNet提出的抓取。

abda1fae-790b-11ee-939d-92fbcf53809c.png

图5:将建议的抓取投影到重建点云上提高抓取准确性。左:灰度鞋图像。右:覆盖在可见点云上的SRNet重建。

abeecb7a-790b-11ee-939d-92fbcf53809c.png

图6:可见抓取(左)和隐藏抓取(右)实验设置。在可见抓取实验中,相机以50度仰角,距离鞋子500mm处,鞋子以90度增量依次放置在4个位姿(A-D)处。在隐藏式抓取实验中,相机距离鞋子500mm并与桌子平行,鞋子分别以45度增量放置在四个位姿处(E-H)。从这些角度看不到鞋子左侧的抓握点。

ac37f930-790b-11ee-939d-92fbcf53809c.png

表I:可见抓握(VG)和隐藏抓握(HG)设置的鞋子抓取实验成功率

ac4250a6-790b-11ee-939d-92fbcf53809c.png

表II:从两个角度统计的每只鞋子抓取成功率。

ac52b7ac-790b-11ee-939d-92fbcf53809c.png

图7:与物理设置蕾丝的模拟实验评估环境-Kinova Gen3臂和Robotiq 2F-85 平行颚夹钳

ac6faefc-790b-11ee-939d-92fbcf53809c.png

表III:每个物体的抓取成功率(%)。糖盒是一个测试对象。对测试对象的600个视图和火车对象的60个视图进行了评估,所有这些都使用YCB数据集中的RGB-D信息,并将对象放置在运动学可观的位姿模拟中。


文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    /940nm波段具有良好的感光度。配合红外光源,SIF2X10系列产品可以广泛应用于人脸识别、AR/VR、动作捕捉、3D建模、机器视觉、无人驾驶等领域。 芯片......
    Martice 3D/3TD系列无人机,支持高精度测绘及安防、巡检作业;适配大疆司空2云平台可实现云端建模、指点飞行等多种智能功能,为行业用户带来更加智能化、自动化、规模化的无人值守解决方案。 DJI大疆......
    彻底理解dToF雷达系统设计;dToF(直接飞行时间)雷达的发展前景非常广阔。随着技术的不断进步和应用场景的增多,dToF雷达在许多领域都有着重要的应用和发展前景,包括自动驾驶、机器人、无人机、工业......
    款采用行业最先进的3D堆叠工艺的背照式SPAD-SoC芯片,在测距量程、点云密度、功率密度等行业“痛点”上实现了综合突破,面向机器人、无人机、自动驾驶等应用场景。目前,奥比......
    款采用行业最先进的3D堆叠工艺的背照式SPAD-SoC芯片,在测距量程、点云密度、功率密度等行业“痛点”上实现了综合突破,面向机器人、无人机、自动驾驶等应用场景。目前,奥比中光已与重点客户展开合作接洽。最远......
    款采用行业最先进的3D堆叠工艺的背照式SPAD-SoC芯片,在测距量程、点云密度、功率密度等行业“痛点”上实现了综合突破,面向机器人、无人机、自动驾驶等应用场景。目前,奥比中光已与重点客户展开合作接洽。最远......
    Esri发布全新ArcGIS Reality软件,以3D方式捕获整个世界;ArcGIS Reality为数字孪生提供工地、城市和全国范围内的3D地图绘制功能  企业、政府和科学组织越来越依赖无人机......
    套件、LTE 模块套件,更重要的是空域资讯平台 AirMap SDK 开发套件。 ,AirMap 本身是大疆及 3D Robotics 的合作伙伴,能实时反馈无人机使用的低空区域资讯,包括飞手、应用......
    首先上车主的实际测试效果。 Fig.1 夜景中的行车在线建模能力 Fig.2 地下停车场在线地图建模效果 Fig.3 用户自家停车库停车环境建模 Fig.4 死角环境中的在线建模 Fig.5 高稳定的3D重构,能看......
    . CAD 软件 - SolidWorks:SolidWorks 是一款广泛应用于机械设计和制造领域的 CAD 软件。它具有强大的 3D 建模和装配功能,可以......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>