0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

新的AI研究为自主机器人手术提供未来方向

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2024-12-31 10:01 次阅读

一款常用于常规手术的由外科医生手动操作的机器人,如今已能像人类一样精准地自主执行关键手术任务。

约翰斯·霍普金斯大学和斯坦福大学的研究人员透露,他们将一个经过数小时手术视频训练的视觉语言模型(VLM)与广泛使用的达芬奇外科手术机器人系统进行了整合。

基于这一视觉语言模型,达芬奇机器人的微型夹爪(即“手”)可以自主执行三项关键手术任务:小心提起人体组织、操控手术针以及缝合伤口。

传统的机器人训练方法需要对机器人动作的每个组成部分进行详细编程,与之不同的是,经过改装的达芬奇机器人仅通过模仿学习就能完成“零样本”手术任务。仅依靠其视觉语言模型,这款机器人就能实现模仿手术视频中医生的操作。

这一成果让我们得以窥见未来完全由自主机器人开展的手术可能会是什么样子。

“这些机器人如今能够自主完成如此复杂的任务,实在令人惊叹,”约翰斯・霍普金斯大学的博士后研究员 Ji Woong Brian Kim 说道,“通过模仿学习来为机器人编程,使其能够进行手术操作,这是机器人技术发展的一项重要突破。我认为,这是自主手术机器人的未来发展方向。”

为了训练模型,研究人员使用了NVIDIA GeForce RTX GPU、PyTorch 以及NVIDIA CUDA - X。

11 月,研究人员在慕尼黑举行的机器人学习大会(Conference on Robot Learning)上公布了这一研究成果。在这项实验中,机器人专家们使用了达芬奇外科手术机器人,机器人最多可配备四个机械臂,如今已经被全球各地的外科医生广泛应用于各类腹腔镜手术。

为了训练视觉语言模型(VLM),Kim 博士和他的同事将微型摄像机连接到三台达芬奇机器人的机械臂上。这三台机器人由约翰斯・霍普金斯大学提供,用于此次实验。

Kim 博士和他的同事使用医生常用来练习手术技巧的小型硅胶垫,以腹腔镜手术的方式操控机器人进行操作。

Kim 博士录制了约 20 小时的视频,记录自己操控达芬奇机器人夹爪(这些夹爪合起来大约只有一便士硬币那么大)完成三项操作的过程:提起模拟人体组织、操控手术针以及用手术线打结。

他还记录了与夹爪手动操作相关的运动学数据。这些运动学数据包含了 Kim 博士在每个手术步骤中操控机器人时所使用的角度和压力等精确信息

在用手术视频和运动学数据对 VLM 进行训练后,研究人员将该模型与达芬奇机器人连接起来,并指示机器人执行这三项手术任务。

研究人员用鸡肉和猪肉进行实验,这些动物肉模仿了人体组织的外观和触感,而且机器人此前也从未接触过相似的操作。

令他们欣喜的是,在“零样本”环境下,机器人近乎完美地完成了这些手术操作。

Kim 博士表示,机器人能够自主解决一些未曾预料到的难题,这一点非常令人惊喜。

实验中有一次,手术针意外从夹爪中掉落,尽管从未接受过应对这种情况的明确训练,机器人还是捡起了手术针,并继续进行手术任务。

“我们从未训练模型处理猪肉或鸡肉组织,也没有教它如何拾起掉落的手术针,”Kim 博士表示,“看到机器人在这种完全超出训练范围的全新环境中能够自主运作,我们感到非常激动。”

Kim 博士目前正在撰写一篇新的论文,详细阐述在动物身上开展的最新研究成果。他还在开发更多的训练数据,以进一步拓展达芬奇机器人的能力。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    211

    文章

    28458

    浏览量

    207269
  • NVIDIA
    +关注

    关注

    14

    文章

    4992

    浏览量

    103142
  • AI
    AI
    +关注

    关注

    87

    文章

    30981

    浏览量

    269264

原文标题:新的 AI 研究为自主机器人手术提供未来方向

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    【「具身智能机器人系统」阅读体验】2.具身智能机器人大模型

    的设计不仅提高了机器人对环境的理解能力,还使其能够更精准地执行复杂任务。 扩散模型的新思路 除了大模型,扩散模型的引入机器人控制开辟了新的研究方向
    发表于 12-29 23:04

    【「具身智能机器人系统」阅读体验】1.初步理解具身智能

    对人工智能、机器人技术和计算系统交叉领域感兴趣的读者来说不可或缺的书。这本书深入探讨了具身智能这一结合物理机器人和智能算法的领域,该领域正在塑造自主系统及其应用的未来。 开篇部分探讨了
    发表于 12-28 21:12

    【「具身智能机器人系统」阅读体验】+初品的体验

    的快速发展,相关人才的需求也在不断增加,通过阅读该书可以帮助大家系统性地了解和分析当前具身智能机器人系统的发展现状和前沿研究未来研究
    发表于 12-20 19:17

    《具身智能机器人系统》第1-6章阅读心得之具身智能机器人系统背景知识与基础模块

    智能机器人的历史与未来”中,布鲁克斯的观点给我带来深刻启发。他在20世纪80年代提出的观点至今仍具参考价值:智能行为源于实际的物理互动,而非单纯依靠预设算法。这打破了传统AI仅关注算法优化的局限,将
    发表于 12-19 22:26

    【书籍评测活动NO.51】具身智能机器人系统 | 了解AI的下一个浪潮!

    的互动形成。 随着具身智能机器人技术的快速发展,相关人才的需求也在不断增加,为了帮助大家系统性地总结和分析当前具身智能机器人系统的发展现状和前沿研究
    发表于 11-11 10:20

    王耀南院士:AI大模型赋能人形机器人未来趋势

    研究现状,关键技术赋能具身智能人形机器人,以及未来的发展趋势与展望四个方面进行汇报。 王院士认为人工智能大模型推动人形机器人在感知、认知、思考、分析、判断、推理、交互的智能
    的头像 发表于 11-08 11:03 763次阅读
    王耀南院士:<b class='flag-5'>AI</b>大模型赋能人形<b class='flag-5'>机器人</b>及<b class='flag-5'>未来</b>趋势

    Al大模型机器人

    金航标kinghelm萨科微slkor总经理宋仕强介绍说,萨科微Al大模型机器人有哪些的优势?萨科微AI大模型机器人由清华大学毕业的天才少年N博士和王博士团队开发,与同行相比具有许多优势:语言
    发表于 07-05 08:52

    NVIDIA边缘计算助力uAI-MERITS革新机器人手术

    是一个以强大的 AI 技术底座的元宇宙生态系统,旨在变革机器人手术、治疗和介入领域。通过 NVIDIA 的IGX Orin平台和Holoscan SDK提供的强大算力和实时信号处理
    的头像 发表于 07-02 11:46 620次阅读

    微型导轨:手术机器人的高精度“骨骼”

    微型导轨精度高,摩擦系数小,自重轻,结构紧凑,被广泛应用在医疗器械中,尤其是在手术机器人中的应用,通过手术机器人,外科医生可以远离手术台操纵
    的头像 发表于 06-25 17:57 787次阅读
    微型导轨:<b class='flag-5'>手术</b><b class='flag-5'>机器人</b>的高精度“骨骼”

    FMEA在手术机器人研发中的应用

    在医疗科技飞速发展的今天,手术机器人已经成为精准医疗的重要工具。然而,如何确保手术机器人在研发过程中能够稳定、可靠地运行,避免潜在的风险和失误,是摆在研发团队面前的一大挑战。此时,失效
    的头像 发表于 06-18 11:25 509次阅读

    全球机器人开发领域采用NVIDIA 机器人开发和生产

    机器人开发领域的领先企业正在采用NVIDIA Isaac机器人平台来研究、开发和生产下一代 AI 赋能的自主机器
    的头像 发表于 06-03 18:25 1259次阅读

    启扬RK3568核心板,助力外科手术机器人迈向智能诊疗之路

    ,外科手术机器人在医疗领域的应用推动外科手术向准确、微创、智能化方向发展。图片来源于网络在外科手术机器
    的头像 发表于 03-16 08:00 570次阅读
    启扬RK3568核心板,助力外科<b class='flag-5'>手术</b><b class='flag-5'>机器人</b>迈向智能诊疗之路

    达芬奇手术机器人的应用领域

    广泛应用于世界各地的医疗机构。达芬奇手术机器人结合了高精度的机械手臂、先进的影像系统和精确的控制系统,外科医生提供了更精确、更稳定的手术
    的头像 发表于 01-11 09:16 1912次阅读

    5个问题,洞悉自主移动机器人未来发展方向

    随着科技的日新月异,人类与机器人的互动将愈发频繁。从早晨在本地咖啡店里,协作机器人(cobot)顾客精心冲泡咖啡,到在仓库中,自主移动机器人
    的头像 发表于 01-09 08:30 695次阅读
    5个问题,洞悉<b class='flag-5'>自主</b>移动<b class='flag-5'>机器人</b><b class='flag-5'>未来</b>发展<b class='flag-5'>方向</b>

    自主移动机器人未来发展方向

    随着科技的日新月异,人类与机器人的互动将愈发频繁。从早晨在本地咖啡店里,协作机器人 (cobot) 顾客精心冲泡咖啡,到在仓库中,自主移动机器人
    的头像 发表于 01-04 09:34 858次阅读
    <b class='flag-5'>自主</b>移动<b class='flag-5'>机器人</b>的<b class='flag-5'>未来</b>发展<b class='flag-5'>方向</b>