Nvidia和IBM计划将GPU直接连接到SSD

  发布时间:2024-05-20 20:51:45   作者:玩站小弟   我要评论
Nvidia和IBM计划将GPU直接连接到SSD2022-03-17 10:45:32贡阳邦导读 Nvidia、IBM和研究人员制定了一项计划,让从事机器学习工作的人的生活更轻松:将GPU直接连接到S 。

Nvidia和IBM计划将GPU直接连接到SSD

贡阳邦导读 Nvidia、计划将IBM和研究人员制定了一项计划,直接让从事机器学习工作的连接人的生活更轻松:将GPU直接连接到SSD。在一篇研究论文中详细介绍了这个想法,计划将称为大加速器内存(BaM),直接涉及将GPU直接连接到大量SSD存储,连接帮助消除ML训练和其他密集型任务的计划将瓶颈。研究人员写道:BaM通过让GPU线程按需读取或写入少量数据(由计算决定)来缓解I O流量放大。直接BaM的连接目标是扩展GPU内存容

Nvidia、IBM和研究人员制定了一项计划,计划将让从事机器学习工作的直接人的生活更轻松:将GPU直接连接到SSD。在一篇研究论文中详细介绍了这个想法,连接称为大加速器内存(BaM),计划将涉及将GPU直接连接到大量SSD存储,直接帮助消除ML训练和其他密集型任务的连接瓶颈。

研究人员写道:“BaM通过让GPU线程按需读取或写入少量数据(由计算决定)来缓解I/O流量放大。”

“BaM的目标是扩展GPU内存容量并增强有效的存储访问带宽,同时为GPU线程提供高级抽象,以便轻松按需、细粒度地访问扩展内存层次结构中的海量数据结构。”

最终目标是减少对NvidiaGPU和硬件加速通用CPU的依赖。通过允许NvidiaGPU直接访问存储,然后对其进行处理,这项工作正在由最专业的可用工具执行。

WhamBaM上阿朗

技术细节非常复杂(如果这是您的领域,我们建议您阅读论文),但要点是双重的。

BaM使用由软件管理的GPU内存缓存以及一个库,其中GPU线程可以直接请求存储在NVMeSSD上的数据。之间的移动信息由GPU处理。

最终结果是机器学习训练和其他密集活动可以更快地访问数据,更重要的是,以有助于工作负载的特定方式访问数据。在测试中,这一点得到了证实:GPU和SSD可以很好地协同工作,快速传输数据。

团队计划最终开源他们的硬件和软件设计,这对ML社区来说是一个巨大的胜利。

  • Tag:

相关文章

  • 陳檡文與黑道上招待所為情蒐? 警政署:沒報備

    警察大學校長陳檡文遭爆5年前,與黑道出入招待所,疑似接受黑道招待,陳檡文聲稱是為了蒐集情資,但警政署初步調查,陳檡文沒有事先報備,事後也沒有報告,前立委黃國昌就批評,警政署證實陳檡文胡扯,難道內政部長
    2024-05-20
  • iphone4越狱问题(iphone4越狱问题)

    iphone4越狱问题iphone4越狱问题)2022-02-17 11:16:06严斌谦。iphone4越狱问题,iphone4越狱问题这个很多人还不知道,现在让我们一起来看看吧!解答:1、91很多
    2024-05-20
  • 网上为什么这么多放款的(网上私人放款靠谱吗)

    网上为什么这么多放款的网上私人放款靠谱吗)2022-02-21 23:42:06耿苇龙导读大家好,小谷解答以上问题。网上为什么这么多放款的,网上私人放款靠谱吗这个很多人还不知道,现在让我们一起来看看吧
    2024-05-20
  • 评测大众探岳怎么样及大众探岳的配置如何

    评测大众探岳怎么样及大众探岳的配置如何2022-02-15 07:22:32窦宁姬导读在我的印象中,大众很多产品是车界中的跑分王。账面数据即使不那么漂亮,测试成绩却经常拿到高分。探岳,这款一汽大众旗下
    2024-05-20
  • 时间定了!拜登川普均同意辩论 将面对面交锋

    时间定了!拜登川普均同意辩论 将面对面交锋2024-05-16 11:02:00评论:字体大小 T T T周三,总统拜登的竞选团队提议与前总统特朗普进行两场辩论,特朗普随后同意了这个提议。之后拜登和特
    2024-05-20
  • 联想s820怎么安装钉钉(联想S820什么时候上市)

    联想s820怎么安装钉钉联想S820什么时候上市)2022-02-18 20:40:06茅先丹。联想s820怎么安装钉钉,联想S820什么时候上市这个很多人还不知道,现在让我们一起来看看吧!解答:1、
    2024-05-20

最新评论