Nvidia和IBM计划将GPU直接连接到SSD
发布时间:2024-05-20 20:51:45 作者:玩站小弟 我要评论
Nvidia和IBM计划将GPU直接连接到SSD2022-03-17 10:45:32贡阳邦导读 Nvidia、IBM和研究人员制定了一项计划,让从事机器学习工作的人的生活更轻松:将GPU直接连接到S
。
Nvidia和IBM计划将GPU直接连接到SSD
贡阳邦导读 Nvidia、计划将IBM和研究人员制定了一项计划,直接让从事机器学习工作的连接人的生活更轻松:将GPU直接连接到SSD。在一篇研究论文中详细介绍了这个想法,计划将称为大加速器内存(BaM),直接涉及将GPU直接连接到大量SSD存储,连接帮助消除ML训练和其他密集型任务的计划将瓶颈。研究人员写道:BaM通过让GPU线程按需读取或写入少量数据(由计算决定)来缓解I O流量放大。直接BaM的连接目标是扩展GPU内存容Nvidia、IBM和研究人员制定了一项计划,计划将让从事机器学习工作的直接人的生活更轻松:将GPU直接连接到SSD。在一篇研究论文中详细介绍了这个想法,连接称为大加速器内存(BaM),计划将涉及将GPU直接连接到大量SSD存储,直接帮助消除ML训练和其他密集型任务的连接瓶颈。
研究人员写道:“BaM通过让GPU线程按需读取或写入少量数据(由计算决定)来缓解I/O流量放大。”
“BaM的目标是扩展GPU内存容量并增强有效的存储访问带宽,同时为GPU线程提供高级抽象,以便轻松按需、细粒度地访问扩展内存层次结构中的海量数据结构。”
最终目标是减少对NvidiaGPU和硬件加速通用CPU的依赖。通过允许NvidiaGPU直接访问存储,然后对其进行处理,这项工作正在由最专业的可用工具执行。
WhamBaM上阿朗
技术细节非常复杂(如果这是您的领域,我们建议您阅读论文),但要点是双重的。
BaM使用由软件管理的GPU内存缓存以及一个库,其中GPU线程可以直接请求存储在NVMeSSD上的数据。之间的移动信息由GPU处理。
最终结果是机器学习训练和其他密集活动可以更快地访问数据,更重要的是,以有助于工作负载的特定方式访问数据。在测试中,这一点得到了证实:GPU和SSD可以很好地协同工作,快速传输数据。
团队计划最终开源他们的硬件和软件设计,这对ML社区来说是一个巨大的胜利。
相关文章
- 警察大學校長陳檡文遭爆5年前,與黑道出入招待所,疑似接受黑道招待,陳檡文聲稱是為了蒐集情資,但警政署初步調查,陳檡文沒有事先報備,事後也沒有報告,前立委黃國昌就批評,警政署證實陳檡文胡扯,難道內政部長2024-05-20
- iphone4越狱问题iphone4越狱问题)2022-02-17 11:16:06严斌谦。iphone4越狱问题,iphone4越狱问题这个很多人还不知道,现在让我们一起来看看吧!解答:1、91很多2024-05-20
- 网上为什么这么多放款的网上私人放款靠谱吗)2022-02-21 23:42:06耿苇龙导读大家好,小谷解答以上问题。网上为什么这么多放款的,网上私人放款靠谱吗这个很多人还不知道,现在让我们一起来看看吧2024-05-20
- 评测大众探岳怎么样及大众探岳的配置如何2022-02-15 07:22:32窦宁姬导读在我的印象中,大众很多产品是车界中的跑分王。账面数据即使不那么漂亮,测试成绩却经常拿到高分。探岳,这款一汽大众旗下2024-05-20
- 时间定了!拜登川普均同意辩论 将面对面交锋2024-05-16 11:02:00评论:字体大小 T T T周三,总统拜登的竞选团队提议与前总统特朗普进行两场辩论,特朗普随后同意了这个提议。之后拜登和特2024-05-20
- 联想s820怎么安装钉钉联想S820什么时候上市)2022-02-18 20:40:06茅先丹。联想s820怎么安装钉钉,联想S820什么时候上市这个很多人还不知道,现在让我们一起来看看吧!解答:1、2024-05-20
最新评论