码迷,mamicode.com
首页 > 其他好文 > 详细

简谈以太网RDMA网卡的应用

时间:2020-04-24 16:01:12      阅读:94      评论:0      收藏:0      [点我收藏+]

标签:以太网   remote   system   mem   内存数据   图片   provider   国产   路径   

各式各样的数据在网络介质中通过网络协议(TCP/IP)进行传输时,如果信息量过大而不加以限制的话,那么超额的网络流量就会导致设备反应缓慢,由此就造成了网络延迟。

延迟越低越好,效率越高越好,这不仅仅是数据中心网络的要求,我们平常使用的内部网络同样也希望如此。当前的网络速度有万兆、2.5万兆、4万兆,甚至10万兆、20万兆……的趋势都已经来了,网络带宽似乎已经不是主要的瓶颈了,而服务器系统和CPU本身逐步转为了制约网络I/O的瓶颈,影响服务器的整体性能。

1. 如何解决问题?

解决问题的基本思路就是:通过应用程序直接读取和写入远程内存,而无需CPU介入进行多次拷贝内存,还可绕过内核直接向网卡写数据,实现了高吞吐量、超低时延和低CPU开销的效果。

实现这样功能的技术就是RDMARemote Direct Memory Access)技术,也就把RDMA【远程直接数据存取】技术运用到了网卡控制器上。

那么具有RDMA功能的网卡和不具有RDMA网卡的有什么不同呢?

首先不具备RDMA功能的网卡的传输路径过程是:应用程序--->系统--->内存--->CPU--->内存--->硬盘---->内存--->网卡。

 而具有RDMA功能的网卡,在进行数据传输时候,网卡绕过CPU来实现服务器间内存数据交换应用程序--->内存--->硬盘---->内存--->网卡。大大地简化了过程,传输效率有了明显的提升。

技术图片

具有RDMA功能的网络和不具有RDMA功能的网络工作示意【图片来自网络】

(绿色表示RDMA的工作路径,橙色表示不具有RDMA功能的工作路径)

RDMA作为一种硬件实现的网络传输技术,可以大幅提升网络传输实效,帮助网络IO密集的业务(比如分布式存储、分布式数据库等)获得更低的时延以及更高的吞吐。

目前市场上能够支持RDMA功能的网卡产品并不普及,如我们熟知的Intel网卡,也只在X722-da2/da4上加入了单一的iWARP功能。

 

 而由深圳市联瑞电子有限公司推出的三款国产万兆光纤网卡:联瑞LRES1004PF-2SFP+、联瑞LRES1005PF-4SFP+、联瑞LRES1009PF-SFP+均具有RoCEiWARPRDMA功能,同时成为国内首批具有RDMA功能的国产网卡之一。接下来还会有25G的支持RDMA的光纤网卡上市,我们拭目以待。
技术图片

2. RDMA的应用

1在服务器群集上应用

RDMA用来把小型服务器连接为一个群集;可以处理一些十几颗处理器的高端服务器才能够处理的大型数据库。

2高速集群和服务器区域网上应用

采用RDMA来获取高性能的协议,包括SDPSockets Direct Protocol)、SRPSCSI RDMA Protocol)和DAFSDirect Access File System);

3在分布式应用程序的集群上应用

采用RDMA的通信库,包括DAPLDirect Access Provider Library)、MPIMessage Passing Interface)和VIPLVirtual Interface Provider Library),运行分布式应用程序的集群是RDMA 能够大显身手的领域之一;

通过DAPLVIPL以及集群上运行的数据库软件来使用RDMA,可在相同的节点数目下获得更高的性能和更好的延展性。使用MPI的集群科技运算应用程序,通过支持互连RDMA 实现了低延迟时间低开销和高吞吐量,这一结果也使它获得了巨大的性能提升其他初期的RDMA 应用;

iWARP/RDMA这类技术是通过DAFS的远程文件服务器访问、通过SRP的存储设备访问RDMA技术成为高速集群系统和存储域网络的基本特征技术。

还有用于RDMAiSCSI扩展的iSER,充分利用了RDMA的功能。

RDMA的其他早期应用还有通过DAFS的远程文件服务器访问和通过SRP的刀片服务器存储访问。

4在NASSAN应用

传统的直连存储DAS是以服务器为中心的存储结构,这一存储体系结构存在容量限制、连接距离有限、不易于共享和管理等不可克服的缺点。已经不能够满足网络时代的应用需求,

存储技术发生巨大变化出现了,出现了如:网络附加存储NAS、存储区域网络SAN这些既能为网络上的应用系统提供丰富快速简便的存储资源,又能共享存储资源并对其实施集中管理,成为当前理想的存储管理和应用模式,

但NAS结构存在一些难以解决的问题如:传输能力有限、可扩展性有限、数据备份能力有限、并且不能对数据库服务提供有效的支持。

DAFSRDMA的优点和NAS的存储能力集成在一起,全部读写操作都直接通过RDMA驱动器执行,从而降低了网络文件协议所带来的系统负载,今后的NAS存储系统将采用DAFS技术提高系统性能,并且在性能和价格上与SAN 存储系统进行有力的竞争。

5在高性能数据中心上应用

数据中心、AI训练、云存储等

简谈以太网RDMA网卡的应用

标签:以太网   remote   system   mem   内存数据   图片   provider   国产   路径   

原文地址:https://www.cnblogs.com/lr-link/p/12767856.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!