Java 7 SDP：一次编写，处处运行，有时还运行得超炫！
副标题#e#
本文将简朴先容Java 7 SDK里引入的Java套接字直接协议（Sockets Direct Protocol，SDP），这项新技能是个很是冲感人心的打破。假如要对InfiniBand的长途直接内存存取（Remote Direct Memory Access，RDMA）举办native会见，SDP就能让超高机能计较（Ultra High Performance Computing，UHPC）社区在这种不常见的场景下利用Java通用的特性和优势。RDMA为低延迟应用提供了一种协议，可以直接会见其他计较机的内存，而不需要操纵系统的参加。UHPC社区对低延迟和高吞吐量的要求最为严格，并且不容妥协，UHPC自然就需要利用最好的RDMA。跟着Java 7引入SDP，UHPC社区就可以操作Java平台编写能直接操作InfiniBand RDMA成果的应用代码了。
在深入相识新的Java SDP之前，让我们扼要回首一下Java网络编程和套接字API的汗青。
Sun Microsystems于1995年推出Java，并鼓吹Java能“一次编写，处处运行”，这句标语此刻已然广为人知。我们都知道这背后的思想其实很简朴：用C++代码编写的应用要在所有情况下构建/陈设是极其坚苦的，追求靠近“处处运行”的可移植性就更难了，但此刻你可以用一种叫Java的语言编写应用代码，应用可以在虚拟机（并不是底层的操纵系统执行情况）上构建/陈设。这极大地淘汰了Java应用措施员对可移植性的存眷，而是把可移植性完全交给Java虚拟机（JVM）去处理惩罚。JVM理睬：假如你的Java代码可以在针对某个特定底层操纵系统的JVM上构建/陈设，只要其他操纵系统有可用、兼容的JVM，平台就能确保完全沟通的代码可以在上面运行。而不需要特另外编译和预处理惩罚器宏指令。（有人记得C++里的#ifdef么？JVM可以让应用措施员挣脱这种疾苦。）
这种思想很是有用，获得了应用编程社区的遍及承认。正如我们所知，Java很是迅速地风行起来——以前所未有的速度被全面接管，计较机汗青上的许多编程语言平台都没有这么迅速地普及过。
Sun一开始提供的JVM只能运行在三个操纵系统上：1、Solaris，2、Linux，3、Windows。微软在1993年宣布的Windows就带有WinSOCK协议栈，所以Windows可以做TCP/IP网络编程，并且完全支持API。各类*nix系统从二十世纪七十年月起就一直在支持TCP/IP。微软引入WinSOCK对Java的成形来说绝对须要。没有WinSOCK，就不能宣布支持java.net.*和java.io.*这些APIs的Windows VM。没有WinSOCK，Java构建的VM在把持世界桌面的操纵系统上就不具备完整的网络成果了。跟着Windows完全支持TCP/IP，运行Java的桌面数量大概增加了上千倍。
工作产生了变革
虽然，Java仍然是“一次编写，处处运行”。可移植性仍然是首要任务。但此刻用Java 7和SDP，JVM能做更多的工作。可移植性不再是独一的重点；对JVM来说，满意超高机能用例的需求也是很重要的任务。借助SDP，JVM不需要修改网络、套接字API，就可以直接操作InfiniBand天生的本领。InfiniBand要比以太网快许多。UHPC社区往往会选择InfiniBand作为物理网络层的提供者。
a 7 VM怎么让应用操作InfiniBand原生的成果。
有件有趣的工作要留意（出格是从汗青的角度来看）：Java抉择在两个操纵系统上提供SDP支持，而微软Windows并不在个中。Java 7 SDP支持的两个操纵系统是Solaris和Linux。Solaris从版本10开始就对SDP提供了类型的支持。只要你有物理InfiniBand网卡，Java 7 SDP就可以当即事情。Linux则通过Open Fabrics Enterprise Distribution（OFED）包支持SDP。要确认Linux版本有没有设置OFED设备驱动器，只需要在安装物理InfiniBand网卡适配器之后简朴键入下面的呼吁：
egrep "^[ \t]+ib" /proc/net/dev
假如呼吁有输出，就表白你可以在这个操纵系统上利用Java 7 SDP。
所有的java.net.*和java.io.*应用代码仍然能在微软Windows上用Java 7 VM运行……但它用不了SDP，运行时的物理层提供者仍然是以太网。纵然你在通过WinSOCK Direct子系统提供InfiniBand支持的Windows Server版本上运行，也用不了SDP。所有的内容仍然能在Windows上运行，但速度会比在非Windows（即*nix）上运行得慢。
工作确实产生了变革
此刻让我们谈谈Java内里毗连操纵系统网络协议栈的API。首先，下表显示了网络层尺度的开放系统互连（OSI）模子。
从OSI网络层的视角看，Java 7 SDP能让Java应用代码“更靠近金属”（物理层）。Java SDP提供了一种直接（SDP里的D）的方法，借助VM就可以连策应用代码和native、物理的InfiniBand。Java 7对SDP的支持不需要应用修改利用java.net.*和java.io.* APIs的代码。另外，只要设置好JVM到InfiniBand操纵系统设备和库（即InfiniBand的VERBs层API）的特定毗连点，利用java.net.*和java.io.*的应用代码就能绕过传统的网络协议栈“直接”会见InfiniBand（也就是利用Java针对OSI第四层传输层的API，就可以绕过OSI第三层网络层和第二层数据链路层，直接会见OSI第一层物理层）。对机能的影响和收到的回报都很是显著。
#p#副标题#e#
借助Java 7和SDP，Java此刻可以支持长途直接内存存取（RDMA）
#p#分页标题#e#
RDMA是跨网络在两个JVM历程（在*nix用户地点空间中执行）之间移动应用缓冲区的一种方法。RDMA差异于传统的网络接口，因为它绕过了操纵系统。这答允Java SDP通过RDMA提供：1、绝对最低的延迟，2、最高的吞吐量，3、最少的CPU占用率。
借助Java到RDMA的毗连点，SDP也能让Java具备很是有力的“零拷贝”本领。“零拷贝”操纵指CPU不消将一个内存区域的数据拷贝到另一个内存区域。网络协议栈的零拷贝版本大大晋升了特定应用措施的机能，也能更有效地操作系统资源。CPU可以继承处理惩罚其他任务，数据拷贝则由呆板的另一部门并行处理惩罚，这样就晋升了机能。另外，零拷贝操纵淘汰了在用户空间和内核空间之间切换所耗损的时间。零拷贝也能更有效地操作系统资源，因为大量的拷贝操纵是相对简朴的任务，假如其他简朴的系统组件就能做拷贝，那让巨大的CPU去执行就太挥霍了。需要留意的是，我们接头的零拷贝并不是指java.nio.channels.FileChannel的transferTo()实现的零拷贝。这里的零拷贝机能更高。借助Java 7 SDP，你可以直接利用原生的InfiniBand零拷贝协议实现。
在典范的Java陈设环境下，SDP直观上是什么样的？
下图中，Node 1（java.net.Socket写入者）和Node 2（java.net.ServerSocket监听器）陈设在设置支持了SDP的Java 7 VM上，两个JVMs可以跨InfiniBand网络相互互换应用数据缓冲区，而不需要任何OS系统挪用或处事挪用。令人难以置信的是，Java数据传输完全绕过了两个操纵系统。
Java 7应用Node 1（JVM启动时利用SDP）利用java.net.Socket API把应用数据块跨网络写给java.net.ServerSocket监听器。
JVM启动时利用SDP，所以会完全绕过操纵系统的TCP/IP栈——应用数据会直接写到InfiniBand的RDMA（要求网卡的物理提供者是InfiniBand）。
Java 7应用Node 2（JVM启动时也利用SDP）利用java.net.ServerSocket API监听应用数据块，应用数据块由java.net.Socket写入者经RDMA跨网络写入。（要求网卡的物理提供者是InfiniBand）
数据会直接写入Java 7 VM的应用缓冲区！不需要操纵系统或处事挪用——既不需要Node 1的操纵系统，也不需要Node 2的操纵系统。这就是Java 7 SDP的成果。
同样的应用运行在支持SDP的Java 7上和运行在Java 6上，为什么会有机能差别？
查察本栏目
下图深入、具体地表明白上图里的Node 2在两种场景下的景象：
利用设置了SDP的Java 7（下图左边）：Node 2要吸收Node 1传输的数据，颠末InfiniBand的VERBS/RDMA协议栈、达到Java应用需要几个步调？只需要一个！（这对UHPC Java应用来说是个好动静；UHPC社区此刻可以用Java 7完成他们需要的成果了）。
利用没有SDP的Java 6（下图右边）：Node 2要吸收Node 1传输的数据，是奈何颠末OSI网络层协议栈、达到Java应用的呢？又需要几步呢？需要五步。（这是我们熟悉的TCP/IP协议栈，而不是SDP。它合用于大大都情景，但不能办理UHPC社区的问题。UHPC社区利用Java 6但是枉然）。
奈何打点、设置Java 7 VM，让它支持SDP？
下面的设置部门摘取自Oracle先容Java 7 SDP的教程。
SDP设置文件是个文本文件，JVM启动时会从当地文件系统读取该文件。SDP设置文件有两种差异范例的条目。岂论哪种范例，每个条目都写成一行：
一种是SDP设置注释行
一种是SDP设置法则行
注释行以#字符开头，#字符后头的所有内容城市被忽略。
至于法则行，有两种范例：
bind法则
connect法则
bind法则暗示，只要TCP套接字绑定到与法则匹配的地点和端口，就会利用SDP协议举办传输。connect法则则暗示，没有绑定的TCP套接字实验毗连匹配法则的地点和端口时，就会利用SDP协议举办传输。
在SDP设置文件里指定法则后，JVM就能明晰知道什么时候用InfiniBand的VERBS/RDMA协议栈去替换普通的TCP/IP协议栈。
#p#分页标题#e#
第一个要害字用来表白法则是bind照旧connect。第二部门指定主机名或IP地点。当指定为IP地点时，你也可以指定暗示IP地点范畴的前缀。第三部门即最后一个部门是端标语或端标语范畴。
我们看看示例设置文件里的如下部门：
# 绑定到192.0.2.1时利用SDP
bind 192.0.2.1 *
# 毗连到192.0.2.*上的所有应用处事时都利用SDP
connect 192.0.2.0/24 1024-*
示例文件里的第一条法则指定，当地IP地点192.0.2.1上的所有端口（*）城市利用SDP。你应该为分派到InfiniBand适配器的每个当地地点都添加一条bind法则，个中InfiniBand适配器相当于支持InfiniBand的网卡。假如你有多个InfiniBand适配器，你应该为分派到这些适配器的每个地点都指定一条bind法则。
示例文件里的第二条法则表白，只要毗连到192.0.2.*，并且方针端口大于便是1024，就会利用SDP。IP地点里的前缀/24暗示，32位IP地点的前24位都切合指定的地点。IP地点的每一部门都占8位，所以24位就表白IP地点应该切合192.0.2，并且最后一个字节可以是任意值。端口部门的-*暗示“及以上”。端口范畴（好比1024-2056）也是有效的，并且指定的范畴是闭区间。
如何启动利用SDP的Java 7 VM？
&> java \ -Dcom.sun.sdp.conf=sdp.conf \ -Djava.net.preferIPv4Stack=true \ Application.class
需要留意的是，启动时要指定网络名目为IPv4Stack。尽量Java 7和InfiniBand都支持IPv6网络名目，但Solaris和Linux都不支持两者之间的映射。所以启动支持SDP的Java 7 VM时，照旧要利用基本、靠得住的IPv4网络名目。
在支持SDP的Java 7 VM上运行应用，估量机能能晋升几多？
这才是终极问题！利用Java 7 SDP到底能收获什么？本文显然给不出确定的谜底。机能的晋升取决于多方面的因素。在本文快竣事的时候，让我们相识一下确定的内容：
InfiniBand要比以太网快许多。高机能计较咨询委员会宣布的研究给出了详细的指标，这些指标表白InfiniBand在低延迟方面比10G以太网好6倍，在吞吐量机能上也是10G以太网的3.7倍。
另外，Java 7 SDP利用RDMS和最好的零拷贝实现。数据传输完全绕过了操纵系统的TCP/IP栈和上下文切换，数据传输假如颠末TCP/IP栈，就需要在内核地点空间里的系统挪用和用户地点空间里的应用代码缓冲区之间举办上下文切换。
所有这些，Java SDK API都做到了百分百的透明。利用java.net.*和java.io.*的Java应用代码不需要修改任何内容。
尽量工作已经产生了很大的变革，但Java的焦点精力仍然没有变。最开始的时候，JVM认真将应用代码和可移植性隔分开来，一如往昔，JVM再次独自交付了重要成果：这次是SDP。事实上，Java原先的标语仍然合用，我们稍作修改就能浮现此刻令人感动的内容：Java 7 SDP——一次编写，处处运行，有时还运行得超炫！
