了解ADC性能指标

简介

应用交付服务对应用的成功至关重要。无论是提升可扩展性、可靠性还是安全性,大多数应用都依赖一种或多种此类服务。因此,应用交付控制器(ADC)在大多数应用、云和数据中心的设计中都占据重要地位。

在包括私有云部署在内的许多环境中,专用ADC硬件仍是提供应用交付服务的首选平台,因为专用平台具备可控、稳定且一致的资源。专门构建的专用设备在虚拟机监控程序、软件和底层计算平台方面均无差异,因此能够持续提供性能和可靠性,满足要求严苛的应用工作负载需求。此外,这类设备还可利用专用硬件组件的优势,从CPU卸载任务。

但“性能”究竟指什么?通常,ADC供应商会公布四类主要指标来展示性能:

  • 每秒请求数(RPS)
  • 每秒连接数(CPS)
  • 每秒事务数(TPS)
  • 吞吐量(通常以吉比特每秒为单位,Gbps)

制造商提供详尽的数据表,列出上述特性及其他平台特性,包括吞吐量、SSL事务数或并发连接数等指标的表格。要选择合适的平台,必须解读这些数值及其与应用工作负载的关联,并了解系统可能存在的限制和瓶颈。学会解读供应商数据表,理解与应用相关的指标,有助于为业务选择更合适的平台。

ADC有什么作用?

应用交付控制器是一种基础设施组件,可充当应用代理,为应用提供流量管理、负载均衡、SSL解密、应用层安全和访问控制等应用交付服务。客户端设备和服务连接到ADC,ADC再单独建立与应用的连接(或复用现有连接)。ADC在这两段连接之间的逻辑间隔中插入应用交付服务。

要了解ADC的工作负载,可以先了解TCP连接和应用层请求。ADC必须在TCP协议栈的多个层执行任务,完成多项操作,才能为应用流量提供应用服务。(见图1。)这可能使解读ADC供应商提供的性能指标变得困难。要了解哪些指标具有参考价值,一个关键前提是确定工作负载类型。

图1:数据包处理

应用类型多样,因此ADC工作负载也各不相同。虽然大多数生产部署都包含多种工作负载,但各类工作负载的影响和需求决定了ADC中哪些组件的使用率会更高。即使在同一组件内,不同工作负载的需求也有所不同。有些工作负载可能对延迟更敏感,有些则对抖动更敏感;有些工作负载对吞吐量限制敏感,而有些则更依赖可用性。

以下列出了常见的工作负载及其相关关键指标:

  • 目前,最常见的工作负载是网站和许多移动应用所使用的事务型HTTP Web应用,通常使用SSL和TLS。这类工作负载的关键指标包括所有SSL指标,即RPS、TPS和吞吐量,以及第7层的RPS和CPS。
  • DNS是另一种常见的工作负载,几乎用于所有互联网交换场景。DNS使用频繁,但流量较小,部署时通常使用UDP而非TCP。因此,关键指标是第3层和第4层吞吐量。
  • REST API是一种常见的服务API传输方式,其应用正在迅速增长。因此,REST API常用于机器间通信。由于REST API基于HTTP,其关键指标与HTTP相同(包括所有SSL指标):RPS、TPS和吞吐量,以及第7层的RPS和CPS。
  • MQTT是一种新兴的消息传输协议,用途广泛,在物联网(IoT)通信中的应用正迅速增长。与REST API一样,MQTT主要用于机器间通信应用。MQTT的关键指标是第4层CPS和吞吐量。
  • Diameter用于替代RADIUS身份验证协议,工作在第4层,可长时间保持TCP连接。其关键指标是第4层CPS和第4层连接表的稳健性。
  • FIX、SAIL和OUCH等金融交易协议对第4层和第7层的延迟都很敏感。因此,其关键指标为第4层的CPS,以及第7层的RPS和CPS。
  • WebSockets技术是工作负载类型中相对较新的一类,服务器可通过持久的第4层和第7层连接主动与客户端通信。关键指标包括第4层CPS、第7层RPS和CPS,以及第4层和第7层连接表的稳健性。
  • 日志记录和告警工作负载均在第4层运行,其中一些基于在第7层运行的REST API。因此,一项关键指标是第4层CPS;对于基于REST API的工作负载,关键指标还包括第7层RPS和CPS。

工作负载组合持续演变,新的工作负载也不断涌现,每种工作负载都有基于其主要操作的关键ADC指标。

性能指标及其解读方法

任何网络设备的吞吐量都取决于延迟,即处理网络流量所引入的时间延迟。即使不考虑其他因素,光速也决定了电信号在铜线中传播或光信号在光纤中传播的最低延迟。然而,ADC不仅要通过铜线或光纤传输数据,还要对网络流量执行多项操作。ADC的最大处理能力取决于各项串行操作(即非并行执行的操作)的延迟总和。好在许多操作可以并行执行,但执行这些操作所需的时间仍然制约着总吞吐量。ADC设计人员的目标之一就是尽可能降低这些延迟,从而尽可能提高吞吐量。

评估某款ADC的性能并判断其是否适合特定部署,可能是一项艰巨的任务。网络设备厂商公布的指标来自特定测试,这些测试旨在以牺牲其他指标为代价,将某项指标提升至尽可能高的水平。这种做法是为了提供可供参考的数值,帮助指导架构设计和决策,但厂商也清楚,公布的各项数值并不一定能同时达到。以汽车为例:丰田在广告中宣称,2017款凯美瑞基础车型的功率可达178马力,在高速公路上每加仑汽油可行驶33英里。然而,如果期望这辆车在油门踩到底、发动机转速达到6,000转/分钟、输出全部178马力的同时,每加仑汽油仍能行驶33英里,显然并不合理。同样,网络设备厂商展示各项性能指标时,也会分别采用对该指标有利的测试场景。通常,公布的许多性能指标无法同时复现。

指标与OSI层之间的关系

某些已发布的指标可用于不同层级的处理。例如,每秒请求数可以表示OSI第2层(L2)或第7层(L7)处理的数值。另一方面,TPS通常仅指SSL密钥协商,而第7层每秒请求数则指使用已建立的SSL会话进行的后续加密请求。不同工作负载对ADC各处理组件的使用情况有所不同。关于ADC已发布的指标,还需注意的是,不同工作负载会遇到不同的性能限制。

OSI网络的每一层都有几项常见的公开指标。例如,第4层指标通常以每秒连接数表示,此外还有衡量第4层吞吐量的其他指标。OSI第5层和第6层难以直接对应到IP协议栈,但SSL/TLS和压缩等服务可视为属于这两层。如上所述,各项指标的测试通常使用专门针对该指标施加压力的流量,并不代表真实环境中的流量负载。例如,使用零长度SSL有效载荷进行测试时,SSL每秒事务数(TPS)可达到最大值,因为ADC无需耗费处理时间来解密SSL数据。如果仅用于确定SSL硬件的性能,这种做法是合理的,但生产应用不会发送零长度的有效载荷。同样,第2层吞吐量测试会在未启用SSL且不进行第7层处理的情况下进行,因为这些功能会降低ADC的处理速度,尽管许多生产部署都会使用这些功能。大多数ADC指标都是单独测试的,但大多数生产环境会组合使用多种ADC功能,而每项指标会对不同组件或组件组合施加压力。涉及的组件可能包括CPU、网络接口卡(NIC)、专用集成电路(ASIC)和现场可编程门阵列(FPGA)等。如果ADC缺少某个特定组件,则由CPU代为处理。

数据包指标表示ADC每秒可处理的数据包数量,处理过程中负载较大的组件因网络层而异。例如,处理第2层数据包主要对网络接口卡(NIC)产生负载,而处理第4层数据包主要对FPGA产生负载。各层的吞吐量指标均指可用总吞吐量,单位为吉比特每秒;连接指标则衡量在相应层每秒可建立的连接数量。例如,第4层连接指标衡量每秒可建立的TCP连接数量。

SSL处理指标

SSL处理的独特之处在于,会话的建立和管理可跨连接进行。一个连接可以建立SSL会话(称为事务),后续连接则可以复用SSL会话(称为请求)。因此,事务指标和请求指标分别列出。SSL事务的耗时远长于后续SSL请求,因此,限制吞吐性能的往往是事务指标。SSL会话建立后,发出后续请求时,必须对数据载荷进行加密或解密。加密ASIC负责加密和解密,其性能通过吞吐量指标衡量。

压缩数据载荷通常很有用。压缩由压缩ASIC执行,其性能指标也是吞吐量。

应用层处理

最后,第7层的独特之处在于,鉴于可用的流量管理选项复杂多样,所有第7层处理均由CPU执行。Cookie会话保持是一项常见的第7层功能,由CPU执行,可将每个用户会话绑定到服务器池中的特定服务器。第7层请求数指标是指ADC每秒可处理的第7层请求数量。同样,第7层吞吐量指标是指第7层可实现的总吞吐量。

最后,任何需要保留连接状态的层都要求ADC维护连接表。连接表常用于第4层TCP连接、SSL会话和第7层HTTP会话。使用长连接的协议可能耗尽ADC连接表的容量,或使其承受压力。

每项指标都有助于衡量性能的某个特定方面。了解各层执行的不同操作,以及这些操作会影响哪些组件,有助于评估特定部署的ADC性能指标。

专用硬件与性能

CPU可以实现ADC的所有功能。事实上,许多ADC硬件供应商都提供纯软件版本。这是因为CPU是现有硬件中灵活性极高的一类,几乎可以执行任何以数据为中心的任务。

然而,将ADC的所有功能都交由CPU处理也存在局限。在用于处理网络流量的3种主要硬件(CPU、ASIC和FPGA)中,CPU的速度最慢,而且由于需要内存和内存控制器的支持,可以说成本也最高。另外两种用于处理网络流量的硬件是ASIC和FPGA。ASIC专为执行特定任务而设计,因此得名“专用集成电路”。在执行特定任务时,其他类型的硬件速度都不及ASIC,但ASIC的能力仅限于芯片设计中已包含的功能。如果应用需要ASIC不具备的能力,就必须改用CPU,通过软件执行这些任务。

如果说CPU灵活但速度慢,ASIC速度快但不够灵活,那么第三种技术FPGA则介于两者之间。FPGA的速度低于ASIC,但远高于CPU,而且可以通过编程执行FPGA设计人员未曾设想的任务。

图2:CPU、ASIC和FPGA的优势

设计合理的ADC会充分发挥各类硬件的能力:将常见且简单的任务交给ASIC组件,将较复杂的任务交给FPGA组件,将最复杂且最不常见的任务交给CPU处理。ADC在工程设计上的精妙之处,很大程度上在于协调不同类型的组件,高效处理各种工作负载。

在ADC中,网络接口上的数据包处理是执行频率远高于其他任务的一项任务。标准的现成网卡通常针对大流量入站流量(例如台式机或其他用户设备中的流量)或大流量出站流量(例如服务器中的流量)进行调优。ADC的独特之处在于,它需要网卡经过调优,在两个方向上均达到最大吞吐量。而现成网卡均未针对双向最大吞吐量进行设计。由于ADC的数据包处理频繁且相对简单,因此非常适合由ASIC执行。在ADC集群环境中,分流器(DAG)ASIC充当前端负载均衡器,确保同一客户端与服务器之间的会话始终流经同一个集群节点。在集群环境中使用DAG有助于横向扩展ADC设备,以满足流量需求。在设计合理的ADC中,所有第2层数据包处理和交换都可以由专用ASIC硬件执行。

第3层和第4层的处理任务更为复杂,因此非常适合由FPGA执行。FPGA可提供路由功能,以及防火墙和分布式拒绝服务(DDoS)防护,包括TCP SYN Cookie机制。在这一层级使用FPGA可实现第4层处理和防护,确保待进一步处理的流量已得到正确组装和过滤。

专用硬件的另一项用途是加密和压缩处理,例如SSL或TLS处理,以及HTTP/2引入的新功能。通常会使用专门的ASIC进行密码运算,包括椭圆曲线Diffie-Hellman加密(ECDHE)等现代密码算法中计算密集的SSL密钥协商。SSL密钥协商完成后,后续请求的批量加密和解密也可以由ASIC硬件处理。同样,使用常见算法进行的压缩和解压缩也可以由ASIC硬件完成。使用专用ASIC组件可实现快速的加密和压缩处理。

ASIC和FPGA未处理的其余网络流量处理工作,必须由CPU完成。虽然CPU的处理速度比ASIC和FPGA慢,但它是ADC中灵活性最高的组件。CPU还负责与网络处理无关的任务,例如图形用户界面及其他配置工作、处理I/O中断,甚至处理磁盘请求。由于CPU的负载需求可能随延迟而变化,而且CPU是处理网络流量的最后一类硬件,因此ADC在设计时会有意尽量减少交由CPU处理的流量,转而尽可能使用速度更快的ASIC和FPGA进行处理。

结论

供应商公布的指标往往难以直接反映实际性能。理解不同类型的工作负载、其消耗的资源以及硬件平台能力之间的相互关系虽然复杂,但有助于您为组织作出更合适的采购决策。

已发布的数据表和其他资源有助于简化平台选型,但同样重要的是,应尽可能直接借助供应商的经验和专业知识。领先的供应商在为工作负载匹配平台方面拥有深厚的专业知识,客户应能便捷地获得这些专业支持。

充分了解应用流量特征和平台能力,并结合供应商的专业知识,将降低平台资源配置不足或过度配置的风险及潜在成本。

发布于2017 年 3 月 28 日