编者按:本文是一个包含10篇文章的系列中的一篇:
- 借助生产级Kubernetes降低复杂性
- 如何通过高级流量管理提升Kubernetes的韧性
- 如何提升Kubernetes的可观测性(本文)
- 使用流量管理工具保护Kubernetes的六种方法
- Ingress控制器选型指南,第1部分:明确需求
- Ingress控制器选型指南,第2部分:风险与未来适应性
- Ingress控制器选择指南,第3部分:开源、默认与商业版对比
- Ingress控制器选择指南,第4部分:NGINX Ingress Controller选项
- 如何选择服务网格
- 动态Kubernetes云环境中的NGINX Ingress Controller性能测试
您还可以免费下载收录全系列博文的电子书《Kubernetes从测试到生产》。
采用微服务可加快数字体验的交付,但微服务架构也可能使这些体验更加脆弱。开发人员正全力加快新应用的发布,而现有架构可能增加服务中断和安全暴露的风险,还可能导致时间浪费在低效的故障排查或修复本可避免的问题上。本文是生产级Kubernetes系列博文的第二篇,我们将探讨提供流量可见性的组件如何降低微服务环境的复杂性并提升其安全性。
提升可见性,获取洞察
首先,我们来看两个定义:
- 可见性:能够看见或被看见的状态
- 洞察:对人或事物的深入理解
在StackRox于2020年开展的一项调查中,75%的Kubernetes用户将可见性视为“必备”能力。我们也认为,可见性对Kubernetes至关重要,因为要了解其中部署了哪些内容可能格外困难。然而,在F5的2021年《应用策略现状》(SOAS)调查中,95%的受访者表示,尽管拥有大量数据,却缺乏对应用性能、安全性和可用性的洞察,而这些洞察正是他们保护和发展基础设施及业务所必需的。那么,洞察为何如此重要,又该如何获取?
借助洞察,您可以:
- 通过检测漏洞和潜在攻击向量,增强安全性与合规性
- 在客户发现问题之前及时发现问题,减少故障和停机时间
- 找出应用问题的根本原因,提高故障排查效率
- 确认流量仅流向预期目的地
- 准确了解Kubernetes环境中运行的内容,以及其配置和安全防护是否得当
- 根据历史延迟和性能数据,判断资源使用量是否合理
- 根据历史流量模式预测季节性需求
- 通过响应时间衡量性能,跟踪性能是否符合服务级别协议(SLA)的要求,并在问题影响用户体验之前发出预警
要获得洞察,需要两类可见性数据:实时数据和历史数据。实时数据可帮助诊断当前问题的根源,而历史数据则提供参考,帮助区分“正常”情况与异常情况。结合这两类可见性数据,可以深入了解应用和Kubernetes性能的关键信息。
与其他技术投资一样,也需要制定策略,才能从中获益。SOAS报告还指出,一些组织因素导致人们未能获得有价值的洞察,包括招聘与员工发展、策略与流程,以及未能就数据的用途、使用时机和使用者达成共识。相关调查结果包括:
- 相关技能:技术专业人才短缺已是普遍现象,47%的受访者表示难以找到所需人才,也印证了这一点。
- 数据共享举措:仅12%的受访者已制定流程和策略,将数据反馈给业务决策者,帮助他们了解具备韧性的技术(或缺乏此类技术)对业务的影响。
- 可见性的用途:大多数受访者以被动方式使用遥测数据(即用于故障排查),仅有24%的受访者主动利用数据和洞察来监测潜在的性能下降,16%的受访者利用这些信息跟踪SLA履行情况。
本文后续内容将重点探讨洞察的技术层面。欢迎关注后续有关战略、流程及其他主题的博客文章。
NGINX如何提供帮助
我们知道,大多数Kubernetes部署已在使用监控工具,无需再增加一个。因此,我们为NGINX Plus API添加了监测功能,便于导出指标,并提供与常用工具的集成,例如OpenTracing以及Grafana和Prometheus,帮助您全面了解集群内部的性能。通过深度追踪,您可以有针对性地洞察应用性能和可用性,了解请求在微服务应用中的处理过程。
- 洞察入站和出站(南北向)流量
NGINX Ingress Controller可帮助您了解进出Kubernetes集群的流量。您知道有3种常用的Ingress控制器基于NGINX吗?并非所有这些控制器都适用于生产环境,选型不当可能会让微服务策略变得更复杂,而非加以改善。我们的博文《等等,我使用的究竟是哪一种适用于Kubernetes的NGINX Ingress Controller?》对这些选项进行了比较,帮助您根据自身需求做出合适的选择。 - 洞察东西向流量
NGINX Service Mesh可帮助了解容器化应用之间的流量。
继续阅读,了解我们如何帮助解决两个常见问题:
想了解这项技术的实际应用?欢迎观看NGINX和Grafana专家带来的直播演示和互动问答。他们将演示如何实时监控关键负载均衡和性能指标,将指标导出至Prometheus,以及创建Grafana仪表板来查看累计性能数据。
问题:我的应用运行缓慢(甚至宕机!)
怀疑遭到了DDoS攻击?用户是否反馈您的网站出现错误?只有准确定位问题所在,才能着手解决。
- 使用NGINX Ingress Controller进行实时监控
使用NGINX Plus,实时活动监控仪表板可通过NGINX Plus API展示数百项关键负载和性能指标。您可以查看细化到单个Pod级别的详细信息,快速、轻松地测量应用响应时间并诊断问题根源。如果Kubernetes环境规模扩大,系统会自动为每个新增的NGINX Ingress Controller实例提供仪表板。例如,HTTP Upstreams选项卡上的两列可让您即时了解应用和基础设施的状态:
- 请求数:如果每秒请求数(Req/s)低于该应用的正常水平(例如,正常水平为每秒40个请求,实际却只有5个),则Ingress Controller或应用可能存在配置错误。
- 响应时间:如果响应时间不超过10毫秒(ms),则运行状况良好。延迟高达30–40 ms或更高,则表明上游应用存在问题。
- NGINX Ingress Controller的存根状态
使用NGINX Open Source时,NGINX Ingress Controller包含一个状态页面,用于报告8项基本指标。 - 在NGINX Service Mesh中使用OpenTracing
NGINX Service Mesh通过NGINX OpenTracing模块支持OpenTracing。截至本文撰写时,该模块支持Datadog、LightStep、Jaeger和Zipkin。
问题:集群或平台资源即将耗尽
遇到HTTP错误?503和40x错误表明资源存在问题,而502错误则表示配置更改未生效。可使用历史数据诊断哪些环节可能出现资源不足。
- 使用NGINX Ingress Controller记录日志
诊断网络问题的第一步是查看NGINX Ingress Controller日志,其中每条日志记录都标注了相关的Kubernetes服务。错误记录会指出关联的服务。日志包含流经Ingress Controller的所有流量的详细信息,包括时间戳、源IP地址和响应状态码。还可以将日志导出到Datadog、Grafana和Splunk等常用的日志聚合工具。 - Prometheus指标
NGINX Ingress Controller广受欢迎的功能之一是其不断丰富的Prometheus指标,涵盖网络性能和Ingress控制器流量等方面。借助NGINX Plus,NGINX Ingress Controller可导出指标,涵盖由在内存区域中共享数据的NGINX工作进程组处理的连接、缓存、HTTP和TCP/UDP流量,以及由后端服务器组处理的HTTP和TCP/UDP流量等。NGINX Service Mesh部署Prometheus服务器,通过NGINX Plus API从NGINX Service Mesh边车和NGINX Ingress Controller Pod中抓取指标。如果希望使用现有的Prometheus部署,我们也提供了可添加到Prometheus配置文件中的抓取配置。 - Grafana仪表板
我们为NGINX Ingress Controller和NGINX Service Mesh提供官方Grafana仪表板,以可视化方式呈现Prometheus Exporter公开的指标。用户看重这些数据的精细程度,包括毫秒级细节、逐日叠加对比以及流量峰值。例如,NGINX Service Mesh仪表板可显示任意单个服务或Pod的流量以及正在监控的活跃Pod数量,从而指示Pod是否已达到容量上限。
借助NGINX做好生产环境准备
可用于生产环境的NGINX Ingress Controller(基于NGINX Plus)提供30天免费试用,其中包含NGINX App Protect,可保护容器化应用的安全。始终免费的NGINX Service Mesh可供下载,下载地址为f5.com。
关于作者

相关博客文章
NGINX Plus R26 正式发布
NGINX Plus R26通过缓存JSON Web密钥集加快JWT验证,并强化TLS握手,从而提升安全性。NGINX JavaScript的新功能包括增强对异步函数的支持,以及实现WebCrypto API。
使用NGINX App Protect DoS保护gRPC应用,抵御严重的DoS攻击
gRPC具备开发人员设计和部署现代应用所需的速度与灵活性,但其开放性也使其极易受到第7层DoS攻击。NGINX App Protect DoS可保护gRPC应用免受此类破坏性攻击。
Ingress Controller 选型指南(第 2 部分):风险与面向未来的规划
了解选择错误的Ingress控制器可能带来的风险,以及如何从关键方面着手,让您的选择更好地适应未来需求。
NGINX Plus R19 正式发布
NGINX Plus R19扩展了监控功能,不仅提供更多指标,还新增了指标分析方式;增加试运行模式,用于测试限速效果;增强键值存储,以支持IP地址范围;并使限速更加动态。
NGINX现已正式加入F5
NGINX现已正式成为F5的一部分。Gus Robertson现任F5 NGINX业务部门负责人。他阐述了两家公司在人才、文化和愿景方面融合的价值,以及双方将如何携手增强NGINX的开源产品和商业产品。
