请注意，偏见确实存在，这一点毋庸置疑。真正的问题是，偏见如何产生，以及IT部门为何应予以关注？
当前，围绕AI的热度空前高涨。各方兴趣浓厚，需求激增，所有人都在争相寻找适合自身市场的“杀手级应用”。
但在这股热潮之下，人们也有充分理由表达担忧。AI很容易被引入偏见，而这种偏见已引起一些群体的警觉。
AI学习模型简介
要了解偏见是如何被引入AI的，首先需要对AI模型的训练方式有基本认识。
关于学习方法究竟有多少种，不同的人会给出不同的答案，这取决于他们对分类的严谨程度。事实上，如今使用的方法、算法和模型种类繁多，在很多情况下，非专业人士很难理解。但从宏观层面了解模型的训练方式非常重要，因为偏见最终正是在训练过程中引入的。基于这一点，训练AI模型有三种基本方式：
- 监督学习。输入数据带有标签。系统根据用于训练的数据集和标签了解预期输出，并能利用这些知识预测其他值。此类别主要使用两类算法。一类基于分类，即根据颜色、大小和形状等属性将数据归入不同类别。图像识别通常属于此类，其他常见用途还包括垃圾邮件检测和电子邮件过滤。另一类使用数学回归来发现基于输入与输出之间线性关系的模式。在这种方法中，输出在模型外部进行分类，例如实际天气的测量数据。市场趋势和天气趋势通常采用这种方法。
- 无监督学习。顾名思义，“无监督”是指系统不会获得有关数据性质的指导，所用数据也没有标签。系统需要自行发现模式和关系，并预测结果。无监督学习算法依赖两种不同的技术：聚类和关联。聚类要求系统根据相似性对数据进行分组，使同一组中的数据与其他组中的数据几乎没有或完全没有相似之处。客户购买行为分析是聚类的常见应用。关联则要求系统找出数据之间的关系，例如依赖关系。这种方法关注的完全是相关性，而非因果关系。无监督系统只会发现“哪些事物会与其他事物同时出现”，而不是“哪些事物会导致其他事物发生”。关联常用于Web使用挖掘。
- 强化学习。强化学习是监督式训练与无监督式训练之间的一种折中方案，旨在尽量减少两者各自的缺点。在强化学习中，系统会获得未标记的数据并进行探索。随后，系统的输出会得到正向或负向奖励，系统从中“学习”，不断优化决策。这种模型最接近人类的学习方式，教育过程中使用的测验和考试就是例证。强化学习通常用于视频游戏、机器人技术和文本挖掘。
偏见如何悄然进入AI
好了，现在进入正题：偏见是如何被引入这些系统的。
答案其实不难想到：训练过程通常有人类参与。
让监督学习产生偏差，最简单的方法可以说是通过错误标注数据来污染数据。例如，在对动物进行分类时，如果将“狗”错误标注为“猫”，达到一定规模后就可能导致错误识别。数据标注存在的一项风险是，有人可能故意进行错误标注，以破坏输出结果。有些错误标注只是人为判断的结果，例如判断黑豹是否属于猫科动物，或猫的雕像是否算作猫。对于强化学习，如果对游戏中的“错误”答案或操作给予正向奖励，可能会导致系统故意给出错误答案或总是输掉游戏。
对某些人来说，这或许是个颇具吸引力的选择。
显然，这会对ChatGPT等对话式AI（生成式AI）产生影响。ChatGPT经过了微调，据其网站介绍，微调采用了“监督学习和强化学习”，并“使用人类训练师来提升模型性能”。当您选择“赞”或“踩”来评价回答时，这些数据可能会用于进一步微调其模型。亲爱的读者，我想您是人类。因此，系统可能会进一步产生偏差。事实上，ChatGPT给出的答案经常完全错误。要进一步训练系统，使其更频繁地生成正确答案，反馈必不可少。
这很有意思。我们可以深入探讨操纵这些系统的方式及其后果，但我真正想探讨这个话题，是因为偏差问题也会影响遥测数据，也就是我们都希望用来推动系统和服务自动化的运营数据，而这些系统和服务负责交付和保护数字服务。
AI、偏差与遥测
您可能还记得，我曾撰文探讨过数据偏差这一主题，以及它与遥测之间的关系，还有98%的组织所缺失的洞察。
在大多数遥测数据分析场景中，模型使用已标注的数据进行训练。以下情况可能会给系统引入偏差：（a）数据标注错误；（b）特定类别的数据多样性不足；或（c）引入新数据的方法存在问题。数据标注错误的问题显而易见，因为错误标注的数据达到一定数量时，可能导致错误识别。数据多样性不足的问题在于，超出这种狭窄训练集范围的数据必然会被错误分类。
一个典型例子是，某个AI模型经过训练，用于区分坦克和其他交通工具。结果发现，所有坦克照片都是在白天拍摄的，而其他车辆的照片则不是。因此，AI看似能准确区分坦克与非坦克，实际上却是在关联白天与夜晚。输入数据集缺乏多样性，导致模型产生了有偏差的关联。
即使实际运行的AI依赖强化学习，数据缺乏多样性也会带来问题，因为系统并不具备确定所谓“下一步行动”所需的全部“变量”。
AI之所以可能缺乏多样化的数据集或所需的全部变量，原因正如您所料：数据偏差。具体而言，是选择性监控造成的数据偏差，即仅采集*部分*遥测数据进行分析。例如，DNS性能对用户体验的影响已得到充分认识。但如果训练模型分析应用性能时未使用DNS遥测数据，那么即使DNS存在问题，模型也可能认为性能完全正常，因为它并不知道DNS与应用的端到端性能存在任何关联。如果“下一步”是提醒相关人员性能下降，系统就会因数据选择偏差而无法执行该操作。
您可能不会感到意外，我们的年度研究发现，超过半数的组织将“数据缺失”列为获取所需洞察面临的主要挑战之一。
因此，即使组织全力利用AI推动运营决策，仍会面临挑战。如果没有多样化的数据集来训练此类系统，就可能产生偏差。
引入偏差的第三种方式与向模型输入数据的方法有关。最常见的实际运维示例是，使用合成测试结果确定应用的平均性能，然后使用由此生成的模型分析真实流量。根据合成测试数据集所涵盖的地点、设备、网络拥塞情况等因素的广泛程度，真实用户完全可以接受的性能可能会被判定为故障，反之亦然。
数字化转型面临的风险
这种风险会削弱人们对技术的信任，使其无法发挥倍增效应，也无法提供组织以数字化企业模式运营所需的规模和效率。因为，如果AI不断给出“错误”答案或提出“错误”解决方案，就不会有人信任它。
因此，全栈可观测性不仅至关重要，也是组织迈向六项关键技术能力之一，助力组织进入数字化转型的第三阶段：AI辅助型业务。
无论是选择性监控，还是按主观判断筛选指标，由此造成的数据缺失都可能使驱动运营决策的AI模型产生偏差。
密切关注数据的来源和类型，并制定全面的数据与可观测性策略，将有助于消除偏差，生成更准确、更可信的结果。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
2023年应用策略现状：成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联，为解决当今混合IT面临的挑战提供支持，因而备受业界关注。