人工智能工厂的检索增强生成 (RAG)

与传统制造工厂一样，AI 工厂旨在通过精心策划的服务器、GPU、DPU 和存储基础设施构建 AI 输出和模型。 人工智能工厂支持训练和推理，对于大规模开发人工智能应用至关重要。 然而，加入 RAG 来增强其输出的语境相关性可以释放 AI 工厂的真正潜力。

在深入研究之前，让我们先定义一下检索增强生成： RAG 是一种 AI 技术，它结合专有数据来补充 AI 模型并提供情境感知的 AI 输出。 随着应用部署变得更加分散，托管在混合和多云环境中，企业的数据无处不在。 对于那些想要释放其数据在人工智能领域的战略优势的组织来说，问题来了：我们如何连接相关数据来增强大型语言模型 (LLM) 等人工智能模型的输入？ 各组织正在转向 RAG 来解决这一问题并创建从 AI 模型到分布式数据孤岛的安全高速公路。 这样就可以访问最新的信息，使得输出及时、符合上下文并且更准确。 如果没有这一点，即使是经过微调的人工智能模型也无法获得最新信息，而这些信息通常在训练完成后就会发生变化。

有哪些例子？ 需要考虑的两个问题分别是：基于视觉的自动驾驶汽车，以及当 LLM 产生幻觉或根据请求缺乏上下文相关性而做出假设时。

对于自动驾驶汽车，推理必须包括基于车辆位置和周围不断变化的环境的实时数据，以便安全地在有行人、骑自行车的人和其他汽车的街道上行驶。 对于 LLM，使用客户支持聊天机器人示例，访问产品信息（如更改日志、知识库、系统状态和遥测）以及独特的客户信息（如支持票、购买历史记录和客户资料），可将通用 LLM 响应转化为有价值的输出。