欢迎收听全球CISO播客系列
我很高兴为您介绍我的新播客系列，《全球 CISO》： 为捍卫者而设，由捍卫者打造。 我有超过20年的CISO经验，现在是F5的现场CISO。 经验是最宝贵的导师，但获得它的代价往往不低。 因此，我启动了这个播客系列，与你探讨CISO和CIO如何更好地应对飞速变化的技术世界，并为未来的信息安全挑战做好准备。
F5支持全球170多个国家的23,000多家企业客户，包括世界上最大的银行、汽车制造商和电信运营商。 去年我走访了约30万英里，深入世界上一些最复杂的组织，从这个角度出发，我将在本系列播客中解析当今最关键的信息安全、合规及风险管理趋势。 我会分享切实有效的方法，与您探讨CISO和CIO如何借助人工智能革命的动能，在这快速变化的时代中实现卓越发展。
立即收听
- 第一集： “管理 API、AI 安全与 PQC”
- 第2集： “自动化优先： CTO指南：API、可观测性与供应商问责”
这是我第一集的一些关键收获：
关注国家级人工智能模型中的意识形态倾向
在人工智能领域的全球领导地位方面，美国和中国正在争夺全球主导地位和全球南方影响力。 然而，这两个国家都在其人工智能堆栈中建立了意识形态限制。 美国 人工智能行动计划有一个地缘政治主题，推动其模式推动美国。 美国国家标准与技术研究院 (NIST) 将气候变化、DEI 或错误信息等主题从 NIST 风险管理框架中删除。 中国官方的人工智能堆栈以开源（真正开放的权重）的形式进行营销，并可供全球南方国家随时使用，其建立是为了保持对社会主义原则的忠诚。
我认为这些 AI 模型及其所推动的技术体系中夹杂的意识形态因素，可能会阻碍它们的推广应用。 比如，保险业的精算师是否会信赖不包含气候变化数据的美国 AI 模型，来做财产意外的评估和预测？ 如果美国的 AI 模型没有纳入气候变化相关的数据，精算师还会使用吗？ 使用中国 AI 模型进行金融市场分析时，遵循社会主义原则又能带来什么价值呢？ 我相信很多全球企业会避开那些建立在强烈意识形态立场上的 AI 模型。
关注欧盟，作为美国和中国AI意识形态竞争中的潜在黑马。 欧盟未必是全球顶尖的AI创新者，但欧洲科技公司表现出色，法国拥有世界顶尖的数学家。 欧盟的AI策略避开意识形态偏见，更专注于风险管理、风险承受，并对以不负责任方式部署AI的企业施以严厉处罚。 所以，别急着忽视欧盟。
关键要点： 作为技术领导者，您必须谨慎而周全地选择人工智能模型和技术堆栈，因为这些初期决策会产生深远影响，并可能带来高昂的退出成本。 预计开放模型的推广将持续加速。
您将面临欺诈迅速增长的挑战
OpenAI 首席执行官 Sam Altman 最近在台上谈到 AI 系统导致的欺诈行为剧增。 我们在 F5 的经验也与此相符。 我们早已指出，大多数自动图灵测试和 CAPTCHA 测验早已失去意义，尤其对高级机器人无效。 但我认为当防御者发现ChatGPT 代理竟能轻松绕过 CAPTCHA 限制时，的确感到震惊。
我们还遇到许多语音欺诈，AI代理现在带着非常逼真的本地口音，听起来就像住在您隔壁。 利用语音留言和短信网络钓鱼、社会工程、深度伪造以及日趋真实的垃圾邮件进行的欺诈，已激增约2400%。
做好准备，因为我们将面临更多依托人工智能的欺诈手段。 利益驱使着犯罪分子，目标正是那里的财富。
关键点： 人工智能正在助长欺诈，传统的防护措施如 CAPTCHA 已经无法应对。 CISO 必须优先加强员工培训，并采用自适应的 AI 驱动安全策略，有效抵御通过语音、文本和社交媒体渠道日益复杂的 AI 增强诈骗手段。
在你的岗位职责中加入“保障推理安全
首席信息安全官已经承担了诸多职责。 我们必须保护和保障数据、电子邮件、应用、周边设备、边缘、网络和各类设备的安全，而现在还需要负责推理安全。
推理已成为新的攻击面。 推理直接影响业务、财务、合规和声誉，攻击者可以通过提示注入和模型操控等多种方式攻击推理引擎。 首席信息安全官必须保护的不仅是AI周边基础设施，更包括AI的决策过程，因为推理既是新的攻击路径，也是关键的业务环节。
一种新的推理操控方法是“回声室”攻击。 这是一种提示注入，通过设计一连串提示，逐步引导生成未经授权的回应，而不直接要求产出未授权内容。 这类似于通过多轮小提示对大型语言模型（LLM）进行操纵，使其自行破解限制或绕过控制。
这些回音室攻击的成功率达到80%至90%。 那么，现在保护推理安全是CISO的职责吗？ 如果不是，组织里谁会承担这项责任？
关键要点： 推理正在成为一个重要的新攻击面，CISO 必须将其职责扩大到保护 AI 的决策过程。 我认为，只要你的职位包含“首席”和“安全”，无论今天是否被重视，这都将成为你的责任。 不如及早行动起来。
中国在人工智能边缘计算方面具备优势吗？
我认为他们实际上可能在人工智能方面占有优势，不过这要看你如何衡量。 我在亚洲待了很久，和许多在那生活和工作的人交流过。 在我看来，中国在将人工智能投入实用方面取得了领先优势。 中国或许没有开发出最大规模的模型，但他们现有的模型正切实运用在解决供应链问题、重新规划货运路线和其他实际功能上。
如果你想打造一个拥有200千万亿参数的顶级模型，那完全没问题。 但我现在在美国和欧洲看到一个明显的差距——用直线加速赛的比喻来说，就是把强大的动力转化为实际作用之间还有很大距离。
美国 人工智能行动计划重点推进能源开发、建设人工智能工厂和数据中心。 投资者正大力投入资金，但我们尚未实现真正的商业价值。 最近多个引人关注的研究显示，目前极少有人工智能项目带来实际业务价值，这也自然体现出新技术采纳过程中的幻灭低谷阶段。
问题在于，美国拥有最大、最强大的人工智能模型并不意味着你已经用它们推动了实质性的业务成果，在人工智能领域，真正稳固的壁垒非常少。最大的模型只能带来有限时间的竞争优势，这种优势不会永久存在。
关键点： 中国可能在人工智能领域占据优势，不在于构建最大模型，而在于能快速将其应用于实际问题；而美国和欧洲则因更注重规模而非实际成效，面临落后的风险。 中国拥有远超美国的电力供应能力，而美国无法迅速解决这一难题。 我们别无选择，只能不断开采，尽管这显然不可持续，但这正是全球竞赛的“逻辑”。
助您领先应对威胁的首选资源
我们希望全球CISO成为您领先了解塑造我们行业和未来的威胁与趋势的首选信息来源。 如果您有希望我关注的主题，请给我留言或通过LinkedIn与我交流。
立即订阅，收听《全球 CISO》所有精彩内容： 这些内容由安全专家为安全专家制作，您可以在常用播客平台收听，并与团队、同事及网络好友分享。
欢迎收听我的第一集，“驾驭 API、AI 安全与 PQC”。
另外，别忘了收听我的第二集，“自动化优先： CTO 应对 API、可观测性和供应商责任的实战指南。”