Sesterce的验证成果彰显了F5与NVIDIA的协同创新实力,助力客户释放 AI 优先的应用交付价值
巴黎,2025年7月9日 – 全球领先的应用交付和API安全解决方案提供商F5(NASDAQ:FFIV),日前宣布F5 BIG-IP Next for Kubernetes推出全新功能。该解决方案深度整合NVIDIA BlueField-3 DPU以及NVIDIA DOCA软件框架,并已通过欧洲客户Sesterce的实际部署验证。Sesterce是欧洲领先的新一代基础设施及主权人工智能(AI)运营商,致力于满足加速计算与AI发展的严苛需求。
作为对F5应用交付与安全平台(F5 Application Delivery and Security Platform)的进一步扩展,BIG-IP Next for Kubernetes现可原生运行于NVIDIA BlueField-3 DPU,为大规模AI基础设施提供高性能流量管理与安全防护,从而显著提升AI应用的运行效率、控制能力与性能表现。今年早些时候,F5 曾在该解决方案正式发布时公开普遍可用性并展示其卓越性能优势。如今,Sesterce已完成对该联合解决方案多项关键能力的验证,涵盖以下领域:
●性能、多租户能力与安全性全面增强:达到云级应用交付标准,初步测试显示GPU利用率提升达20%;
●集成NVIDIA Dynamo及KV Cache Manager:显著降低大语言模型(LLM)推理系统延迟,并优化GPU与内存资源利用率;
●基于BlueField DPU的LLM智能路由:与NVIDIA NIM微服务协同运行,支持多模型工作负载,帮助客户灵活调用最优模型;
●模型上下文协议(MCP)扩展与安全防护:通过反向代理功能与安全防护机制,提升LLM的可扩展性与安全性,助力客户快速、安全地利用MCP服务器的强大效能;
●强大的数据可编程能力:依托F5 iRules实现快速定制化开发,以满足AI应用及日益演进的安全需求。
Sesterce首席执行官兼联合创始人Youssef El Manssouri表示,“早在尚未进行任何测试前,F5与NVIDIA的集成方案就展现出令人瞩目的潜力。通过在AI环境中实现高吞吐量的Kubernetes入口与出口流量,我们的测试结果印证了F5动态负载均衡技术的卓越优势。该解决方案不仅提升了流量分发效率,优化了GPU资源利用率,同时也使我们能够为客户提供更多差异化价值。我们很高兴地看到F5正不断拓展对NVIDIA多样化应用场景的支持,包括增强型多租户功能。我们期待双方在下一代AI基础设施领域持续深化合作,推动更多技术创新。”
全新解决方案的核心能力价值包括:
●基于BIG-IP Next for Kubernetes的大语言模型路由与动态负载均衡
借助该联合解决方案,企业可将简单的AI相关任务路由至成本更低、更轻量级的LLM以支持生成式AI,同时将更复杂的查询留给性能更强大的高阶模型处理。该可定制化的智能路由机制还支持按领域调用特定 LLM,从而提升输出质量并显著改善客户体验。F5的先进流量管理技术可确保查询精准分发至最适合的模型节点,从而降低延迟并加快首个词元生成时间。
F5首席创新官Kunal Anand表示,“当前,企业日益采用多模型架构以打造先进的AI体验,但LLM 流量智能分类与路由计算资源消耗大,易导致系统性能下降并影响用户体验。F5 BIG-IP Next for Kubernetes通过在NVIDIA BlueField-3 DPU上直接编写路由逻辑,提供了业界当前最高效的LLM流量交付与安全解决方案。这仅仅是一个开始——我们的平台正在为AI基础设施释放更多潜能。随着企业级AI规模持续扩大,我们期待未来持续深化与NVIDIA的联合创新。”
●通过NVIDIA Dynamo与KV缓存集成实现分布式AI推理的GPU优化
今年早些时候,NVIDIA推出Dynamo框架,旨在为生成式AI与推理模型在大规模分布式环境中的部署提供支撑。通过统一调度、流量路由和内存管理等核心任务,NVIDIA Dynamo有效简化了分布式环境中AI推理的复杂性,确保其在动态工作负载下的稳定运行。F5与NVIDIA的联合解决方案的核心优势之一,是将部分计算操作从CPU卸载至BlueField DPU,从而显著提升整体效率。借助F5技术,Dynamo KV Cache Manager可基于容量智能路由请求,并通过键值(KV)缓存机制,显著加速生成式AI应用的响应速度。该机制通过复用历史运算信息,避免重复计算,显著降低资源开销。就基础架构而言,企业通过KV缓存存储与复用机制,相比直接占用GPU昂贵的内存资源,能以更低成本实现性能优化。
NVIDIA AI网络与安全解决方案生态系统及市场营销高级总监Ash Bhalgat表示,“采用NVIDIA BlueField-3 DPU加速的BIG-IP Next for Kubernetes,为企业与服务提供商提供了单点控制,助力AI工厂实现高效GPU利用率,并加速数据摄取、模型训练、推理、检索增强生成(RAG)及代理式AI等各类 AI 流量处理。此外,F5对多租户的支持以及iRules可编程性方面的持续优化,为未来进一步集成NVIDIA Dynamo分布式KV Cache Manager等先进特性打下了坚实基础。”
●F5与NVIDIA联合强化MCP服务器安全防护能力
MCP是由Anthropic推出的一项开放协议,旨在标准化应用向LLM提供上下文信息的方式。通过在MCP服务器前端部署F5与NVIDIA联合解决方案,F5可充当反向代理,从而增强MCP解决方案及其所支持LLM的安全能力。同时,F5 iRules提供的全数据可编程能力,能够快速并灵活地响应AI协议的快速演进需求,并进一步抵御新兴网络安全风险。
World Wide Technology全球服务提供商高级副总裁Greg Schoeny表示,“实施代理式AI的企业日益依赖MCP部署来提升LLM的安全性与性能。F5与NVIDIA通过为大规模Kubernetes环境提供先进的流量管理与安全防护能力,打造了融合可编程性与自动化能力的AI 功能集,这一集成解决方案目前在业界尚无先例。”
基于NVIDIA BlueField-3 DPU平台部署的F5 BIG-IP Next for Kubernetes现已全面上市。
如需了解更多技术细节与部署优势,请访问www.f5.com,更多详细信息亦可参阅F5发布的配套技术博客。