--- title: 最快的AI集群部署现在成为一个新的行业要求 description: DriveNets Network Cloud-AI能够以最快的速度部署AI集群，将部署时间从几周缩短到几天。最重要的是，它通过以太网将作业完成时间（JCT）性能提高了30%，这在一级超大规模网络的生产中得到了证明。 image: https://get.drivenets.com/hubfs/Top_Fastest-deployment-of-AI-clusters.jpg --- [![logo](https://get.drivenets.com/hs-fs/hubfs/drivenets-images/logo.png?width=231&height=47&name=logo.png)](https://get.drivenets.com/china?hsLang=zh-cn) - [用户案例](https://get.drivenets.com/zh-cn/use-cases-cn) - [大规模路由场景](https://get.drivenets.com/zh-cn/use-cases-cn/#high-scale-routing) - [AI 网络矩阵](https://get.drivenets.com/zh-cn/use-cases-cn/#ai-networking) - [产品](https://get.drivenets.com/zh-cn/products-cn) - [博客](https://get.drivenets.com/zh-cn/blog-cn) - [资源](https://get.drivenets.com/zh-cn/resources-cn) - [联系我们](https://get.drivenets.com/zh-cn/contact-cn) - DriveNets - [About Us](https://drivenets.com/company/) - [Leadership](https://drivenets.com/company/#leadership-anch) - [Investors](https://drivenets.com/company/#investors) - [Partners](https://drivenets.com/partners/) - [Careers](https://drivenets.com/careers/) # 最快的AI集群部署现在成为一个新的行业要求 ![](https://get.drivenets.com/hs-fs/hubfs/Top_Fastest-deployment-of-AI-clusters.jpg?width=1160&height=607&name=Top_Fastest-deployment-of-AI-clusters.jpg) 2024年8月7日 ![shai-haim-e1668502750673](https://get.drivenets.com/hs-fs/hubfs/shai-haim-e1668502750673.jpeg?width=472&height=472&name=shai-haim-e1668502750673.jpeg) By Shai Haim ![Alvin Yu Zhang ](https://get.drivenets.com/hs-fs/hubfs/1704345897899-alvin.jpeg?width=800&height=800&name=1704345897899-alvin.jpeg) Translated by Alvin Yu Zhang [![linkedin](https://get.drivenets.com/hubfs/Hermitcrabs%20Assets/linkedin.svg)](https://www.linkedin.com/in/shai-haim-03291519/) ``` 一种新的云提供商已经出现——“NeoCloud”提供商。这些公司，如CoreWeave、Crusoe和Lambda，专注于出租GPU计算能力。华尔街已经注意到了这一点，向这些公司投资了数十亿美元，因为它们竞相建立大规模的GPU农场，并将自己确立为人工智能（AI）GPU计算的必选平台。 ``` 但这不仅适用于NeoCloud提供商——所有企业和人工智能开发人员都在疯狂冲刺，赶在竞争对手之前部署人工智能功能。这使得AI GPU集群的快速部署成为一个关键需求。 虽然硬件到位是一回事，但经常导致延迟的是网络。复杂的配置和无休止的调整会将网络部署变成一个缓慢而痛苦的过程。 ## 实现高性能AI集群 那么，我们如何以最快的部署时间实现高性能的AI集群呢？答案在于理解和解决人工智能网络中的三个关键问题： - **负载均衡：**在数千个GPU上均匀分配流量对于最大限度地提高利用率和集群性能至关重要。负载平衡不佳会导致资源浪费，而优化负载均衡可以主动减少拥塞。 - **拥塞：**AI工作负载产生突发数据流，如“incast”模式，可能使交换机超载，导致延迟和效率下降。 - **流量隔离：**在多租户或共享结构中，有效的隔离防止性能干扰，需细致的资源管理和QoS策略。 虽然这些不是AI运营中的唯一挑战，但它们是最耗时的因素，尤其是在多租户环境中。 ## 已知的人工智能基础设施行业解决方案 ### 传统以太网 以太网因其熟悉度和成本优势而被广泛采用，但传统的Clos网络和基本拥塞机制（如ECN、PFC）并不足以应对现代AI集群的动态需求。即便是高端机箱型解决方案，在大规模GPU集群中也难以扩展。 ### 高级专有解决方案 HPC市场早已面临类似挑战。英伟达的InfiniBand曾是主要方案，尽管性能优异，却缺乏以太网兼容性、多租户支持，并依赖专家长期调优。Spectrum-X作为改进产品，提供以太网支持及性能提升，但仍需ECMP和RoCEv2等复杂配置。 虽然UEC正在努力解决RoCEv2部署问题，但其解决方案尚未普及。 ### 调度矩阵 NeoCloud和大型企业现可采用基于DDC架构的调度矩阵以太网解决方案，解决三大问题： - **信元喷洒：**实现负载均衡，避免瓶颈。 - **端到端VOQ：**预防拥塞并实现流量隔离。 通过E2E VOQ和信元喷洒的结合，调度矩阵实现即插即用、可预测、无损的网络体验，无需复杂调优。 ## DriveNets AI基础设施——无需调整 新的AI热潮推动NeoCloud和企业竞相部署集群。虽然硬件资源逐渐充足，但连接大量GPU仍依赖复杂的网络技术，传统方法需要频繁调试。 调度矩阵以太网成为关键突破。**DriveNets Network Cloud-AI**通过内建的信元喷洒和E2E VOQ技术，提供即插即用的AI网络结构，无需调优或专用硬件。 DriveNets使AI集群部署时间从几周缩短至数天，并在一级超大规模网络实测中，通过以太网将JCT性能提升了30%。 ![Fastest-deployment-of-AI-clusters_graph](https://get.drivenets.com/hs-fs/hubfs/Fastest-deployment-of-AI-clusters_graph.jpg?width=1308&height=598&name=Fastest-deployment-of-AI-clusters_graph.jpg)   相关内容 [![clos-featured-920x500](https://get.drivenets.com/hs-fs/hubfs/clos-featured-920x500.png?width=920&height=500&name=clos-featured-920x500.png)](https://get.drivenets.com/zh-cn/blog-cn/can-you-really-compare-clos-to-chassis-when-running-ai-applications?hsLang=zh-cn) ## [Clos 和机箱在运⾏⼈⼯智能应⽤⽅⾯真的有可⽐性吗？](https://get.drivenets.com/zh-cn/blog-cn/can-you-really-compare-clos-to-chassis-when-running-ai-applications?hsLang=zh-cn) [了解更多](https://get.drivenets.com/zh-cn/blog-cn/can-you-really-compare-clos-to-chassis-when-running-ai-applications?hsLang=zh-cn) [![infiniband-vs-featured-920x500](https://get.drivenets.com/hs-fs/hubfs/infiniband-vs-featured-920x500.png?width=920&height=500&name=infiniband-vs-featured-920x500.png)](https://get.drivenets.com/zh-cn/blog-cn/infiniband-vs-ethernet-why-ethernet-fits-ai-networking-needs?hsLang=zh-cn) ## [为什么 InfiniBand 在人工智能组网方面不如以太网](https://get.drivenets.com/zh-cn/blog-cn/infiniband-vs-ethernet-why-ethernet-fits-ai-networking-needs?hsLang=zh-cn) [了解更多](https://get.drivenets.com/zh-cn/blog-cn/infiniband-vs-ethernet-why-ethernet-fits-ai-networking-needs?hsLang=zh-cn) [![ddc-ai-wp-featured-920x500](https://get.drivenets.com/hs-fs/hubfs/ddc-ai-wp-featured-920x500.png?width=920&height=500&name=ddc-ai-wp-featured-920x500.png)](https://get.drivenets.com/zh-cn/resources/ddc-as-an-effective-interconnect?hsLang=zh-cn) ## [大型人工智能计算集群高效互连解决 方案——Distributed Disaggregated Chassis (DDC)](https://get.drivenets.com/zh-cn/resources/ddc-as-an-effective-interconnect?hsLang=zh-cn) [了解更多](https://get.drivenets.com/zh-cn/resources/ddc-as-an-effective-interconnect?hsLang=zh-cn) ## [用户案例](https://get.drivenets.com/zh-cn/use-cases-cn?hsLang=zh-cn) - [大规模路由场景](https://get.drivenets.com/zh-cn/use-cases-cn/#high-scale-routing) - [AI 网络矩阵](https://get.drivenets.com/zh-cn/use-cases-cn/#ai-networking) ## [产品](https://get.drivenets.com/zh-cn/products-cn?hsLang=zh-cn) ## [资源](https://get.drivenets.com/zh-cn/resources-cn?hsLang=zh-cn) - [博客](https://get.drivenets.com/zh-cn/resources-cn) - [新闻与活动](https://get.drivenets.com/zh-cn/resources-cn) ## [联系我们](https://get.drivenets.com/zh-cn/contact-cn?hsLang=zh-cn) ## [DriveNets](https://drivenets.com/) - [About DriveNets](https://drivenets.com/company/) - [Leadership](https://drivenets.com/company/#leadership-anch) - [Investors](https://drivenets.com/company/#investors) - [News & Events](https://drivenets.com/news-and-events/) - [Partners](https://drivenets.com/partners/) - [Careers](https://drivenets.com/careers/) ## DriveNets HQ 1 Zarhin Ra’anana 4366235 Israel [info@drivenets.com](mailto:info@drivenets.com) ## DriveNets 中国 电子邮件: china@drivenets.com - ##### 微信公众号 ![WeChat account QR code](https://get.drivenets.com/hs-fs/hubfs/WeChat%20account%20QR%20code.jpg?width=430&height=430&name=WeChat%20account%20QR%20code.jpg) - ##### 微信视频号 ![WeChat video QR code](https://get.drivenets.com/hs-fs/hubfs/WeChat%20video%20QR%20code.jpg?width=501&height=503&name=WeChat%20video%20QR%20code.jpg) + Please ensure Javascript is enabled for purposes of [website accessibility](https://userway.org) ![](https://px.ads.linkedin.com/collect/?pid=4703737&fmt=gif)