产业观察万卡集群时代的三个误区

产业观察：万卡集群时代的三个误区

随着人工智能对算力的需求不断增加，有关大规模算力集群的话题成为热点之一。ChatGPT-3.5的参数规模约为1750亿，GPT-4已经迅速膨胀至1.8万亿。而随着行业模型的发展，边缘与端侧的算力需求也在不断攀升。如果说此前是千卡集群、万卡集群，去年已经有人提出两万卡集群、五万卡集群，未来出现十万卡集群，甚至更多，也不奇怪。换句话说，大规模算力集群已成为全球大模型竞争的必要基础设施。随着万卡集群时代的到来，数据中心将面临一系列全新挑战，很多关键问题也需要厘清。首先需要厘清的问题是，芯片的性能并不等于智算集群的性能。现...