“百模大战”导致算力租赁猛增超算架构为大模型提速

2023-07-11 18:35:03 编辑：来源：

导读 2023世界人工智能大会期间，北京超级云计算中心CTO甄亚楠表示：目前主流的大模型训练是超算使用模式，超算相比云计算更加贴和大模型训练场...

2023世界人工智能大会期间，北京超级云计算中心CTO甄亚楠表示：“目前主流的大模型训练是超算使用模式，超算相比云计算更加贴和大模型训练场景，服务器之间的计算带宽配比更大，是目前主流云计算环境中的计算网络带宽的数10倍，数据传输效率要求更高。”

北京超级云计算中心计划在2023年下半年陆续上线3万余张能够满足大模型训练场景使用的GPU卡，搭建超算盘古大模型算力矩阵，并且会组建一支7×24小时的技术服务团队。在算力快速增长的市场上，只有合理的利用资源，抓住时刻，才有可能会在市场上占据更多的位置。北京超算力会，通过算力预测判断用户真正需要的算力资源，基于算力选型，可以保证用户拥有可用的算力资源。