雷火电竞 (中国) 官方网站

雷火电竞华为云CTO张宇昕：大模型时代需要全新的网络互联技术

发布时间：2024-02-26 20:54:08 丨 浏览次数：889

　　【华为云CTO张宇昕：大模型时代需要全新的网络互联技术】华为云CTO张宇昕在巴塞罗那华为云峰会表示，大模型时代对算力有着全新的要求：1、联算比。未来需要全新的网络互联技术来解决运算量和GPU算力之间的巨大差距。2、容算比。当前在模型训练过程中为获取足够显存容量，存在不必要的GPU算力闲置。3、存算比。当前在模型训练过程中，大量的时间消耗在GPU数据加载，造成算力的进一步浪费。基于此，云的系统架构将从“以CPU为中心的主从架构”向“多元算力对等架构” 跃迁，突破算力、存储和网雷火电竞官方网站络的边界，实现多元算力的对等全互联。

　　华为云CTO张宇昕在巴塞罗那华为云峰会表示，大模型时代对算力有着全新的要求：1、联算比。未来需要全新的网络互联技术来解决运算量和GPU算力之间的巨大差距。2、容算比。当前在模型训练过程中为获取足够显存容量，存在不必要的GPU算力闲置。3、存算比。当前在模型训练过程中，大量的时间消耗在GPU数据加载，造成算力的进一步浪雷火电竞官方网站费。基于此，云的系统架构将从“以CPU为中心的主从架构”向“多元算力对等架构” 跃迁，突破算力、存储和网络的边界，实现多元算力的对等全互联。