显卡组网的,其耗电非常夸张……
这年头玩人工智能,成片成片的数据中心是非常消耗电力的……这也是很多中小国家玩不了人工智能的原因,他们的供电不行。
夸张点说,对于大部分国家而言,徐申学就算白送他们几百万张APO5000显卡,他们都玩不转……因为没电!
这也是APO6000显卡的诸多设计以及制造里,非常重视每单位算力功耗控制的原因……这直接关乎了算力成本!
付正阳在发布会上,还介绍了APO6000显卡使用的新一代高带宽内存:HBM3X!
这是智云集团旗下的智云储存,在第三代高带宽内存HBM3的基础上,进行优化设计而来的高带宽内存……从工艺节点来说,其实还是属于第三代高带宽内存,但是数据传输速度更快,提升了百分之三十左右,同时功耗更低。
这些设计,也是为了降低每单位算力的成本!
除了硬件层面上的技术推进外,APO6000显卡还在配套的通信互联技术上进行了革新,大幅度提升了单个GPU的双向传输速度。
并且提升了整个APO6000服务器的数据吞吐量!
而这个通信互联技术,其实对比单纯硬件层面的性能提升还要更重要……
毕竟再厉害的GPU以及高带宽内存,也得发挥出来它们的性能啊……单个APO6000显卡的性能再牛逼,如果通讯互联技术跟不上,那么也没用。
因为数据中心都是几万张的APO显卡组成的……进行人工智能训练或运行的时候,其数据吞吐量是极其巨大的。
如此提升整个数据中心的数据吞吐量,就成为了非常关键的核心技术……而这方面,也是智云集团的核心技术优势,吊打AMD的那种。
这也是为什么民用的消费级高端显卡,如智云半导体旗下的X系列显卡,虽然看起来表面的硬件性能也很不错,乍一看似乎也可以用来当低端算力卡使用。
但实际上,除了个人爱好者外,没人用这玩意用来训练人工智能或运行GTAI的!
因为玩意的显存通信带宽不行,GPU双向传输速度也不行,多卡集成组成服务器的话,其数据吞吐量更不行……一大堆的不行,就导致了看起来性能很不错X系列显卡,其实没办法组成大规模的集群进行高效运算。
采用N5S工艺,超过一千亿个晶体管数量,两万多个算力核心的顶级GPU,再加上更新一代的HB
本章未完,请点击下一页继续阅读!