毫无疑问,以大模型和生成式 AI 为代表,AI 已经席卷了整个科技界,几乎没有科技类展会都绕不开。上周召开的上海外滩大会、腾讯全球数字生态大会以及国际半导体展,都概莫能外。
但 AI 掀起技术狂潮实际上也带来了诸多的挑战,尤其是在半导体技术上。台积电董事长刘德音在今年的国际半导体展上就发表了《AI 时代的半导体技术》的主题演讲,其中提到,AI 模型的训练带动了算力与内存的高需求,也让半导体面对从异质整合到整合 Chiplets(又称小芯片)的趋势。
刘德音,图/台积电
我们都知道,芯片的计算具体到底层,实际就是晶体管的一开一关,所以晶体管数量一直被视为衡量算力的重要参数。但现如今用于 AI 训练的英伟达 GPU 已经达到了千亿级别晶体管的极限,芯片行业的普遍共识是,我们需要通过 3D 整合互连,用多个小芯片实现更低的成本、更高数量的晶体管。
然而,传统以电信号作为数据传输的方式已经没有办法满足更高的需求。「AI 和 HPC(高性能计算)领域的计算需求不断增长,在这一趋势的推动下,对于能够在每个 GPU 之间实现无缝高速通信的多节点、多 GPU 系统的需求也在与日俱增。」英伟达在介绍 NVLink 和 NVSwitch 技术时写到,「速度更快、可扩展性更强的互连已成为当前的迫切需求。」
而硅光子技术可以将电换成传输速度更快的光,实现更快的传输速率、更远的传输距离以及更低的功耗和延迟。理论上,当我们将光学接口与 CPU 和 GPU 封装在一起,能够有效扩展 GPU 间的带宽,同时节省能耗和面积,真正将数百台服务器作为一个巨型的 GPU。 就像刘德音在那场演讲中说的,在 AI 的推动下,硅光子技术将成为这个行业的关键技术。
题图来自 IBM