谷歌宣布第 6 代 Trillium TPU:性能提升 4.7 倍、内存带宽翻番
时间:2024-05-15 10:08:06 小新新
DoNews5月15日消息,谷歌公司在今天召开的 I / O 2024 开发者大会上,宣布了第六代数据中心 AI 芯片 Tensor 处理器单元(TPU)--T
DoNews5月15日消息,谷歌公司在今天召开的 I / O 2024 开发者大会上,宣布了第六代数据中心 AI 芯片 Tensor 处理器单元(TPU)--Trillium,并表示将于今年晚些时候推出交付。
谷歌首席执行官桑达尔・皮查伊(Sundar Pichai)表示,新款 TPU 交付之后,每块芯片的计算性能将比第五代提升 4.7 倍。谷歌是通过扩大芯片的矩阵乘法单元(MXU)和提高整体时钟速度来实现这一目标的。此外,谷歌还将 Trillium 芯片的内存带宽提高了一倍。
Trillium 采用了第三代 SparseCore,谷歌将其描述为“在高级排名和推荐工作负载中,处理常见大规模任务的专用加速器 "。该公司认为,这可以让 Trillium TPU 更快地训练模型,并以更低的延迟为模型提供服务。
谷歌称,新的 TPU 比第五代芯片节能 67%。