新物网

当前位置:首页 > 科技

科技

天玑9300生成式AI马上就能用 端侧已落地70亿参数AI大语言模型

时间:2023-11-11 12:30:24 小新新
联发科最近推出新款旗舰级5G生成式AI移动芯片天玑9300,它主打全新全大核架构设计和新一代AI处理器APU,并辅以联发科特有的先进技术,这为生成式AI应用带来

联发科最近推出新款旗舰级5G生成式AI移动芯片天玑9300,它主打全新全大核架构设计和新一代AI处理器APU,并辅以联发科特有的先进技术,这为生成式AI应用带来了强大的性能保证,同时也为消费者带来了丰富和生动的生成式AI体验。至于AI生态,联发科已与许多AI行业的企业达成了深度合作,在移动端共同搭建了富饶的AI生态系统。

全新第七代AI处理器APU 790,为生成式AI而生     

随着用户对生成式AI应用需求日益增长,端侧生成式AI便捷、安全性等优势便凸显出来。当然,部署端侧AI大语言模型需要强大的AI算力支撑。

天玑9300搭载联发科第七代AI处理器APU 790,为生成式AI而设计,拥有硬件级的生成式AI引擎,可以实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,速度是上一代的8倍。