亚马逊用自研 Trainium 芯片加速 Prime 360 直播扩散模型

ME AI 消息,亚马逊在部分 NBA on Prime 赛事直播中推出 Prime 360 技术,通过环绕球场的高分辨率摄像头阵列捕捉画面,由 AI 扩散模型逐帧构建沉浸式电影级集锦并嵌入直播。据 AmazonScience 介绍,该扩散模型每帧需数十亿次数学运算,包括矩阵乘法、注意力计算与迭代去噪;为满足实时性要求,亚马逊采用自研 AI 芯片 Trainium。Trainium 采用“tile in, tile out”架构,针对输入输出均为大型张量的流程优化,Prime 360 的扩散模型据此将每帧拆分为数十个重叠图块分别处理,使扩散模型推理延迟降低 40% 以上。此前自研芯片多用于支撑 AWS 云基础设施,此次直接呈现在数百万观众屏幕上。(来源:InFoQ)