术语
Tensor Processing Unit (TPU)
Next Token / Wiki

张量处理单元(TPU)

张量处理单元(TPU)是 Google 为机器学习工作负载设计的专用集成电路(ASIC),用于加速神经网络中的张量运算。它以矩阵乘法等核心计算为设计中心,主要经由 Google Cloud 以云服务形式提供。

别名

TPU · 张量处理器 · 张量处理单元 · Tensor Processing Unit

定义

张量处理单元(TPU)是 Google 为机器学习工作负载设计的专用集成电路(ASIC),核心目标是加速神经网络中占比最大的计算——矩阵乘法。它主要经由 Google Cloud 以云服务形式提供。

工作方式

TPU 用大规模矩阵乘法单元组成的脉动阵列执行张量运算,并采用 bfloat16 等较低精度格式换取更高吞吐与能效。它牺牲通用性,把一类特定计算做到极致。

使用场景

用户通过 Google Cloud 使用 TPU 训练与部署大模型、推荐系统等大规模机器学习负载。对已经在 Google 生态内(如 JAX、TensorFlow)开发的团队尤其顺手。

易混概念

与 GPU 相比,TPU 是为张量计算定制的 ASIC,适用面更窄;CPU 则是处理通用串行逻辑的处理器。三者常在同一套 AI 基础设施中分工协作。

参考资料