Google 推出 TPU 8tx 和 TPU 8i Max,分别面向机密推理与超长上下文
TPU 8tx and TPU 8i Max
Google 扩展第八代 TPU 产品组合,推出面向安全机密推理的 TPU 8tx 和面向超长上下文的 TPU 8i Max。TPU 8tx 采用与 TPU 8t 相同的芯片,提供硬件级数据与模型权重保护,延迟相比 TPU 8t 最多降低至一半,并支持私有数据微调、知识蒸馏和强化学习。
推荐理由:Google 通过复用现有芯片并调整安全、网络和内存配置推出专用 TPU 系统,将硬件系统适配周期从数年缩短至数月。