- 适合
- GPU 开支或功耗预算主要由一项工作负载决定的团队:AI 推理,或其他大规模重复的计算
- 您提供
- 这项负载目前在 GPU 上的运行情况:吞吐量、所用硬件和成本
- 您得到
- 先是一份可行性报告,然后是为您的产品定义、设计并流片的芯片
- 我们的记录
- 以设计服务方式为客户在 28 nm、16 nm、8 nm 和 7 nm 上设计过算力加速 ASIC,以 GDS 交付,由客户制造;并进行了 6 nm AI 全定制芯片设计
三个判断标准
一项负载值不值得拥有自己的芯片。
负载
会保持 不变吗? 芯片把计算内容固定了下来。模型、算子或计算核必须稳定到足以覆盖设计周期,否则芯片就要在合适的地方保留可编程能力。
芯片
能比 GPU 领先 多少? 收益来自去掉这项负载用不到的部分:更窄的数值格式、按数据量确定的存储器、按计算形状设计的数据通路。对 GPU 的利用越少,收益越大。
规模
撑得 起一次性 成本吗? 每单位工作量节省的成本,乘以芯片生命周期内的总工作量,要超过工程与掩膜的投入。
芯片改变了什么
围绕一项负载来设计。
数值
格式 按您的精度目标选择数值格式,包括 INT8、FP8 等低精度格式。
存储器
片上 SRAM 与外部存储器按带宽规划,而不只看容量。
运算
阵列 MAC 阵列、乘法器、加法器树和流水线寄存器,正是全定制设计最能发挥作用的地方。
软件
路径 在 RTL 开始之前确定编译器与运行时方案,让芯片到手就能运行您的负载。
如何进行
五个步骤,第一步先在纸面上完成。
可行性
研究 用您的数字检验这三个标准。
架构
与性能 模型 建立芯片的性能模型,并与您在 GPU 上的实测结果对照。
RTL 与 FPGA 原型
编写并验证 RTL,产品需要时先在 FPGA 上验证。
物理
设计 采用标准单元流程,回报足够的模块采用全定制。
流片
与生产 掩膜数据、向晶圆厂的交接,以及生产与供应。
关于 GPU 转 ASIC 的问题
ASIC 什么时候比 GPU 划算?
当一项稳定的工作负载以很大的规模运行时。模型或算法还在变化的阶段,GPU 是合适的工具;等它稳定下来、规模也到了,专用芯片能以更低的功耗和成本完成同样的工作。
只适用于 AI 吗?
不是。任何固定、计算量大、反复运行的计算都适用同样的道理:推理、视频与信号处理、检索、仿真计算核。AI 推理是目前最常见的情形。
必须放弃 GPU 吗?
不必。多数团队保留 GPU 用于开发和仍在变化的负载,只把已经稳定、规模大的部分转到专用芯片上。
你们在哪些工艺上设计?
我们是台积电直接客户(Direct Account),设计工作涵盖 16 nm、12 nm、7 nm、6 nm FinFET 节点。
设计归谁?
设计及其数据的归属在各项目合同中约定。
相关页面
GPU 开支主要花在一项负载上?
告诉我们这项负载、它的规模,以及现在的成本。
- 填写项目表单
- 我们通常在几个工作日内通过邮件回复
- 启动服务:保密协议、设计审阅与分阶段计划
表单是联系我们最快的方式,每一份需求都有专人阅读。