手机、汽车、笔记本电脑乃至边缘AI设备，如果想要采用定制SoC，代价极高。一款领先SoC的设计、验证与测试，往往需要投入超过2亿美元，开发周期长达两到三年。半导体和系统公司既然做出如此高昂的投资，自然希望芯片能够长期量产，从而获得稳定的投资回报。

但要保证投资回报，设计团队不仅要针对今天的已知需求打造有竞争力的芯片，还必须预判市场未来的变化。这个预判问题向来很难；进入AI时代之后，几乎变成了不可能完成的任务。

打开网易新闻 查看精彩图片

几乎所有驱动高产量SoC设计的终端市场——汽车、移动、PC、工业、机器人、网络——都越来越需要设备端本地运行AI模型。然而，当新芯片最终准备量产时，哪些AI模型会成为主流？没有人能准确预测。AI技术前沿几乎每个月、甚至每一周都在变化；在两年的芯片设计周期内，目标市场的主流技术可能更替五次、十次甚至更多次。

因此，SoC架构师在为AI子系统制定需求时，不得不同时追求两个目标：性能与可编程性。

性能，意味着AI子系统能够高效处理推理任务：高吞吐、低功耗、低延迟。在物料清单和功耗预算固定的前提下，效率就是一切。

可编程性，则意味着芯片能够在现场升级，去运行那些尚未被发明的AI模型，包括基于当前不存在的新架构、新算子训练的模型。

面对快速变化的AI生态，只押注今天的技术无法保障长期回报；唯有同时兼顾性能与可编程性，SoC设计才能穿越不确定性，真正赢得这场昂贵的赌局。