第三方全域算力运营商是石科技(METASTONE)推出了自研的Meta-Infer推理引擎,尝试通过纯软件优化弥合模型框架与硬件之间的性能鸿沟,在不改动模型结构、不改变任务语义的前提下,挖掘存量GPU卡的推理潜力。