客户端
媒体矩阵
企业邮箱
工经号
最近，全球AI产业的基础设施正经历新一轮重构。去年6月，Arm与微软宣布在ONNXRuntime中集成KleidiAI，以提升AI推理在PC与移动端的性能，这一合作被视为端侧智能迈向“跨设备协同”的重要信号。几个月过去，这股趋势正在从云端蔓延到更具体的应用场景——尤其是智能终端领域。记者了解到，国内一家头部智能设备厂商也在内部完成了一次类似的系统跃迁：他们把影像业务多年积累的算法与工程经验，升级为集团级的AI基础设施。这一平台的核心架构由影像专家顾伟带队构建，正成为推动公司AI化转型的底层引擎。
顾伟向记者介绍：如果说微软的ONNX代表着国际顶尖的AI开发框架，那么国内的探索则更多源于端侧的实际需求。他所在的团队，最初正是为了攻克手机影像的系统性瓶颈而起步——当硬件性能逐渐逼近物理极限，用户仍然希望夜景更快、视频更稳、长焦更可用。要在有限算力与能耗约束下同时满足这些体验，需要的不是单点突破，而是一整套能在设备端稳定运行的工程体系。
做端侧AI框架是顾伟带领的团队当时选择了一个艰难的方向，不再追逐单点的炫技功能，而是把影像的必修课提前做好，把反复要做的能力沉淀成模块，把不同芯片的调用方式封装成统一接口，再通过自研的线程池和调度机制，让CPU、GPU、DSP、NPU协同起来。
对于绝大多数的普通用户而言，不需要去理解算法背后的复杂逻辑，他们在乎的只是切身的使用体验。顾伟团队的目标，就是把这种确定性变成可度量、可复制的能力。它建立了一整套指标体系，把快门到成片、长时拍摄稳态、跨设备一致性等关键体验指标全部拉到台前，作为平台优化的硬约束。
最初，他们的开发仅仅局限于手机影像部门，2023年5月，该企业技术委员会牵头成立专项组，启动了面向集团的统一端侧AI框架的设计与开发。这意味着顾伟带领团队开发的这套端侧AI框架，正式上升为集团级的基础设施工程。根据当时的规划，这套框架推广被分为三个阶段：第一步是统一端侧推理框架和模型接口，把原本分散在不同产品线的工具体系打通，手机、汽车、芯片和智能硬件不再各自为战；第二步是逐步完善端到端AI工具链，把量产一致性、性能指标与开发效率全部纳入平台考量，研发团队能在统一的流程里完成部署和验证；第三步是建设完整的端侧AI解决方案，并在集团所有业务线规模化推广，让更多设备共享同一底座能力。
这种统一的好处很快显现。开发效率显著提升，过去需要反复适配的工作，现在一次优化就能在多个产品中落地；成本也随之下降，工程师能把更多精力投入在创新功能上；更重要的是，借助这样的一套端侧AI框架，该企业在与上游NPU供应商合作时掌握了更强的话语权，因为优化目标和需求更清晰、更具规模效应。如今，该框架已经同时服务于该企业的手机、汽车、芯片和语音助手等核心业务线，成为集团AI战略的关键支点。
记者在观察中也发现，框架的出现让该企业的研发节奏更加从容。过去每换一次芯片平台，影像团队都要花大量时间重新适配底层代码，体验不可避免地出现波动。而现在，平台先把共性部分铺平，新机一上来就能站在前一代的成果之上继续迭代。这种“可复现”的改进路径，让影像体验真正稳定下来，也让该集团的AI战略更具确定性。
未来，随着AI在汽车、智能家居、穿戴设备等更多领域落地，端侧AI框架的影响力只会进一步放大。顾伟在采访最后说得很朴素：“平台不是终点，而是起点。我们要做的，是让每一分算力都用在刀刃上，让不同设备、不同场景都能跑在同一条路上。”当硬件红利逐渐消退，谁能用平台把体验变成稳定的确定性，谁就能在未来的竞争中走得更远。
记者：杨归