AI推理的价格正在下降,但企业对端侧和边缘算力的需求,并没有因此减弱。
对于企业来说,云端依然重要,但越来越多工作负载需要被拆开。哪些放在云上,哪些放在边缘,哪些必须落到设备端,需要根据实时性、成本、隐私、安全和具体业务重新计算。
9月23日,在2026英特尔技术创新与产业生态大会(Intel Connection)期间的EIS(行业解决方案)分会,英特尔携手合作伙伴,就边缘AI这个话题展开交流。
把AI真正带到客户身边
英特尔行业及解决方案业务部总经理王景佳Jimmy Wang在开场中表示,当前,AI正在发生两个重要变化。
一是AI正从技术探索走向实体经济,企业已经从“要不要用AI”转向AI能否进入业务流程,真正改善成本、效率和质量,并从试点走向规模化部署;二是正从理解信息走向理解现实世界并采取行动,智能体AI和物理AI逐渐融合,模型、仿真、算力、硬件和现场数据需要协同工作。

AI走向产业落地,离不开应用、技术和生态三方面的共同推动。应用决定价值,技术决定能否实现,生态决定能否真正交付。

过去20年,从嵌入式、物联网到边缘计算,英特尔一直在推动技术创新和生态合作。“如今,我们希望继续连接算力平台、行业知识和合作伙伴,让AI从设计走向部署,从单点应用走向规模化增长。”他在大会上这样说道。

赋能边缘AI快速落地
“回顾英特尔四十多年的发展,最初我们提供的是固定功能设备和深度嵌入式设计,例如工业控制器。此后,随着虚拟化、NetEase等技术的发展,计算节点逐渐变得更加灵活、智能,我们也持续推动计算机视觉等技术进步。”英特尔公司副总裁兼英特尔边缘计算事业部总经理Dan Rodriguez表示,随着智能体AI(Agentic AI)和物理AI(Physical AI)兴起,边缘计算正在进入新的发展阶段。

与数据中心不同,边缘AI面临实时性、功耗、体积和成本等多重约束。新一代视觉语言模型(VLM)和视觉语言动作模型(VLA)不仅要完成视觉识别,还需要感知、推理和行动。未来,无论是机器人、无人机,还是工厂里的工业PC,都可能成为自主系统。

这也让异构计算变得更加重要。视觉AI过去主要解决吞吐量问题,而智能体和物理AI需要多阶段、实时的计算流程,单一加速器很难满足需求。英特尔希望通过Core Ultra系列,在一个SoC中结合CPU、GPU和NPU,根据不同工作负载进行调度,在性能、功耗和成本之间取得平衡。对于更高算力需求的场景,英特尔也提供独立AI加速器。

在软件和生态层面,英特尔推出Open Edge Platform,面向开发者、硬件厂商和解决方案提供商提供工具包、AI Ready系统以及行业解决方案,覆盖零售、制造、智慧城市、医疗、机器人和教育等领域。

Open Edge Platform推出约一年后,英特尔已与60多家合作伙伴合作,完成155套NGI系统认证,并在NGI解决方案目录中完成125家ISV的适配和优化。

英特尔还分享了一个中国工业视觉客户HIKROBOT的案例。该客户基于Core Ultra和Open Edge Platform升级机器视觉控制器,可运行数百种二维、三维视觉算法,无需独立GPU。根据客户评估,关键工作负载推理性能提升约20%,平台功耗最高降低50%,同时系统体积和复杂度也有所下降。
在英特尔看来,下一阶段的边缘AI将不只是“看见”和“识别”,还要进一步完成理解、推理和行动。硬件、软件与开放生态,需要共同支撑AI进入更多真实行业场景。
边缘AI的价值不只是成本
如今Token价格越来越低,这种情况下,今年哪些工作负载在边缘还是更有性价比?王景佳向EEWorld表示,随着云端模型推理成本下降,端侧AI的价值已经不能只从成本衡量,还要综合考虑时延、响应速度、隐私和网络环境等因素。尤其在汽车、工业等场景,即使处于弱网或无网环境,也需要AI稳定运行。
与此同时,虽然Token价格下降,但AI推理需求也在快速增长,企业的实际AI账单未必同步下降。因此,越来越多客户开始采用云边端混合部署,根据不同任务分配算力。
他认为,AI工作负载也正在发生变化。智能体兴起后,推理需求不断增加,任务调度、数据处理等环节也会带来大量CPU工作负载。物理AI则对实时性、低功耗和算力提出了不同要求,大型世界模型、VLA等应用还需要更强的矩阵计算和GPU能力。这也是英特尔关注XPU架构的重要原因。
接下来,英特尔将重点推进混合AI,让设备端、边缘端和云端能够调度不同算力。同时,芯片和软件也需要更快适应AI应用的变化,并加强与生态伙伴的合作。
在商业模式上,客户并非不愿意为AI投入,而是更加关注实际价值。除了传统的一次性采购,订阅、租赁以及与实际效果挂钩的模式也在增加。只要AI能够真正帮助企业降本增效,客户仍然愿意投入。
赋能AI EDA一体机
派兹互连是一家新锐的国产EDA厂商。2024年1月1日,西门子完成了一项资产调整:将PADS Standard和PADS Standard Plus的源代码及中国区业务出售给一家中国本土企业——成都派兹互连电子技术有限公司。
这家公司,在Intel Connection上发布首款AI EDA一体机,方案基于英特尔(INTC)至强处理器、锐炫Pro B70 GPU及Open Edge Platform打造。这一产品背后有什么值得关注的信息?
派兹互连首席运营官周懿表示,AI正在进入EDA等垂直行业,但并非简单地让大模型直接完成设计任务。以自动布线为例,大模型更多是作为智能工具,调用EDA软件完成具体工作。
对于制造业客户而言,本地部署的需求越来越强。派兹互连自身的核心算法和图形计算引擎就需要在内网运行,客户的供应链、设计等数据同样不能上传云端。随着本地模型能力提升,其性能已经能够满足不少企业对效率和ROI的要求。因此,客户会根据具体应用,在云端和本地部署之间做选择。
基于这一需求,派兹互连与英特尔合作推出AI EDA一体机。双方采用英特尔Agent Box方案,搭载英特尔CPU和锐炫Pro B70 GPU,并针对客户的并行任务和工作负载进行模型适配、算法优化和性能调校。产品将EDA、仿真和行业知识库等能力整合到一套软硬件方案中,主要面向国内大量中小制造企业。
王景佳表示,AI进入EDA等垂直行业,涉及芯片、硬件、底层库、推理框架、模型选择、微调和部署等多个环节。英特尔与派兹互连在这些方面进行了深入合作,帮助AI能力真正落到具体行业应用中。
周懿还提到,双方合作正在进一步延伸到物理AI。以电能设备制造为例,随着储能设备和AI服务器的功率密度不断提升,设备体积却越来越小,装配难度也随之增加。客户希望在电路设计、器件选型阶段,就同步进行电、热、磁和空间仿真,并提前规划装配顺序。
因此,派兹互连正在把原本位于设计后端的仿真和装配工作进一步前移,让硬件设计、器件选型、物理仿真和装配规划协同进行。后续还需要更高线程数的CPU等算力支持。双方也将继续围绕模型调校、渲染和软硬件优化,为这些应用提供一体化方案。
赋能教育行业
视源股份下面有两个自有品牌:希沃和MAXHUB,主要是面向教育、医疗、企业等多个行业。视源股份商用显示BG副总裁王玉龙认为,AI真正进入行业,首先要解决行业知识的问题。通用大模型掌握的是通用知识,但教育、医疗、金融等领域都有大量垂直知识,需要结合具体场景持续训练和优化。
以希沃的“课堂观察”为例,系统通过视频、音频采集课堂过程,再生成课堂评估报告,相当于用AI辅助完成过去教研老师承担的课堂评价工作。这也是AI进入教育行业的一种方式。
AI真正大规模使用后,算力成本也是一个现实问题。虽然Token价格在下降,但模型需要的上下文越来越多。一个简单的提示词,背后可能需要从多个系统调取大量数据,实际Token消耗反而可能快速增加。王玉龙表示,视源股份自身使用AI后也明显感受到算力成本,因此边缘AI的价值不仅在于响应速度,还能降低实际使用成本,同时保护数据安全。
在课堂观察中,学生属于未成年人,相关视频和音频数据需要严格保护。视源股份会先在本地完成数据处理,将视频、音频转化为脱敏后的结构化数据,再与云端数据结合生成课堂报告。32至48 TOPS的本地算力基本可以满足这一场景,因为本地主要运行小模型,完成快速处理。
除了课堂观察,视源股份还在推进“批阅机”,利用AI完成作业扫描、批改和学情分析,减少教师重复性的批改工作,并将学生的学习情况进一步提炼出来。目前该产品仍在评估云端和本地部署方案。
王玉龙表示,AI产品的部署方式还要看具体场景。对于普通提效工具,企业可能会优先采用SaaS模式,降低一次性算力投入。但涉及隐私和高安全要求的场景,本地部署仍是重要选择。
例如远程评标需要对整个评标过程进行合规监控,数据不能上传云端;金融行业的业务合规审查也涉及客户隐私和金融业务数据,同样需要在本地完成。随着AI应用不断进入这些高安全场景,本地算力的需求也会随之增加。
赋能IoT行业
商米科技是一家商业IoT设备解决方案供应商。商米科技执行董事、产品线总经理陈桂鸿表示,商米过去主要提供安卓商业IoT设备,如今也开始拓展Windows产品。商业领域仍有大量POS设备运行Windows,企业短期内很难整体迁移,因此未来一段时间仍会存在Windows、Android等多系统并存的情况。如何统一管理这些设备,成为新的需求。
AI的加入,也给门店运营带来了新的变化。过去培养一名合格店长可能需要数年,人员调动后还可能出现岗位空缺。商米因此推出“智慧店长”,每天汇总门店经营数据、客户满意度和交互信息,分析经营状况并生成报表和改进建议,帮助门店快速积累运营经验。
在零售场景中,AI还需要考虑实时性和数据安全。部分客户要求数据在本地或指定环境处理,点餐、结算等交互则要求快速响应。如果完全依赖云端,网络带宽和稳定性都可能影响体验,因此商米也在加强端侧和边缘侧AI能力。
不过,云端仍然承担着复杂计算。例如“AI店长”需要综合分析整家门店的大量经营数据,这类任务对实时性要求不高,更适合放在云端完成。端侧则可以运行经过蒸馏的小模型,处理点餐、交互等具体业务。
因此,在商米看来,未来的AI部署不会简单地把任务全部放在云端或端侧,而是根据不同任务进行分工:端侧负责实时、垂直的业务处理,边缘侧承担部分本地计算,云端负责复杂的数据分析和模型计算,三者共同支撑门店AI应用。
写在最后
从EDA到教育,再到零售,英特尔正在赋能千行百业。边缘AI并没有因为云端推理降价而退场。恰恰是在AI真正进入业务之后,云、边、端的分工开始变得更加清晰。
这可能也是下一阶段AI基础设施最现实的变化:企业不再纠结算力究竟应该放在哪里,而是根据每一项业务,把算力放到最合适的位置。
成为付费用户可以阅读 英特尔 所有资料
了解更多 →