芯东西（公众号：aichip001） 作者 李水青 编辑 漠影 近来， AI在云端 的能力边界不断被推高，但当智能走进真实生产场景，新的问题浮现：数据传输需要 时间 ， 敏感信息 不宜离开现场，持续调用云端模型的 成本 也并非所有企业都能承担。 当AI开始接管真实世界的任务，算力应该部署在哪里？ 这成为一个绕不开的问题。 底层硬件厂商正从更近的 “ 现场” 找解法。10月16日工博会，国内边端AI推理芯片厂商 爱芯元智 推出 AX8860系列 大算力边缘计算芯片，混合精度算力达 256TOPS ，双芯互联可支持 2840亿参数 规模的DeepSeek-V4-Flash等模型运行。 该公司还同步展出 A256S核心模组、PCIe推理卡 及 Agentic Box 等硬件形态，试图把更强的模型推理能力带到离数据和执行设备更近的地方。 256T峰值算力、原生FP4支持、273GB/s内存带宽、128GB LPDDR5X内存，以及支持多芯级联的设计……爱芯元智推出的AX8860系列的目标，是 让边缘设备承载更大规模的模型，同时兼顾功耗、部署效率和实际推理表现。 不得不说，当 边缘算力接近具备对标云端 的能力，物理AI的算力底座正在夯实。 物理AI是大方向，更准确的落点是边缘和端侧AI。爱芯元智创始人仇肖莘在采访中提到，爱芯元智定位为边缘推理芯片基座产品的 平台型企业 ，公司不止布局车载领域，还有边缘计算和终端计算两大业务，并为更前沿的机器人、智能设备等方向做技术储备。 ▲爱芯元智创始人仇肖莘 随着AX8860系列全新发布，爱芯元智已拥有面向边缘计算场景、算力覆盖十几TOPS到数百TOPS的产品平台。 一、AI抵达物理世界，边端计算不只是“部署位置” AI在云端数据中心的表现已经让数学家、物理学家和科技从业者感到惊叹。可进入真实生产场景，延迟、安全、成本三座大山横亘在AI与真实世界之间。 在10月16日的新品发布会上，仇肖莘谈到了公司布局边缘计算的初衷。对于很多工业和终端场景而言，数据上传、云端推理、结果回传，再到设备执行，整个过程不仅存在时延，也涉及数据安全和持续推理成本。 以工业产业场景为例，不同工业产线对应的模型各不相同，都属于场景定制化模型，因此模型快速部署能力至关重要；产线缺陷检测对时延要求极高，需高速识别零件缺陷并及时分流；工业现场数据不宜传出厂区，云端推理存在数据泄露风险；持续上云调用还会带来不菲的推理成本。 因此，爱芯元智提出了“现场智能”的概念。 什么叫现场智能？在事件发生的现场准确捕捉事件，根据周围环境做现场判断，根据判断指挥设备或机器做执行。现场时间、现场判断、现场执行，三者合一，才构成物理AI的完整定义。 要满足现场智能，仇肖莘总结四个关键要素：一是感知全，不止摄像头，雷达、触觉、压力等传感器都要采集环境信息；二是算得准，模型误判在工业、机器人场景下下会直接影响执行，容错远低于对话应用；三是反应快，产线、自动驾驶、机器人等场景，决策需要做到毫秒级；四是执行稳，整条决策链路要持续可靠，支撑设备长时间连续运行。 而边缘计算的意义，正是在这条“现场智能”的链路中提供靠近现场的计算能力。 这也意味着，边缘AI的价值不能只看部署位置。更重要的是，它能否在现场完成感知、推理与执行的闭环，让智能从提供建议进一步走向参与实际生产，带来经济增长。 二、AX8860系列破局：边缘算力堪比云端，不堆峰值拼效率 如果说现场智能提出了边缘计算的需求，那么AX8860系列试图回答的，就是如何用一颗芯片承载更强的边缘推理能力。 爱芯元智此次发布的AX8860系列包含AX8860P和AX8860两款芯片。按照仇肖莘的介绍，这一系列历经15个月研发，核心设计思路是同时兼顾峰值算力、内存带宽和芯片架构效率。 该芯片支持256T峰值算力，支持混合精度。在边缘计算领域，这是首批原生支持FP4计算精度的芯片之一。 FP4对大模型部署非常有利。只要对应的开源模型原生支持FP4，经过适配后，用户就可以直接在爱芯元智芯片上获得使用FP4的好处。 内存配置同样关键。AX8860内置273GB/s内存带宽，与国际领先GPU芯片带宽持平。爱芯元智经过调研认为，这一带宽与256T算力匹配度很高。单芯片原生支持128GB LPDDR5X内存容量，让支持的模型参数量上升一个数量级，可覆盖几百亿参数模型。 与此同时，AX8860系列采用6nm制程，重点强调功耗控制。根据爱芯元智在发布会上的介绍，在所有核心满负载运行的测试条件下，AX8860P的功耗约为其对比的国际领先GPU产品的45%。 仇肖莘在采访中提到，这一对比是芯片最大功耗，也就是将全部核心跑满或接近100%负载下的对比。实际业务运行场景中，芯片并不会持续工作在最高功耗水平。 她同时提到，国际领先厂商的平台采用GPG
