边缘是指在边缘设备（例如 智能手机 、 物联网 设备和 嵌入式系统 ）上实现 AI 算法 ，而不是依赖于基于云的基础设施。AI手机和AI PC等边缘AI主力应用，被视为是2024年整个 电子 供应链在云端AI以外，最有能力带动整体出货动能的关键应用。数据显示，中国生成式AI投资2022到2027年五年的复合年增长率达到86.2%。Gartner预测，到2026年，80%的全球企业将使用生成式AI，50%的全球边缘部署将包含AI。根据全球技术市场咨询 公司 ABI Research的数据显示，预计到2025年，边缘AI 芯片 市场的收入将达到122亿美元，云AI芯片市场的收入达到119亿美元。边缘AI芯片市场有望超越云AI芯片市场规模。目前，AI正在重塑全球 科技 产业，以微软、谷歌为代表的国际巨头加紧布局多模态大模型，以 英伟达 、为代表的芯片巨头主导云端AI算力芯片市场。边缘AI终端有哪些类型？国际大厂、国内芯片公司在边缘AI芯片公司有哪些旗舰 产品 ？本文进行汇总。 未来边缘AI落地产品形态，3+N成为可能 近日，在科创板开市五周年峰会上，云天励飞董事长兼CEO陈宁表示，今后，大模型的 参数 规模会越来越大，且AI能力会无线提升，直至突破通用人工 智能 （AGI）。边缘AI未来几年落地的产品形态是“3+N”，3即人形 机器人 、 无人驾驶 汽车、低空的 无人机 三大 硬件 产品形态；“N”即各类AI硬件产品，包括AI PC、AI手机、智能眼镜等。海通证券的研报显示，小模型展现性能，边缘AI芯片有望加速落地。边缘AI芯片有望搭载小模型弥补大模型的局限，尽管云端大模型在性能上全面超越小模型，但是存在三大局限，包括较高的成本、运行速度以及对互联网连接的依赖。相比之下，小模型允许用户在没有 网络 的情况下与虚拟助手进行互动，能够解决AI领域的一部分弊端。未来这类模型有望与智能手机集成，甚至内置在家电中，还有终端设备，为用户提供个性化建议。 英特尔 推出边缘AI芯片和平台，助力客户终端产品落地 近日，在北京举办的2024年英特尔网络与边缘计算行业大会上，英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Kat表示：“英特尔专注于帮助企业简化在PC、边缘和数据 中心 部署AI的复杂流程，以实现让‘AI无处不在’的愿景。英特尔具备全面广泛的芯片基础。从凌动到至强，我们推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列、面向边缘的Arc以及IPU E2100网络适配器。通过软件定义的简便性以及开放多元的生态系统，英特尔能为客户带来丰富的选择。” 以英特尔酷睿 处理器 为例，酷睿处理器不仅技术含量高，还集成了图形处理能力和AI功能。这使得每一个应用案例都能充分利用多用途处理器（MPU）的优势。酷睿产品的设计非常出色，结合了GPU和客户的需求，以及大模型应用需求等。客户可以利用和GPU，结合英特尔的OpenVINO工具套件，更容易地在平台上运行AI应用。例如，科东LLM 机械 臂控制方案基于LLM推理部署在Core Ultra平台上，同时集成了机械臂的 控制系统 ，还有伺服器驱动机械臂本体。这款方案基于科东的机器人 操作系统 和语言类大模型结合的案例，案例体现了基于AI大模型的视觉识别和运动规划的能力，AI大模型加快了开发层面的高效率，满足了 工业 场景中轻量化本地部署需求，同时做到数据不出厂。这款方案已经应用在智能工厂。此外，记者看到宝德AI数字人解决方案基于Intel至强处理器和采用Intel CPU的宝德服务器和工作站为AI算力底座，可以广泛应用于智能语音助手、网络直播、线上教育、零售等。英特尔的多款芯片把 NPU 概念下放到边缘的物联网应用上，使物联网也能在作业时有 人工智能 的功能。 发力边缘AI市场，推出第二代Versal自适应SoC 今年，继第一代VersalI AI Edge自适应SoC之后，AMD又发布了第二代Versal自适应SoC。在AMD第二代Versal自适应SoC媒体发布会上，AMD自适应与 嵌入式 计算事业部（AECG）Versal产品营销总监Manuel Uhm表示：“现在的边缘也在发生一场革命，也有越来越多的挑战，因为边缘会面临更多限制，例如功耗和尺寸。”AMD新发布的第二代Versal 自适应SoC系列为嵌入式系统带来了单芯片的智能性。两款芯片分别是面向AI驱动型嵌入式系统的第二代Versal AI Edge系列和面向经典嵌入式系统的第二代Versal Prime系列。据悉，面向通用嵌入式领域的第二代Versal Prime系列则着重于将高性能标量计算能力与灵活可 编程 逻辑相结合，着眼于视频处理、 工业控制 、软件无线电等对算力和适配性要求极高的场合。相较上一代产品，该系列的CPU性能实现多达10倍的大幅跃升，而继承自Xilinx的可编程逻辑架构则为适配不同接口和加速需求提供了充分保障。据AMD官方消息，第二代Versal系列芯片的工程样片预计最快将于2025年上半年面世，届时还将推出配套的评估板和系统级模块；而规模化量产也有望在年底实现。 意法半导体 推出第二代MPU和边缘AI套件 意法半导体（ST）推出了边缘AI加速 微处理器 ——第二代STM32 MPU。该处理器提高了工业和物联网边缘应用的性能和安全性，预计在2024上半年批量生产。7月8日，在慕尼黑上海电子展上的AIoT创新应用论坛上， 意法半导体中国区微 控制器 、数字与 射频 产品部市场经理丁晓磊分享了ST Edge AI套件的 最新 进展。ST Edge AI套件，帮助 嵌入式开发 者优化 机器学习 模型，帮助数据科学工作者在嵌入式设备上运行机器学习模型，以及帮助产品设计师和 创客 重新定义产品的重要特性。 本土芯片公司争夺边缘AI市场机会，新品加速上市 近期，两家物联网芯片公司公布上半年业绩报告，乐鑫科技2024年上半年实现营收9.2亿，同比增长37.9%，净利润1.52亿元，同比增长134.85%。除了传统的芯片产品线带来营收增长外，乐鑫科技推出的-S系列是边缘侧AI应用芯片，增加了用于加速 神经网络 计算和 信号 处理等工作的向量指令，并且已可对接OpenAI的ChatGPT或百度“文心一言”等云端AI应用。乐鑫科技表示，计算“边缘化”趋势将更多AI和计算能力赋予边缘设备，为SoC设计公司提供更多机会，但同时也提出了更高的PPA要求。晶晨股份预计2024年上半年实现净利润3.62亿，同比增长95.98%。晶晨股份在业绩预告中显示，晶晨股份基于新一代V9架构和 自主研发边缘AI能力的6nm商用芯片 已成功流片，并已获首批商用订单。上海为旌科技成立于2020年8月成立，这家公司的市场总监黄智向业界展示了最新的海山VS839系列及其在智能机器人领域的应用潜力。海山VS839系列芯片是专为AIOT和智能驾驶设计的高性能智慧视觉芯片。该系列芯片采用12纳米工艺，具备四核A55 CPU、双核和4TOPS的NPU算力。海山VS839系列支持星光全彩、 红外 热成像、3D视觉和环视摄像头等功能，能够提供专业级的图像处理效果，并支撑复杂的AI计算。7月30日，此芯科技聚焦AI PC领域，发布首款异构高能效SoC此芯P1。此芯科技创始人、CEO孙文剑表示：“此芯科技致力于以高能效算力解决方案，推动端侧AI生态发展，通过 AI技术 应用，让生活、学习、工作变得更智能、高效、人性化。”此芯P1使用6nm制造工艺，提供丰富的AI异构计算资源、全方位的安全引擎、多样化的外设 接口 以及多操作系统支持等特性。强大的多媒体引擎支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等；高性能的访存子系统配置128-bit LP5低功耗内存，容量可达6B，数据传输率可达6400Mbps、带宽可达100GB/s。 小结： 边缘AI终端市场迎来发展的热潮，但现在也面临三重挑战：一、芯片和硬件选择，企业要根据具体需求做出决定；二是部署和管理的边缘装置规模从 50 台至上万台不等，且要运行不同模型，管理上不易；三是模型迭代，企业需要花费心力进行更新。随着算力从云端向终端的转移，边缘AI设备的急速增加给芯片厂商带来市场增长机会。哪些芯片厂商能抓住AI PC、智慧工厂、智慧城市、 自动驾驶 领域等细分市场的增长机会，我们将拭目以待。
© 版权声明