端侧 AI 基础设施 · MasterAgent

端侧智能,
从此不同

OpenSparX 为每一台终端设备提供原生 AI 基础设施,让智能发生在设备本地。

原生适配高通 NPU · Android / QNX 双系统
SA8397
320 TOPS · NPU
<50ms 推理延迟
85%+ NPU 利用率
100% 离线可用
向下滚动
合作伙伴
01 — 洞察

为什么是端侧 NPU Agent?

当 Agent 从云端走向端侧,一切都在被重新定义。

x86 云端 Agent
数据中心部署
端侧 NPU Agent
MasterAgent · 原生端侧
部署位置
远程服务器
设备本地 NPU
数据隐私
数据上云,依赖传输加密
数据不出设备,端侧闭环
响应延迟
300ms – 2s,受网络影响
<100ms,确定性低时延
网络依赖
强依赖,离线不可用
完全离线,断网仍运行
安全等级
通用安全,共享算力
Safety Agent P0 级独立保障
02 — 产品

MasterAgent

为端侧设备量身打造的 Agent 操作系统,原生适配高通 SA8397 / SA8295 NPU,
在 Android / QNX 双系统环境下实现完整的感知—决策—执行闭环。

01

安全优先

Safety Agent 独立 P0 优先级,安全场景确定性处理,避免大模型幻觉带来的风险。

02

低时延处理

快路径 80% 请求 <100ms,端侧 NPU 原生加速,保证交互实时性与操控确定性。

03

确定性保障

安全场景规则优先、模型兜底,分层决策确保关键指令可预期、可验证、可追溯。

04

可扩展架构

子 Agent、Skill、Prompt 均支持配置化扩展,按需组合,快速适配新场景与新设备。

05

端侧优先

数据不出设备,离线可用。端云协同只在必要时启用,隐私与性能同时兼得。

03 — 架构

五层技术架构

从感知到执行,全链路端侧原生设计。

L1 交互接入层
语音 ASR 视觉感知 DMS/OMS/ADAS 规则触发
L2 核心编排控制层 Agent Service
全链路主调度器
L3 能力引擎层
意图识别 预处理 Memory 情感 Skill Prompt 推理框架 LoRA
L4 任务执行层
任务编排 Agent 调度 子 Agent 原子服务
L5 基础设施层
KV Cache 数据 / 日志 异常管理
04 — 核心技术

七大核心特性

围绕端侧 NPU 环境深度优化的关键技术。

分层意图识别

规则匹配 → BGE 推理 → 大模型推理,三级逐级上升,兼顾速度与准确性。

端侧 KV Cache 优化

推理缓存复用、前缀匹配,大幅降低重复计算,提升端侧推理吞吐。

记忆管理系统

短期 / 长期 / 显式 / 隐式 / 端云协同,五层记忆体系让 Agent 越用越懂你。

多 Agent 协同调度

P0 Safety / P1 舱驾融合 / P2 哨兵&迎宾,分级调度确保资源优先分配。

情感感知 + 个性化 LoRA

情绪识别 + 千人千面,低秩适配让每个用户都有专属的交互风格。

多模态统一感知

语音 / 视觉 / 车辆 / 环境 / 历史,五维融合构建完整的情境理解能力。

情境智能引擎

理解「在什么情境下需要什么」,让 Agent 从被动响应走向主动预判。融合时空、身份、状态与历史行为,在恰当的时机提供恰当的服务。

05 — 性能

端侧性能实测

在高通 SA8397 平台上的真实运行数据。

<50 ms
快路径延迟
80% 请求 <100ms
85 %+
NPU 利用率
算子深度优化
<2 GB
内存占用
极致轻量化
100 %
离线可用
断网仍运行
开发者体验 · DEVELOPER EXPERIENCE

5 分钟,跑通第一个端侧 Agent

极致简洁的开发体验,从安装到运行一气呵成

terminal — masteragent
$ npm install -g @masteragent/cli
added 186 packages in 4.2s

$ ma init my-first-agent --template hello-world
 Project created at ./my-first-agent
 Template hello-world installed
 Dependencies resolved

$ cd my-first-agent && ma run
MasterAgent Core v1.0.0
 Agent "hello" is running on NPU 0
 Latency: 32 ms (fast path)
 Memory: 1.2 GB / 2 GB limit
weather-skill.ts — Skill SDK
import { Skill, Trigger, Action } from '@masteragent/skill-sdk';

@Skill({
  name: 'weather',
  version: '1.0.0'
})
export class WeatherSkill {

  @Trigger({
    pattern: '今天.*天气',
    priority: 'normal'
  })
  async queryWeather(context: Context): Promise<Action> {
    const city = context.extract('city')
      || context.user.preferences.defaultCity;
    const weather = await fetchWeather(city);
    return Action.speak(
      `今天${city}的天气是${weather.description}`
    );
  }
}
06 — 首发场景

智能座舱

首个落地场景,已量产验证。基于高通 SA8397 座舱芯片,
在 Android + QNX 双系统环境下实现舱驾融合的端侧 Agent 体验。

芯片平台
高通 SA8397
AI 算力
320 TOPS
操作系统
Android + QNX
状态
已量产验证
端侧 NPU 芯片架构可视化
07 — 泛化

不止于座舱

MasterAgent 的端侧架构,同样适用于更多边缘智能场景。

智能家居

本地中控 + 设备联动,家庭数据不出门,隐私安全的全屋智能体验。

工业边缘

产线巡检、设备预测性维护,低时延 + 高可靠,应对复杂工业环境。

服务机器人

多模态感知 + 任务规划 + 人机交互一体化,打造真正智能的服务机器人。

客户案例 · CUSTOMER STORIES

被行业领导者信赖

从量产落地到战略合作,MasterAgent 正在定义端侧智能的标准

智能座舱 · 已量产

智能座舱 Agent 量产落地

为极氪车型提供端侧 Agent 操作系统,实现语音车控、舱驾融合、主动关怀等全链路智能座舱体验。基于高通 SA8397 NPU 原生适配,在 Android/QNX 双系统环境下稳定运行。

<50ms 推理延迟
100% 离线可用
Qwen3/3.5 VL 端侧模型
战略合作 · 端侧智能

端侧智能战略合作

与大众集团达成端侧智能战略合作,MasterAgent 作为其下一代智能座舱的 Agent 基础设施,提供从意图识别到任务执行的完整闭环能力,支持多模态交互与个性化服务。

全栈 Agent 基础设施
多模态 交互体验
品牌特色智能体 定制服务
底层技术支撑 · 高通 SA8397 / SA8295 NPU 原生适配 · Android + QNX 双系统 · 端侧推理延迟 < 50ms · NPU 利用率 85%+
09 — 开源

开源战略

以开源为基石,构建端侧 Agent 生态。

开源

MasterAgent Core

Apache License 2.0

核心框架与基础能力完全开源,社区自由使用、修改与分发。

  • Agent 编排核心
  • 基础 Skill 框架
  • 记忆管理模块
  • 推理引擎适配层
  • 高通 NPU 基础支持
查看 GitHub
10 — 工具链
开发工具链 · DEVELOPER TOOLCHAIN

端侧 Agent 全链路开发工具链

从模型量化到场景编排,赋能端侧智能的每一环

SparQuant / SparForge 与 MasterAgent 深度集成,开箱即用

SparQuant

模型量化压缩工具链

专为端侧设备设计的模型量化压缩工具链,支持 INT8/INT4 量化、知识蒸馏、结构化剪枝,让大模型在端侧 NPU 上高效运行,推理延迟降低 50%+。

  • INT8/INT4 量化
  • 知识蒸馏
  • 结构化剪枝
  • 高通 NPU 适配
了解 SparQuant
SparForge

Agent 场景编排工具链

可视化 Agent 场景编排工具链,支持拖拽式场景设计、多 Agent 协同编排、技能库管理,让开发者快速构建复杂的端侧智能场景。

  • 可视化编排
  • 多 Agent 协同
  • 技能库管理
  • 场景模板
了解 SparForge
10 — 动态

技术动态

来自 OpenSparX 团队的工程实践与技术思考。

2026.07.15 技术深度

在高通 SA8397 上实现 <50ms 的端侧 Agent 推理

从 KV Cache 优化到算子融合,详解我们如何在车规级 NPU 上实现确定性低时延推理。

阅读全文
2026.06.28 架构设计

分层意图识别:在端侧平衡速度与准确性

规则匹配、向量检索与大模型推理三级逐级上升的架构设计思路与落地经验。

阅读全文
2026.06.10 产品发布

MasterAgent Core 正式开源,Apache 2.0

我们将端侧 Agent 操作系统的核心框架回馈社区,欢迎开发者参与共建。

阅读全文
11 — 关于

关于 OpenSparX

OpenSparX 专注于端侧人工智能基础设施与智能体平台。我们相信,下一代智能不应该只存在于云端的数据中心, 而应该原生地运行在每一台设备上——实时、安全、隐私、可靠。

MasterAgent 是我们的答案:一个从底层为端侧 NPU 设计的 Agent 操作系统,让开发者在任何端侧设备上, 都能构建属于自己的智能体系统。

加入我们

和我们一起,定义端侧智能的未来。

端侧 AI 引擎工程师 上海
Agent 系统架构师 上海 / 远程
多模态算法工程师 上海
查看全部职位

在任何端侧设备上,创造你的 Agent 系统

从一行代码开始,或直接联系我们的团队。