赋创FR50 AI BOX：320 TOPS边缘大模型部署与模型适配指南

随着大模型从云端调用逐步进入会议室、企业内网、生产现场和机器人系统， 部署问题也从“模型能做什么”转向“模型能否在本地稳定运行、数据是否能够留在本地、 设备如何接入现有业务”。FR50D 的产品定位，就是在传统 GPU 服务器与普通桌面设备之间， 提供一套更适合边缘端、桌面端和固定业务现场使用的本地 AI 算力载体。

FR50D 是什么？

FR50D 是赋创面向边缘端与桌面端 AI 应用推出的 AI BOX。 产品采用 RK3588 高性能 SoC 与 LQ50（Duo）AI 加速模块组成的协同架构， 最高提供 320 TOPS@INT8 理论物理算力， 支持 Ubuntu、本地存储、双千兆网络和多种外设接口，可承载 LLM、VLM、 本地 RAG 知识库以及机器人上层语义推理等服务。

FR50D 的重点不是替代数据中心训练集群，而是把适合现场完成的识别、检索、理解和生成任务， 部署到更靠近数据和设备的位置。模型版本、量化方式、上下文长度、并发目标和业务链路确定后， 再据此匹配相应的运行配置。

FR50D 主要解决什么部署问题？

云端或中心集群更适合大规模训练、高并发服务和超大模型推理；会议录音、内部文档、 生产图片、设备状态和机器人传感数据，则往往产生在具体业务现场。 将其中适合本地处理的推理环节放到边缘节点，可以让数据路径、网络链路和设备接口更贴近现有系统。

部署需求	FR50D 的对应能力
模型本地运行	支持 LLM / VLM、本地 RAG 与多模态推理，可在本地完成主要推理任务。
数据留在本地	模型与业务数据可在本地网络和设备环境中处理，减少不必要的数据外传环节。
推理靠近数据源	会议终端、摄像头、机器人上位机和内网系统可就近调用模型服务。
固定场景长期部署	紧凑整机设计与主动散热，适合作为独立 AI 节点部署。
现有系统接入	提供网络、USB、显示与本地存储接口，可参与完整业务链路而非孤立运行。

FR50D 采用什么架构？

FR50D 采用 RK3588 SoC 与 LQ50（Duo）AI 算力模块协同工作的架构， 系统运行、业务接入与模型推理由不同组件分工完成。

系统层级	主要组件	承担任务	部署价值
主控与系统	RK3588	Ubuntu、应用调度、多媒体处理、网络、显示和外设连接	承接业务程序与设备接入
AI 推理	LQ50（Duo）/ 2×M50	LLM、VLM 等模型的神经网络推理	最高 320 TOPS@INT8
系统内存	LPDDR5 16GB，32GB 可选	操作系统、业务服务、数据预处理与缓存	支撑本地服务运行
本地存储	128GB eMMC + M.2 2280 SSD 扩展	系统、模型文件、向量库与业务数据	便于本地部署与扩容

RK3588 集成 CPU、GPU、多媒体编解码与多种高速接口，用于系统和业务层处理； LQ50 Duo M.2 集成两颗 M50 芯片，承担主要 AI 推理任务。 两部分协同完成系统运行、数据处理、应用接入与模型推理。

FR50D 主要规格

项目	FR50D 说明
产品形态	AI BOX / 边缘 AI 算力一体机
产品定位	边缘端与桌面端本地 AI 部署
核心架构	RK3588 SoC + LQ50（Duo）AI 加速模块
AI 算力	最高 320 TOPS@INT8
系统内存	LPDDR5 16GB，32GB 可选
操作系统	Ubuntu
系统存储	128GB eMMC 5.1，支持 M.2 SSD 2280 扩展
网络	2 × RJ45 千兆以太网，Wi‑Fi 5 + Bluetooth
视频输出	1 × HDMI 1.4，1 × DP 1.4
USB	4 × USB 3.0 Type‑A
机身尺寸	152 × 152 × 45.8 mm
散热与供电	主动散热；19V 直流输入，建议 90W 以上电源
工作温度	-10℃ 至 +45℃

320 TOPS 应该怎样理解？

320 TOPS 表示 LQ50（Duo）在 INT8 数据类型下的理论物理运算能力， 用于描述特定精度下的硬件计算规模。跨平台比较时，应统一数据精度和测试口径， 不能把 INT8 TOPS 与 GPU 的 FP16、BF16 或 FP8 数值直接并列。

对于大模型部署，算力只是运行配置的一部分，还需要同时考虑：

• 稠密模型或 MoE 模型，以及每个 Token 实际激活的参数规模；
• 权重格式、量化精度与可接受的模型效果变化；
• 模型权重、运行缓存和 KV Cache 对内存容量与带宽的需求；
• 平均与峰值上下文长度、输出长度和并发目标；
• 模型解析、量化、编译、运行时与算子适配；
• ASR、OCR、图像解码、向量检索、重排和业务接口产生的端到端开销。

FR50D 当前模型适配与验证情况

FR50D 面向大语言模型（LLM）与多模态视觉语言模型（VLM）的本地部署， 可用于文本生成、知识问答、图文理解、智能交互等推理任务。

在近期工程测试中，FR50D 已运行 Qwen3.6-35B、Qwen3.8-27B 以及部分 Qwen3.6-27B 量化模型，并完成模型加载、推理和接口联调。 这些测试说明 FR50D 的应用范围并不只局限于小参数模型，也可以覆盖部分对推理能力要求更高的本地 AI 应用。

FR50D 适合哪些本地 AI 场景？

1. 本地大模型推理与桌面 AI

对需要在本地运行 Qwen 等大模型的团队，FR50D 可作为独立 AI 推理设备， 用于知识问答、文本生成、代码辅助、文档处理、Agent 前端推理等应用。 相比完全依赖云端 API，本地部署可以让模型调用链路和业务数据保留在本地环境中。

2. 企业知识库与 RAG

FR50D 可结合本地文档、Embedding、向量数据库、重排和大模型构建 RAG 知识库， 用于制度查询、技术资料检索、内部问答和设备手册查询等场景。 对数据不便上传云端的业务，本地知识库便于与企业内网、权限系统和业务数据源结合。

3. 智能办公与会议

在办公和会议环境中，FR50D 可承载语音转录、内容摘要、文档问答和多模态交互等 AI 应用。 对需要固定部署、长期运行的会议室或办公终端，AI BOX 形态更便于独立部署与运维。

4. 工业知识检索与视觉辅助

设备手册、维修记录、工单和现场图片可以形成面向一线人员的本地知识入口。 FR50D 可运行 RAG 和 VLM 相关推理服务，用于资料检索、信息提取和图像辅助分析， 并结合目标算法、摄像头配置和响应周期完成场景调优。

5. 机器人与具身智能上层推理

FR50D 可作为机器人系统中的语义理解和多模态推理节点， 处理自然语言指令、图像理解、知识检索和任务编排。 运动控制、功能安全、硬实时避障和底层 SLAM 仍由相应控制器或计算平台承担， 两类节点通过系统集成协同工作。

6. 政企内网与本地文档处理

在强调数据本地处理的内网环境中，可将文档分类、要素提取、知识问答和流程辅助部署到本地， 同时结合数据权限、日志审计、模型更新和结果复核机制进行管理。

如何判断 FR50D 是否适合自己的项目？

项目需求	建议判断
本地推理、边缘部署、内部知识库、多模态应用、固定场景 AI 应用	适合优先评估 FR50D AI BOX 方案。
单点或有限并发服务，强调设备侧集成和数据本地处理	FR50D 更容易进入业务现场，可作为独立推理节点部署。
全参数训练、大规模多用户并发、超长上下文或超大模型多卡推理	更适合使用中心侧 GPU 服务器或算力集群。
中心训练 + 现场推理	可采用 GPU 服务器与 FR50D 组成中心—边缘协同架构。

FR50D 与 GPU 服务器并不是替代关系，而是面向不同部署层级的算力产品。 在项目立项前，建议先确认目标模型、量化方式、上下文长度、并发目标、外部设备接口和业务链路， 再判断采用单机 AI BOX、中心服务器，还是中心—边缘协同方案。

部署前需要确认哪些信息？

配置项	需要确认的内容
目标模型与版本	完整模型名称、版本，以及稠密或 MoE 结构。
权重精度与量化	权重格式、量化方案、模型效果要求和运行资源需求。
上下文与并发	平均/峰值输入长度、输出长度、并发用户和响应时间。
外部设备与协议	摄像头、麦克风、显示器、机器人控制器、局域网和接口协议。
业务链路服务	ASR、OCR、Embedding、向量检索、重排、数据库和业务接口。
部署环境	空间、供电、温度、散热、连续运行时间和维护方式。

FR50D 如何进入完整业务系统？

FR50D 既是一体化硬件平台，也可以与模型、知识库、业务接口和外部设备形成完整应用链路。 模型经过选择、量化、编译和部署后，可进一步接入本地知识库、业务系统和现场设备。

项目实施时，可根据目标模型和业务数据配置软件版本、资源分配和服务编排方式； 对响应速度、模型效果、上下文、并发和外设联动等关键指标， 可以通过 PoC 与容量测试完成参数校准。

方案咨询

需要把方案落到实际配置？

联系赋创获取算力、软件栈和交付路径建议。

咨询方案浏览指南