板端实录
板端 Web Demo 的屏幕录制，录制设备：Qualcomm QCS8550。
能力亮点
文字与图片
可以只输入背景文字，也可以添加 JPEG 或 PNG 图片，完成场景理解、物体判断和图表问答。
多问题一起处理
一次 SDK 请求可共同处理多个问题，同一份背景和图片无需反复提交。
三种决策形式
支持候选项选择、是非判断和有序等级评分，结果可直接接入业务流程。
看得见的选项概率
比较预设候选项的概率，突出最可能的答案；不生成开放式长文本。
端侧运行
基于 Qualcomm 芯片在设备本地运行，无需连接云端推理服务。
从演示到集成
提供场景、物体、图表和客服工单四种演示模板，并支持 C API 与 Python 绑定。
处理流程
从输入到输出，每一步跑在哪里。
- 01Browser
输入与问题
填写背景文字、可选图片，以及各问题的候选项
- 02CPU
输入预处理
图片解码、文本分词与请求组装
- 03NPU
图文编码
在板端完成视觉编码与语言模型推理
- 04CPU
候选项评分
计算选项概率，整理多选、是非或评分结果
- 05Browser
结果呈现
展示结构化答案、选项概率与推理耗时
支持硬件
Qualcomm QCS8550已支持
Qualcomm QCS8625已支持
Qualcomm Dragonwing IQ8已支持
Qualcomm Dragonwing IQ9已支持
- 核心模型参数
- 约 9B
- 模型文件
- 6.50 GB
- 许可证
- Pandora 许可协议