如意AI PC－基于RISC-V架构的DeepSeek智能工作站

1. 成果简介

如意 AI PC 是基于高性能的64核玄铁C920的RISC-V硬件平台，同时集成面向AI推理的国产智算卡，可以适配开源端侧大模型能力和市场上主流AI算法，构建企业/个人智能工作站。

核心特点：

（1）国产操作系统

如意OS（基于openEuler）发行版。

（2）全栈开源开放

搭载64核RISC-V CPU，开放芯片架构、开源操作系统、开源AI框架，支持多场景定制。

（3）TPU算力卡

支持多种主流国产算力卡（如：SOPHGO SC7-HP75，峰值算力 48 TFLOPS FP16/BF16）支持混合精度计算。

（4）主流AI模型支持

DeepSeekR1 1.5B/7B/32B，Llama2 7B, Qwen2.5 1.5B/7B/32B，LLaVA CV、Yolov5, Stable Diffusion、CosyVoice等。

DeepSeek代码生成应用如下图所示。

Stable Diffusion多模态应用、文生图应用如下图所示。

图片对象消除应用如下图所示。

（5）安全可靠

端侧运行大模型，数据不上云，保证隐私安全。

（6）丰富的AI应用

基于本地大模型、本地向量数据库驱动的知识库问答助手；AI编程助手；支持智能系统设置、智能文件检索的AI系统助手；AI语音问答助手等。AI应用如下图所示。

2. 技术创新点

如意AIPC的主要技术创新点体现在三个层面：

（1）AI大模型在基于RISC-V的架构上的本地运行，完成pytorch、transformers等开源框架的适配。

（2）基于 MLIR 工具完成对LLM和CV模型的编译，提升了在特定硬件（算力卡）上的推理效率。

（3）通用AI系统助手实现对操作系统、应用的融合，用户通过简单的自然语言即可实现PC端的复杂操作，重塑传统PC的使用方式。

3. 技术成熟度

如意AIPC目前处于小试阶段（实验室验证）。项目团队通过与RISC-V芯片和硬件合作伙伴协作，已完成基本功能验证。目前正在支持更丰富、更大参数的模型，例如 DeepSeekR1 32B、QwQ 32B、FunASR等；提供更丰富的AI应用，包括AI端侧集成软件、Agent编排工具等；开发更智能的通用AI助手，借助思维链赋予其拆解任务的能力。随着RISC-V高性能芯片能力的提升，结合场景和行业，将形成丰富的落地案例。

4. 可应用领域

如意AIPC可应用在如下领域：

（1）教育教学：智能备课，个性化学习

（2）金融保险：自动生成精准方案，服务质量评估

（3）软件开发：代码生成，优化建议

（4）办公协作：智能文档处理，智能会议辅助

（5）医疗健康：辅助影像诊断，智能健康管理

（6）工业制造：缺陷识别，故障预测

5. 联系人

张庆秋，zhangqingqiu@iscas.ac.cn，13810092855