Buddy Compiler AI 编译器

1. 成果简介

Buddy Compiler 是端到端的 AI 编译器框架，致力于打造基于 MLIR 和 RISC-V 的软硬件协同设计生态系统。项目的整体目标是打通从领域特定编程语言（DSL）到领域特定硬件架构（DSA）的完整编译流程与协同设计路径。

在当前产业环境中，DSL 到 DSA 的软硬件协同设计普遍面临缺乏完善编译基础设施的挑战。Buddy Compiler 针对 AI 时代定制化软硬件系统的需求与痛点，提供完善的协同设计编译基础设施。作为端到端的编译器系统，Buddy Compiler 基于 MLIR 扩展了图像语音、动态向量、脉动阵列等多种定制中间表示；在 AI 框架方面对接 PyTorch；在硬件后端方面为 RISC-V 硬件生态提供了的支持与优化。

总体而言，Buddy Compiler 提供了完善的编译基础设施，整个系统可以充分发挥 MLIR 的多层级中间表示抽象能力和 RISC-V 的硬件指令可扩展特性，促进深度的软硬件协同设计，进而赋能 AI 计算的定制化与生态化。

2. 技术创新点

Buddy Compiler 的主要技术创新点体现在三个层面。

（1）在图级别基础设施方面，Buddy Compiler 实现了与 PyTorch 编译框架的对接，并且为设计和开发新的领域特定编程语言提供了基础支持；

（2）在中间表示级别，Buddy Compiler 在图像语音、动态向量、脉动阵列方面基于 MLIR 架构进行扩展，实现了领域特定应用和硬件加速器的高效对接与优化；

（3）在编译器后端方面，Buddy Compiler 支持多种硬件架构的代码生成能力，尤其对 RISC-V 标准扩展及其自定义硬件加速架构（如 RISC-V Vector 扩展、RISC-V Gemmini 硬件加速器）提供了特定的支持，提升了 AI 计算在多样化硬件上的执行效率。

3. 技术成熟度

Buddy Compiler 目前处于小试阶段（实验室验证），采用开源社区方式运营。项目团队通过与硬件合作伙伴协作，在实际应用场景验证基础设施的完备性，并根据应用需求持续迭代优化整个端到端编译流程与工具链，确保系统的实用性与性能表现。

4. 可应用领域

该成果可应用于以下领域。

（1）AI 模型部署：可对符合 PyTorch 数据类型标准的 AI 模型进行端到端编译执行，例如 DeepSeek、Llama、Whisper、Stable Diffusion、Bert、ResNet、MobileNet 等。

（2）软硬件协同设计：可对 RISC-V 标准扩展和自定义扩展进行对接，将AI计算负载针对特定硬件进行高性能代码生成。

5. 联系人

张洪滨，hongbin2019@iscas.ac.cn，18610719895