11月13日消息，芯原股份（VeriSilicon）宣布与谷歌联合推出面向始终在线、超低能耗端侧大语言模型应用的Coral NPU IP。

该IP基于谷歌在开放机器学习编译器方面的基础研究成果，并结合AI的安全特性进行了强化，为开发者提供统一的开源技术平台，以构建强大的边缘AI生态系统。

据悉，Coral NPU基于RISC-V开放指令集架构标准构建，引入原生张量处理能力，支持主流机器学习框架，如JAX、PyTorch和TensorFlow  Lite (TFLite)，并采用基于开放标准的工具，例如来自低级虚拟机 (LLVM) 项目的多级中间表示  (MLIR)，作为编译器基础设施。其设计面向始终在线、超低能耗的边缘AI应用，尤其适用于可穿戴设备和泛在感知系统。

目前，芯原正在开发基于Coral NPU IP的验证芯片，面向AI/AR眼镜与智能家居等应用，以加速大语言模型在边缘端的部署。

（JSSIA整理）