充分利用端侧硬件，优化模型结构与算子，让推理速度大幅提升

可以让数据不出设备，可以更好地满足合规和安全要求

支持多种操作系统及硬件架构，减少对用户的环境限制

提供多种大模型与算法插件，或提供API与SDK，方便二次开发。