近日，地平線成功在旭日3中的BPU®️計算單元上，部署運行參數規模高達14億的大語言模型(Large Language Model , LLM)。這不僅是業界在端側成功部署大模型的一次突破性實踐，更驗證了BPU®️對先進神經網絡算法的高效支持，為大模型在端側實現產品級應用拓展了更廣闊的想象空間。

　　大模型端側部署的技術實踐對加速智能化產業變革具有重要意義。端側部署具備實時性、低時延優勢，能夠靈活支持弱網或無網等豐富場景，為終端用戶提供更流暢、穩定的交互體驗;同時端側支持信息本地化處理，可有效保護用戶數據與隱私安全;端側計算還將大幅緩解云端算力壓力，端云協同更會驅動產業降本提效，加速實現大模型技術的應用普惠。