IC設計大廠聯發科技(2454)24日宣布,將運用Meta(臉書母公司)最新世代大型語言模型Llama 2,結合聯發科最先進的人工智慧處理單元(APU)和自行開發的AI開發平台(NeuroPilot),建立完整的終端運算生態系統,預計在今年年底推出最新一代的旗艦晶片組。
聯發科技無線通訊事業部總經理徐敬全表示,生成式AI的浪潮是數位轉型的重要趨勢之一,透過與Meta的夥伴關係,聯發科可提供更強大的硬體和軟體整體解決方案,賦予終端裝置更勝以往的強大AI效能。
聯發科指出,目前大多數的生成式AI處理,皆須透過雲端運算進行。為加快未來運算趨勢,聯發科將生成式AI直接部署在終端裝置,開發者及使用者能直接在裝置上使用Llama 2模型,藉此提升性能、加強隱私保護、提高安全性及可靠性、降低延遲。
徐敬全強調,終端生成式AI裝置,帶來更多令人振奮的人工智慧創新機會和產品體驗。而能夠離線運算,擁有節省成本的多項優勢,將生成式AI普及至每個人。
聯發科將於今年年底推出最新一代的旗艦晶片組,採用針對Llama 2模型而優化的軟體堆疊架構(NeuroPilot),進一步強化大型語言模型和生成式AI的性能,加速終端應用的普及發展。