電子元器件行業(yè)：AI大語言模型小型化打破智能終端性能冗余窘境

電子元器件 2023-05-11 16:59

本報告導讀：

WWDC 大會臨近，軟硬件將迎重大更新或發(fā)布。MR新產品發(fā)布在即，供應鏈啟動備貨。人工智能潛力很大，已整合進多款產品和服務。

摘要：

谷歌PaLM2 全面進化，“大語言模型的小型化”迎重大突破。在谷歌I/O 2023 大會上，推出PaLM 2，改進了數(shù)學、代碼、推理、多語言翻譯和自然語言生成能力。PaLM 2 包含了4 個不同參數(shù)的模型，包括壁虎（Gecko）、水獺（Otter）、野牛（Bison）和獨角獸（Unicorn），并在特定領域的數(shù)據(jù)上進行了微調，為企業(yè)客戶執(zhí)行某些任務。其中，PaLM 2 最輕量版本Gecko 小到可以在手機上運行，每秒可以處理20個token，大約每秒16 或17 個單詞，“大語言模型的小型化”迎重大突破。

小型化模型將打破智能終端性能冗余窘境，終端接口的硬件性能將迎大升級。目前，以手機為代表的智能終端性能冗余，算力需求基本滿足目前應用需求場景，導致終端消費者換機動力不足，全球手機總銷量下滑明顯。而AI 大語言模型的小型化發(fā)展，將帶來智能終端的再升級。在手機、智能家居、機器人等終端應用上內嵌部署AI 模型，將迎來終端的核心架構的變化，終端推理計算能力要求將大升級，對應存儲、傳輸、執(zhí)行、感知等硬件需求也將同步升級。

“云端大模型+終端小模型”， AI 發(fā)展助推云管端硬件迭代。以OpenAI 為代表的大模型主要在云端進行訓練與推理，終端主要負責輸入與輸出的接口，對終端的形態(tài)變化改變較小。以PaLM 2 Gecko為代表的大模型可在手機端進行推理運算，可在本地運行，將帶來“個性化”與”私密性“上重大提升。離線的、永遠在線的、個性化的、私密安全的LLM 將降低服務成本、加速AI 商業(yè)化滲透，相應終端硬件將大幅受益。推薦智能終端產業(yè)鏈，包括蘋果MR、手機品牌、智能家居等方向。重點推薦品牌與終端算力芯片相關標的，包括立訊精密、兆威機電、瑞芯微，相關受益標的樂鑫科技、傳音控股等。

催化劑。AI 終端發(fā)布會。爆款應用推出。

風險提示。AI 產業(yè)發(fā)展不及預期；AI 終端滲透不及預期。

知前沿，問智研。智研咨詢是中國一流產業(yè)咨詢機構，十數(shù)年持續(xù)深耕產業(yè)研究領域，提供深度產業(yè)研究報告、商業(yè)計劃書、可行性研究報告及定制服務等一站式產業(yè)咨詢服務。專業(yè)的角度、品質化的服務、敏銳的市場洞察力，專注于提供完善的產業(yè)解決方案，為您的投資決策賦能。

轉自國泰君安證券股份有限公司研究員：王聰/舒迪