新電子科技雜誌 06月號/2024 第459期
0 則劃線
0 篇書評

新電子科技雜誌 06月號/2024 第459期

2 人評分
  • 出版日期: 2024/06/03
  • 語言:繁體中文
  • 檔案大小:16.3MB
  • 商品格式:固定版面 EPUB
  • 頁數: 116
紙本書定價:NT$ 200
電子書售價:NT$ 180
可購買品項 售價
電子書 NT$180
新電子(12期+2期) NT$1680
新電子(3期) NT$450
本書為固定版面 EPUB,建議您使用 mooInk Pro 系列、平板及電腦閱讀。
出版社不提供本書朗讀功能
成功訂閱後,將由下一期新刊開始派送。訂閱不與站上其他優惠併用。

購買領書額度

邊緣GAI成真
生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,然而在邊緣端導入生成式AI技術,需要克服硬體效能、模型參數量及功耗帶來的挑戰。大型AI模型的訓練與推論仰賴大量的參數,以得出精準的結果。然而終端裝置的記憶體容量、處理器效能及能源有限。因此針對生成式AI在邊緣端應用的處理器設計,必須考量產品在效能、可處理的參數量及功耗方面,如何取得最佳平衡。

詳細資訊

邊緣GAI成真
生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,然而在邊緣端導入生成式AI技術,需要克服硬體效能、模型參數量及功耗帶來的挑戰。大型AI模型的訓練與推論仰賴大量的參數,以得出精準的結果。然而終端裝置的記憶體容量、處理器效能及能源有限。因此針對生成式AI在邊緣端應用的處理器設計,必須考量產品在效能、可處理的參數量及功耗方面,如何取得最佳平衡。

面對快速成長的邊緣AI應用市場,廠商推出的AI加速器、異質運算平台或MCU解決方案,持續為生成式AI走向終端鋪路。在終端設備資源有限的前提下,LLM需要透過量化(Quantization)等方式壓縮模型,並且確保推論維持一定的精準度。同時處理器廠商在CPU中導入AI引擎,也透過整合CPU、GPU與神經處理單元(NPU),提高AI裝置的效能,並且降低功耗。AI PC與AI手機陸續問世,也受到市場高度關注。

目錄列表

購買說明

根據台灣現行法規,數位內容( 如電子書、音樂、影片、遊戲、App )形式之商品,不受「網購服務需提供七日鑑賞期」的限制。為維護您的權益,建議您先使用「試讀」功能後再付款購買。

試讀