作者：翁毓嵐

推進Edge邊緣端AI工具普及化，品牌廠華碩與聚焦Edge AI晶片新創業者Hailo合作、推出首款AI USB裝置ASUS UGen300 USB AI加速器，搭載Hailo-10H AI處理器、Micro 8GB LPDDR4記憶體，具備40 TOPS的AI算力加速效能，透過USB-C與Edge端的裝置如PC、智慧型手機連接，即能隨時進行地端AI應用。

華碩目前還未釋出ASUS UGen300 USB AI加速器在各市場的售價，不過業界預估，UGen300的價位僅將落在四位數，比起能提供數百TOPS的外接GPU加速器或eGPU的加購成本相對親民。

40 TOPS已相當基本的Copilot+ AI，足以因應一般使用者對於文字生成、影音摘要、即時資料分析處理與AI工作流程等AI應用工具，將推助AI應用部署在裝置端的普及化。

同時針對更廣泛的Edge AI應用端，UGen300可藉由UGen Utility線上工具存取超過100個預訓練AI模型，快速於智慧AI監控、即時事件／異常偵測及分析、智慧交通、智慧醫療等各種應用場域的Edge地端進行AI開發、部署與運行AI工作負載。

華碩為目前OEM廠中，率先推出有別於eGPU、外接GPU之AI加速器的隨插即用AI USB裝置業者。該款僅11cm不到的AI SUB裝置，能跨平台支緩Windows、Linux與Android等系統，可無縫整合現有系統架構，同時確保與包括TensorFlow、PyTorch與ONNX等主流AI開發框架相容性。

UGen300以其配置的Hailo-10H AI處理器與內建記憶體，不需依賴雲端運算，就能直接在連結的裝黰上執行LLM、VLM、Whisper等大型語言模型推論，同時也能減少對主機CPU及記憶體的依賴，而其低功耗的設計也僅需2.5瓦電力。

Hailo-10H對Android系統的支援已在B2B的用戶端推展，至於針對支援Windows系統的驅動程式，則預計於今年5月中旬推出。

来源：中時新聞網