邊緣 AI 的新紀元

隨著生成式 AI (Gen-AI) 的爆發，將運算重心從雲端遷移至設備末端（Edge）已成為提升隱私與即時性的核心趨勢。 MediaTek 除原有 Genio 產品外，也再於 2025 年推出 Genio 720 與 Genio 520，標誌著邊緣 AI 物聯網平台進入新世代，專為支援複雜的大型語言模型 (LLM)、先進人機介面 (HMI) 及多媒體應用而設計。
這些晶片採用先進的 6nm 製程，具備卓越的功耗管理能力，使其能在無風扇環境、電池供電設備或離網環境中穩定運行。

 

硬體架構核心：第八代 NPU 與 LPDDR5 支援

Genio 720 與 520 的效能核心在於其整合的第八代 MediaTek 神經處理單元 (NPU)：
• 強大算力：提供高達 10 TOPS 的 AI 處理效能。
• 硬體加速：為 Transformer 結構與卷積神經網絡 (CNN) 模型提供完整硬體加速，實現設備端生成式 AI。
• 記憶體革新：最高支援 16GB LPDDR5 記憶體，為運行數據密集型的邊緣優化大型語言模型 (LLM)（如 Llama、Gemini、Phi、DeepSeek）提供關鍵的高速數據通道。

 

軟體賦能：NeuroPilot 與 NVIDIA TAO 整合

硬體的力量需透過優質軟體釋放。 MediaTek 提供 NeuroPilot 開發環境，具備「一次編寫，處處運行」的優勢：
• NeuroPilot 8：協助開發者將現有軟體快速部署至新設計中，利用異質運算架構優化推理速度。
• NVIDIA TAO 整合：開發者可利用 NVIDIA TAO Toolkit 的預訓練模型，透過轉移學習 (Transfer Learning) 快速進行微調，減少對大規模標註數據的需求。
• 模型優化：支持模型剪枝 (Pruning) 與量化 (Quantization)，在資源有限的設備上維持高準確率。

 

IoT AI Hub：邊緣 AI 開發的核心入口

IoT AI Hub 是 MediaTek 為開發者提供的集中化資源中心，旨在縮短 AI 模型從評估到部署的週期。 其具備以下四大核心目標：
• 加速部署：提供端對端的軟體堆疊與推理框架。
• 基準測試：提供不同平台的效能數據，協助開發者選擇最合適的硬體配置。
• 預訓練模型庫：包含 YOLO、MobileNet、ResNet 等多種經優化的模型，可作為開發原型。
• 多元推理路徑：支援 TFLite (LiteRT) 與 ONNX Runtime。

 

產品線矩陣與應用場景

透過統一的硬體與軟體開發環境，Genio 系列能橫跨多個垂直產業提供解決方案。

MediaTek Genio 平台透過第八代 NPU 與高效能記憶體技術，結合 IoT AI Hub 豐富的開發資源，成功降低了企業導入邊緣 AI 的門檻。 這套生態系統提供了足以運行 LLM 的強大算力與靈活的 OS 支援；此外，Genio 下一代旗艦級 Genio Pro 5100 透過 3nm 製程與 50+ TOPS 算力，進一步滿足了工業機器人與高階視覺分析的極致需求，為 AIoT 的未來奠定了堅實基礎。

 

更多資訊，請參考：
MediaTek | Genio Developer Center
MediaTek | MediaTek Genio Pro 5100
MediaTek | MediaTek Genio 420
MediaTek | NeuroPilot
MediaTek Genio | IoT AI Hub
MediaTek Genio | NVIDIA TAO
MediaTek Genio | ONNX Runtime
MediaTek Genio | Community

請與我們聯繫取得更多MediaTek IoT相關訊息 mstech@synnex.com.tw