從入門級到高效能，如何選擇你的AI設備?
如今，人工智慧 (AI) 已非常廣泛地應用在邊緣運算，不僅可以是預測交通、防止堵塞和潛在事故的人工智慧交通監控系統，也可以成為結合人工智慧提高產量和品質的光學半導體晶圓檢測系統。根據Tractica的統計數據，人工智慧邊緣設備的出貨量從2018年的全球1.614億台，將增加到2025年的26億台。Research and Markets表示，全球邊緣人工智慧市場預計將以19.27%的複合年增長率成長，市場規模將自2019年的5.69194億美元，大幅成長到2026年高達19.54244億美元。
在本文中，我們將介紹艾訊邊緣運算AI系統，從入門的嵌入式邊緣運算人工智慧平台，進階到高效能圖形運算工作站。
嵌入式邊緣運算人工智慧平台：藉由加速器模組，AI可以輔助工作和生活
在入門級AI邊緣運算應用中，選擇邊緣運算系統與加速器模組兼具低功耗和良好的運算能力，是產業應用最具成本效益的部署方式。加速器通常以M.2、mini PCIe或MXM模組的形式提供，結合相機使用時，當工人未正確穿戴個人防護裝備或進入危險區域時，即會發出警告。在生產線上，可以防止作業員的手接觸到不安全的區域。為這類應用推薦艾訊最具代表性的熱銷產品eBOX系列無風扇嵌入式電腦系統。
在Hailo-8™ AI加速器的支援下，全系列eBOX產品已提昇全方位的競爭力，能有效發揮最大的邊緣運算AI力量，協助客戶加速產品上市時程。
eBOX630-528-FL
- 第8代Intel® Core™ i7/i5/i3或Intel® Celeron® ULT中央處理器 (Whisky Lake-U)
- 內建雙通道260-pin最高達64GB的DDR4-2400插槽SO-DIMM系統記憶體
- 2組PCIe Mini Card插槽支援Hailo-8™ AI mini PCIe 加速模組或無線模組
- 配備2組可抽換2.5吋硬碟機介面與1組mSATA硬碟機介面
- PoE功能支援視覺檢測專用IP照相機 (選購)
- 支援零下40°C至高溫70°C寬溫操作範圍
eBOX626-311-FL
- 四核心Intel Atom® x5-E3940 中央處理器 (Apollo Lake)
- 內建1組204-pin最高達8GB的DDR3L-1866插槽SO-DIMM系統記憶體
- 2組PCIe Mini Card插槽支援Hailo-8™ AI mini PCIe 加速模組或無線模組
- 支援1組2.5吋SATA硬碟機固定架與1組mSATA儲存介面
- 配備4組高速USB 3.0埠、2組USB 2.0埠支援視覺檢測專用照相機
- 支援零下40°C至高溫60°C寬溫操作範圍
高階邊緣運算人工智慧平台：透過獨立顯卡或FPGA，將AI運算效能提昇更多功能
在進階的邊緣運算人工智慧應用中，附加獨立顯卡的可擴充邊緣系統能夠處理例如道路損壞檢測、作物生長分析甚至自主移動機器人 (AMR) 等更複雜的應用領域。如果預算充裕，對加速有更高的需求，甚至可以在系統中增加額外的FPGA (可編程的邏輯晶片) 或VPU (視覺處理器)。為了在邊緣更有效率地捕捉和處理影像，配備更高階影像擷取卡的系統其可擴充性會更好。艾訊嵌入式準系統IPC系列是擴充性極佳的高效能AI平台，也是高階邊緣應用領域的最佳選擇。IPC960系列支援半尺寸 GPU (圖形處理器)，而IPC970系列可以支援全尺寸GPU顯卡。
近期，艾訊客戶將工業級AI邊緣運算系統IPC970整合於自主移動機器人 (AMR) 應用的車輛中。搭配RTX 3090 GPU和4/8埠視覺檢測專用USB 3.0影像擷取卡AX92321，IPC970已成功應用於機場的自動駕駛行李導引車，透過控制器可以按照預定路線及管理中心指令運行。藉由全套感應器、雙光學雷達、雷達、照相機、接收器和測量單位，可以檢測並避開意外障礙物。IPC970搭配RTX3090毫不費力地處理所有設備的訊息，確保行李和貨物安全送達正確的航班。隨著一天天地運行，於過程中收集的數據更可以逐步重新訓練並優化操作。
IPC970
- Intel® Xeon®或10代Intel® Core™ i7/i5/i3中央處理器 (Comet Lake S)
- 內建4組DDR4-2933 ECC/non-ECC U-DIMM插槽系統記憶體最高達128GB
- 配備6組USB 3.2 Gen.2埠、2組USB 3.2 Gen.1埠與1組USB 2.0埠
- 2組PCIe x8插槽與1組支援繪圖處理器的PCIe x16插槽
- 內建NVIDIA® GeForce RTX 3090繪圖卡
- 支援2組外部SSD或HDD以及1組內部的SSD或HDD儲存介面固定架
- 1組支援NVMe SSD介面的M.2 Key M 2280插槽
- 1組支援5G無線連網功能的M.2 Key B 3042/3050插槽
- 1組PCIe Mini Card插槽與1組M.2 Key E 2230插槽支援Wi-Fi/LTE模組
- 支援零下10°C至高溫60°C寬溫操作範圍
IPC962-525
- 第9代/8代Intel® Core™中央處理器
- 內建2組DDR4-2666/2400非緩衝SO-DIMM插槽系統記憶體最高達64GB
- 配備1組PCIe x16與1組PCIe x4介面支援圖形處理器
- 支援NVIDIA® GPU卡與NVIDIA® Tesla T4 GPU卡
- 配備2組支援Intel® RAID 0和1功能可抽換2.5吋硬碟機介面
- 1組支援NVMe SSD介面的M.2 Key M 2280插槽
- 1組支援5G無線連網功能的M.2 Key B 3050插槽
- 支援零下10°C至高溫60°C寬溫操作範圍
高效能人工智慧運算平台：搭配多組GPU或FPGA，深度學習觸手可及
當面臨深度學習和影像分析等更複雜的人工智慧應用時，對高效能圖形運算工作站的要求會更高。高效能GPU工作站除搭載高階處理器外，還要配備多組PCIe插槽與更多GPU (圖形處理器) 和FPGA (可編程的邏輯晶片)，才能將效能推向更極致的層次。
邊緣運算系統接收數據時，可以重新訓練數據並保持有效率和持續的學習，以便更新模型並將數據發送回邊緣以提高處理速度和準確性；不僅可以處理超乎想像的巨大數據，更扮演著GPU工作站的角色。人工智慧不僅可以應用於醫療院所檢測疾病，甚至在半導體產業中處理更精密複雜的晶圓檢測；在以上兩種應用情境下，都必須即時更新AI模型，以獲得更好的推理和更精確的結果。
艾訊第3代Intel® Xeon®可擴充處理器4U機架式GPU工作站iHPC300已成功於半導體產業中進行晶圓檢測。高價的晶圓不僅易碎，最困難的是，它的缺陷呈頭髮狀，很可能導致過度檢測或檢測不足；安裝檢測顯微鏡，模型訓練平台在建構完成深度學習模型之前，就已經讀取儲存超過500,000張影像，人工智慧晶圓檢測解決方案為自動化提供更佳的品質。
iHPC300
- LGA4189插槽支援40核心第3代Intel® Xeon®可擴充處理器最高至270W (Ice Lake-SP)
- 6組高達384GB的DDR4-3200 R-DIMM非緩衝系統記憶體
- 3組PCIe x16與3組PCIe x8擴充插槽，最高支援6張加速卡
- 6組支援RAID 0/1/5/10功能的SATA3儲存介面，外部3組5.25吋與1組3.5吋硬碟機固定架
- 內建3組3.5吋硬碟機固定架
- 支援M.2 Key M 2280插槽
- 1組支援NVMe SSD介面的M.2 Key M 2280插槽
- 支援2000W/1200W電源
