數據豐富的計算：M.2在邊緣遇到AI

數據的激增——以及它所驅動的應用程序——正在創造翻天覆地的變化。這些轉變需要專業化來創建更能夠與人工智能工作負載交互的系統，既高效又按需。

對于系統設計人員來說，這意味著昨天的性能加速策略可能不再符合要求。雖然基于 CPU/GPU 的設計有助于緩解摩爾定律的放緩，但這些處理器架構現在發現很難跟上自動化和推理應用程序固有的實時數據要求。在更嚴格的非數據中心場景中尤其如此。再加上滿足性價比和功耗需求的挑戰越來越大，性能加速比以往任何時候都更加重要考慮計算、存儲和連接。所有這些因素對于有效整合接近數據生成點的工作負載都是必要的，即使在環境挑戰不利于系統性能的惡劣環境中也是如此。

這就是M.2 外形加速器在消除數據密集型應用程序中的性能障礙方面發揮作用的地方。作為一個強大的設計選項，M.2 加速器為系統架構師提供特定領域的價值，以匹配AI 工作負載的確切要求。與使用CPU/GPU 技術的同類系統相比，基于M.2 的系統可以更快、更高效地管理推理模型。這些增長推動了創新的系統設計，非常適合崎嶇的邊緣在具有挑戰性的非傳統場景中部署了更多系統，并且專門構建的系統提供了巨大的機會。在這里，通用嵌入式計算機與旨在通過利用 M.2 加速模塊等更現代的加速選項來處理推理算法的計算機之間存在明顯的區別。

M.2 也稱為下一代外形尺寸接口，由英特爾開發，旨在提供靈活性和強大的性能。M.2 支持多種信號接口，例如串行ATA (SATA 3.0)、PCI Express（PCIe 3.0 和4.0）和USB 3.0。M.2擴展槽具有多種總線接口，高度適應不同性能加速器、存儲協議、I/O擴展模塊和無線連接。

M.2 還通過支持SATA 和NVMe（非易失性內存快速）存儲協議提供傳統和現代兼容性。傳統標準 SATA 包含高級主機控制器接口(AHCI)，英特爾將其定義為通過HDD（硬盤驅動器）存儲中的旋轉金屬磁盤優化數據操作的存儲協議。NVMe 提供了一種替代方案，旨在充分利用NAND芯片（閃存）存儲和PCI Express 通道實現極快的固態驅動器(SSD) 存儲。

性能加速器也采用了 M.2 外形，受益于其強大而緊湊的界面。其中包括 AI 加速器、內存加速器、深度學習加速器、推理加速器等。這種專用處理器專用于AI 工作負載，提供更高的功率性能比。

在更多環境中通過實時數據性能解鎖 AI

數據是當今業務創新的關鍵，更重要的是提供認知機器智能的能力。無論是在工廠車間為先進的遠程信息處理或智能信息亭供電，還是在火車站和機場等基礎設施中為乘客和監控服務提供動力，數據就在我們身邊，當它可以被發現、捕獲、評估和用于即時的。

無數行業都渴望充分利用數據來創建新服務和增強業務決策，但在許多嚴格的工業環境中，在數據中心級別處理小型自動化或人工智能任務效率太低，無法提供真正的價值。由于過度使用計算、帶寬和存儲資源（盡管是必要的），這種傳統集中式計算結構的功耗和成本太高。此外，高延遲意味著性能會受到影響，而數據隱私不足又會讓人頭疼。

數據增長與邊緣計算環境的復雜性相結合，正在推動 AI 計算框架從通用CPU/GPU 選項轉向基于使用M.2 標準的特定領域架構的專用加速器——這些選項更小、更節能. 這是一種應對復雜、真實且不會消失的數據挑戰的策略。隨著物聯網和工業物聯網設備數量的增加，它們生成的數據量和速度也在增加。應用程序設計人員和開發人員必須認識到，迫切需要更接近數據源并且專為手頭任務而構建的性能加速 - 特別是在部署邊緣計算硬件以應對數據處理并減輕數據中心和數據中心的相關負擔時云端。