2023年是邊緣計算的重要節點!

隨著生成式AI的不斷演進,大模型在圖片、音視頻等多模態領域的表現展露了其在產業端應用的巨大潛能。大模式在行業落地需要本地化推理與部署，在邊緣節點把大模型分拆，將部分大模型的能力部署到小模型或行業模型中，可以在邊緣節點處理本地數據驅動的模型。

因而2024邊緣計算報告我們把重心放在AI上，以邊緣視覺AI為主。對于當下邊緣視覺AI的行業現狀，業內皆有共識：

落地難：一方面是定制化需求多，每個項目都或多或少要重新定制開發，大部分客戶在細分需求面前很難承擔過多的開發費，落地成本高，客戶不愿買單，廠商也賺不到錢;二是AI算法精準度不夠，因為精準度不夠，用戶體驗不好，后期服務和調優的成本也變得很高。所以需要更多的項目去分攤成本，這樣帶來市場競爭的加劇。

碎片化：邊緣AI高度依賴于場景，其應用場景非常廣泛，智能安防、智慧水務、智能建筑、智能制造等等各個場景都能應用到，但是碎片化嚴重，在當下各個細分場景的體量都很小，作為從業者來說，什么場景都去做，顯然不太現實，一方面是不夠聚焦對場景需求理解不夠，很難做出真正好用的產品，包括硬件與算法;另一方面精力也有限，很難覆蓋太多場景。因而選擇什么場景去深耕是邊緣計算廠商當下需要做的重要抉擇，廠商還得根據自身能力、自身優勢還有資源去選擇最適合自己的場景。

量升價跌：目前邊緣AI還處于行業發展初期，項目大多由政策驅動，以政府項目居多，疫情加上經濟下行，讓各級政府財政也比較吃緊，在項目上投入預算就更加有限。綜合來看雖然需求上升，但是預算降低、成本高、市場競爭加劇等因素讓市場利潤明顯萎縮，目前形成了一個量升價跌的趨勢。

那么行業什么時候能夠破局?最大的難點在AI算法上，2023之所以稱之為重要節點，是因為業內人士皆認為AI大模型能夠改變行業現狀。

隨著行業應用的深入，場景變得多元化、復雜化，算法領域面臨以下幾個問題：

泛化能力不足：例如，一個僅使用白天采集的車輛數據訓練出來的檢測模型，在夜晚使用時性能就會大打折扣。傳統的深度學習往往難以兼顧這些場景差異性，導致不得不為每一個場景量身定制模型。

傳統結構出現性能天花板：傳統深度學習結構，如 CNN、RNN、LSTM 等，關注于感知輸入信號的局部信息，對知識的容量有限，數據規模和模態種類持續增加帶來的邊際效益下降。

缺乏推理與認知能力：傳統深度學習以監督學習方法為主，其基本原理是訓練神經網絡來擬合監督標簽，無法形成邏輯認知。對于沒有見過的新任務或復雜的業務邏輯均需要重標重訓或手工排程。

AI 1.0準確率只有50-80%，系統誤報多，200路系統每天幾百上千起誤報，無人工不智能，需人工復核傳統AI一場景一算法，系統研發成本居高不下，客戶需求響應慢，在傳統AI 1.0 體系的基礎上，利用多模態大模型技術，服務多場景，實現系統性能提升， 降本增效。