top of page

連人工智慧都能 外包託管

Howie Su


在當今快速發展的商業環境中,結合人工智慧已成為企業是否具備競爭優勢的關鍵戰略。但是,儘管它具備龐大的潛在商業價值,但對企業來說,開發和實施有效的 AI 解決方案卻將面臨重大挑戰,除需要大量人力與運算資源外,尚需要有專業領域知識的人才配合,而這就是 AI 託管的用武之地。


所謂的 AI 託管為由第三方託管服務商 (MSP) 來提供人工智慧端到端服務,透過委外處理,AI 託管企業能夠快速開發、部署和管理 AI/ML 解決方案,從而更快、更大規模地提升投資報酬率,而無需仰賴內部專業團隊,公司一方面節省自己養人成本,能夠輕鬆地利用擁有各種技能的外部工程師庫,包括數據和基礎設施工程以及數據科學,一方面能將更多人力投入在業務與策略發展上。


圖、 Google的人工智慧託管服務相當具代表性

資料來源:iTHome


託管 AI 與傳統託管 IT 服務不同,在一般 MSP 服務和雲 AI 服務領域上(如 ChatGPT)。儘管聽起來很容易,但託管 AI 與普通託管 IT 服務的不同之處在於,託管 AI 要在人工智慧採用與機器學習開發方面具有獨特的利基專業領域知識,知識複雜度要託管 IT 複雜許多。


託管 AI 讓服務與技術的組合更加複雜,使企業能夠在內部構建企業級和雲級質量的人工智能/機器學習解決方案,而無需對組織基礎設施進行資本投資,公司根據需求隨時擴大或縮小其 AI 營運規模,而非在一開使就投資昂貴的 IT 基礎設施和聘用 AI 專家。


許多業者由於前期投入大量人力與IT的基礎設施,後期發現業務並不需要如此龐大資源時才發覺前期投資都打水漂了,從這個角度來看,委外確實能節省很多問題。


MLOps 也是託管 AI 的重要組成之一

MLOps 託管是 AI 託管的另一個重要組成部分,特別是對於實現大規模 AI 實驗專案而言更是如此。舉例而言,若有一家大型跨國食品企業希望透過在整個組織內導入各種 AI 應用來加速轉型。然而,在使用 Managed AI 服務之前,這家公司可能耗費大量時間與人力來處理來自全球各種來源的海量數據,數據需要由不同的資料工程和資料科學團隊處理,在各自為政下很難有效地產生營運洞見,同時,團隊還要處理不同的批處理作業與 GPU 算力分配。


MLOps 託管則讓狀況完全相反,數據科學家可以更靈活、更方便地進行實驗,從而加速團隊的開發和擴展應用城市。他們能與外部專業團隊對接,並根據需要不斷發展和改進託管 AI 服務,從而顯著簡化機器學習工作負荷管理。


當然,委外託管也並非沒有壞處,雖然節省不少基礎設施投資與人工智慧人才聘用(特別是當前人才稀缺狀況),但長期而言可能帶來數位戰力空洞化的問題。相反,在內部開發和管理 AI 可能會更好地控制解決方案,但無論是在業務方面還是在技術方面,它都可能是昂貴且具有挑戰性的。此外,在 AI 託管邊沒有放諸四海皆準的解決方案,公司應仔細考慮購買與部署的利弊,外面的解決方案有幾百上千種,建立採購準則並視外部環境隨時調整才是上策。


 

作者簡介|Howie Su 產業分析師,熱愛前瞻技術與科技產業,曾服務於家族辦公室研究單位,對於商業觀測、趨勢演進與財務併購具濃厚興趣。愛貓,亦愛浮潛與跳傘。

 

創新未來學校 推薦課程:


WBSA數位行銷企劃師國際認證培訓班 5/14(日) 隆重開班 熱烈招生中!

從基礎商務企劃理論、 進階數位策略心法到實務操作演練, 幫你打造完整的數位行銷策略! 👉學員心得:WBSA數位行銷 如何幫助家族事業優雅轉型?學員實戰分享


以上課程均視情況調整,歡迎私訊 LINE@、來電 (02)6617-1766,或關注粉絲團最新資訊!

Comments


bottom of page