開發AI專案好挑戰？先從AI背後的技術堆疊開始

受訪研究者：張欣綠（資訊管理學系教授）
採訪整理：黃梓桓（資訊管理學系博士生）

　　人工智慧（AI）的技術幫助企業提升工作效率，除了讓業務流程更加自動化，也常被應用於分析、提升數據價值。然而在開發與佈局AI的過程中，經常會面臨技術與管理的挑戰（如表1），想要完全從頭建立一個AI專案，對很多企業來說門檻非常高，也不一定符合效益。

表1. 企業AI佈局過程中常見的挑戰

主要的雲端服務商(例如Amazon、Google、Microsoft)與第三方服務供應商 (例如顧客關係管理平台Salesforce 和AI軟體公司 Sense-Time) 開始將AI的核心要素整合到雲端服務中，使組織能夠在雲端中開發、訓練、部署和管理AI應用程式，這些服務被稱為AIaaS (人工智慧即服務，AI as a Service)。

AlaaS產品的出現，幫助公司可以利用AI且無需從頭開始投入大量資源。然而企業在導入AI時，最先會面臨的問題就是到底應該外包哪些服務？哪些則是更適合自建？除此之外，在AIaaS的選擇上，產品常常是綁定供應商的軟體包，在侷限的環境下才能執行與維護的特性，使得企業在使用過程中仍然愈到許多限制與策略的問題（如表2）。

面對這些問題，張欣綠老師團隊研究了市面上的AIaaS產品，透過技術堆疊的理論架構，將AI系統與現有的IT/IS框架、數位商務平台整合，希望可以協助企業分析技術與管理問題，同時提供技術開發商在思考服務方案設計時的參考。

表2. 現今AlaaS產品常見的問題

AI技術好複雜？切割出AI背後的技術堆疊，這樣看更清楚！

不局限於特定系統，AI技術堆疊模型將服務的框架分層清楚地描繪出來。張欣綠老師說：「如果能夠清楚知道企業自身AI技術堆疊的狀況，可以幫助組織切割出哪些部份適合外包給供應商服務。」企業可以將自身的AI技術透過層級式的模型歸納分析，檢視自己的狀態。供應商則可以依循相同準則，在特定層級中開發產品、從前一層級獲取服務、向下一層級公開一致的服務介面。促進了供應商的互通性，使用者也可以最大程度的減少被供應商綑綁的威脅。

AI技術堆疊模型

第一層：AI基礎設施

整合所有IaaS（基礎設施即服務）、加速器（圖形處理器GPUs、張量處理器TPUs、可程式化邏輯閘陣列FPGAs）以及監控、集群和計費工具等附加服務。為AI應用程式所需的基本運算、儲存和網路通訊提供硬體基礎架構環境。

第二層：AI平台

整合PaaS （平台即服務，例如作業系統、程式語言環境、資料庫、網路伺服器等）、機器學習作業系統和智慧參與平台。執行完整的AI應用程式生命週期管理，協調模型建構、評估和監控，以確保AI應用的持續整合、交付和測試。

第三層：AI框架

包含所有與AI相關的框架，以加速AI應用程式的開發和部署過程。包括透過GPU進行強大加速的張量計算、預設如Torch、TensorFlow等AI演算法集的自動微分系統、以及預先建構的AI模型（例如神經網路NNs）。

第四層：AI演算法

定義明確的AI演算法集（例如監督式學習、非監督式學習和強化學習），幫助解決問題和執行決策任務。

第五層：AI數據管道

包括DaaS（資料即服務）和DataOps（數據操作化）平台，整合各種資料架構，管理和處理整個AI應用程式的數據流程。管理內部和外部資料來源、操作各種靜態和非靜態資料類型，以及處理大量且即時的資料存取。

第六層：AI服務

包含許多現成的通用 API，用於支援 AI 服務（例如影像處理和自然語言處理）。API 傳輸現有 IT 程式或企業系統（例如ERP、CRM和SCM）可以執行的資訊（例如從機器學習得出的見解）或原始資料（例如透過機器學習得出見解的來源資料），提供後一層的解決方案。

第七層：AI解決方案

用於解決特定業務問題的AI解決方案。透過AI解決方案層，業務分析師可協助提供使用者在不同公司或產業中廣泛的AI功能。

表3. AI的技術堆疊 (Tsaih et al., 2023)

 不同層級間如何無縫接軌？除了AI能力，還要考慮內部跟外部環境！

除了企業自身AI技術的七層架構，張欣綠老師說：「AI系統的建立還需要考量跟內部系統的串接，以及跟外部平台的連結。」張欣綠老師團隊提出的綜合IT/IS框架，包含了連結能力、現有的IT/IS能力、AI能力，影響在開發AI系統時的內建與外包決策（如圖1）。

圖1. 用於AI應用專案的綜合IT / IS框架 (Tsaih et al., 2023)

連結能力是指現有IT/IS系統、數位商務平台和AI系統能夠相互通信的能力，幫助AI數據管道層提供的解決方案能夠更輕鬆存取內部和外部資料來源，擴大可存取資料的範圍，並更容易與其他經濟實惠的解決方案整合。連接能力較低的企業更願意將AI數據管道外包給AIaaS或第三方供應商，以滿足豐富的數據和業務需求。具有強大連結能力的組織則更傾向內部自建。

現有的 IT/IS 能力為組織提供支援性硬體基礎環境以實現基本的運算、儲存、通訊和安全性。現有的IT/IS能力與組織的資訊系統及其累積的數據有關，能力較低的組織用於分析的內部資料品質較不足，傾向採用現成的AI基礎設施服務，且傾向透過供應商提供的即用型通用API從各種外部來源收集替代資料。較高IT/IS能力的公司通常傾向內部自建。

AI能力是指AI的分析能力與專案管理能力。AI能力較低的企業傾向將AI平台、框架和演算法外包給AIaaS和第三方供應商。這些供應商提供不同類型的預訓練模型和客製化演算法，公司可以透過直覺的工具執行資料分析，因此可以省去前期對人才和資源的大量投資。能力強的公司則傾向內部自建。

        張欣綠老師提到，希望提出的模型不僅可以將實務現況統整到理論的框架上，也能真正的幫助到實務的應用。透過七層的AI技術堆疊模型和綜合的IT/IS框架，企業能夠更清楚地檢視自己的技術背景，同時評估內外部的環境，找到更適合自己的AI專案策略。