【投稿】Appier 科學家分析機器學習的五大實務問題:對企業的影響與相應的化解方式

【投稿】Appier 科學家分析機器學習的五大實務問題:對企業的影響與相應的化解方式

(圖片來源:Arseny Togulev on Unsplash

【為什麼我們挑選這篇文章】機器學習近年來越來越受到市場與學界的關注,也是推動許多產業改革創新的背後功臣。儘管機器學習帶來許多效益,但同時也還有許多尚待解決的問題。本文作者林守德是 Appier 的首席機器學習科學家,同時也是台灣大學資訊工程系教授,擁有豐富的實戰經驗與研究背景,他結合自己的實務經驗與知識背景,分析出機器學習目前的 5 大問題,並分享資料科學家該如何解決?(責任編輯:呂威逸)

作者:林守德

現在的企業勢需要處理更多的資料才能跟上趨勢,但資料產生的速度之快常令人猝不及防。與此同時,產業的競爭格局也正經歷快速的變革,擁有快速進行決策的能力變得非常關鍵。

正如 Jason Jennings 及 Laurence Haughton 在《以快吃慢–如何藉速度在商戰中克敵制勝》一書中指出──未來,不是大公司吃掉小公司,而是速度快的公司吃掉速度慢的公司。

從現在開始,唯有善用適當的資訊快速做出決策的企業,才能成為戰場上的贏家。

機器學習技術驅動了這場變革。無論企業是嘗試向顧客提出建議、改進生產製造流程或應對市場的變動,都能運用機器學習技術處理大量的資料,進而提高自身的競爭優勢。

然而,機器學習雖能創造大好機會,卻也同時帶來了相應的挑戰。機器學習系統需要大量的資料,以及執行複雜的運算能力。顧客期望改變、出乎意料的市場波動等等外部因素,都意味着機器學習模型的運作並不是百分之百的自動,往往仰賴許多外部的資源來作監控及維護。

此外,機器學習也有不少尚待解決的實務問題。以下將深入探討機器學習的五大實務問題,以及這些問題對企業應用會產生的影響。

1. 資料品質

機器學習系統仰賴資料進行訓練,而訓練資料在廣義上可分為「特徵」及「標籤」兩種類別。

「特徵」是輸入機器學習模型的資料,像是來自感測器、顧客問卷、網站 cookie 或歷史資訊等等。

然而這些特徵的品質可能良莠不齊。舉例而言,顧客在填寫問卷時可能會隨便填寫,或對題目略而不答;感測器可能因失靈而回傳錯誤資料;即使使用者的網頁行為明確,網站 cookie 回報的資訊也可能不完整。

此外,資料也可能包含雜訊,當無謂的資訊夾雜其中時,機器學習模型將會受到誤導而做出不正確的預測。

相較於「特徵」,「標籤」的正確性與穩定度更為重要。標籤是機器學習模型最後輸出的結果。所以需要在訓練的時間利用正確的結果教導機器學習模型。標籤的稀疏性也是個問題,這是當系統已掌握大量輸入的資料卻對輸出的結果沒有把握時出現的現象。在這樣的情況下,將難以針對該模型偵測其特徵與標籤之間的關聯性優化,甚至需要耗費額外的人力干預,將標籤與輸入資料關聯起來。

機器學習需仰賴輸入與輸出資料的關聯,才能具備足夠的泛化能力以預測未來行動並提供相關建議。因此,如果輸入資料過於雜亂、殘缺或有所偏差時,將可能難以理解某輸出/標籤的產出原因。近年來機器學習也開發出許多先進的方法如半指導式學習,轉移學習來處理這樣的問題。

(圖片來源:Appier 提供)

2. 複雜性與品質的取捨

建立強大的機器學習模型需要大量的計算資源來處理特徵和標籤,編寫複雜的模型更需要 AI 科學家和軟件工程師投入大量心力,同時也需要強大的計算能力、較長的執行時間,才能夠得出可用的結果。

而企業必須在這樣的情況下權衡利弊。可以選擇較快的開發速度或響應速度,但是結果可能不夠精確;或是可以接受較慢的速度或使用比較多的資源,但是獲得相對精準的產出。不過,無論是以較高成本換得精確模型或選擇以速度取勝,整體而言仍需視應用的情況而定,企業未必會因取捨而吃虧。

舉例而言,由於零售購物網站對顧客進行推薦需要即時應對,則此時成果即使出現意料外的變化,也仍在可接受範圍。然而,金融交易系統則會需要較可靠的判定結果。由於不需要即時產出結果,系統能運用更多資料讓模型執行更精密的計算,以便產出更理想的結果。

(圖片來源:Appier 提供)

隨着「機器學習即服務」(Machine Learning as a Service,簡稱「MLaaS」)進入市場後,模型複雜性和品質間的利弊權衡開始受到更多關注。 芝加哥大學 的研究人員深入分析機器學習即服務的成效後,發現「如果能為關鍵決策(如分類器和特徵選擇)產出足夠的洞察,則其所能達到的效益相當於另一個獨立的分類器。」

3. 資料的樣本偏差

許多企業會藉助機器學習的演算法進行員工招聘。不過,Amazon 卻發現用於 輔助挑選適任應徵者的演算法 其實並不公正。此外,普林斯頓的研究人員也指出,有些系統彷彿像 人類般擁有好惡 ,傾向選擇帶有歐洲色彩的姓名。

這不僅是模型發生問題,更多來自用以訓練模型的資料本身帶有偏見。幸好,在察覺資料出現偏差後,科學家便能設法將其導正,或盡可能降低偏差對資料的影響。

第一項挑戰便是判定資料是否含有偏見,這表示須執行額外的前置作業。雖然不可能將資料的偏見全數消除,但仍可藉由導入人類知識將影響降至最低。近年來也有許多帶有公平性原則的機器學習模型被提出,希望能夠處理這樣的問題。

而在部分情況下,也可能需要限制模型中可以使用的特徵數量。例如,在模型產出結果時,忽略某些特徵(如種族或膚色)將有助於減少偏差資料的影響。

(圖片來源:Appier 提供)

4. 變化多端的顧客期望與概念漂移

機器學習模型會在特定情境下運作,而顧客追求的也不一定一樣。以數位廣告為例,有些客戶在乎的是點擊率,有些客戶在乎的是購買數量,有些客戶在乎總營收,有些客戶甚至有更複雜的評估機制。如果機器學習模型無法與時俱進地跟上顧客需求,則可能被淘汰。

模型可能因不同原因而出現衰退的現象 。當新資料引入模型時發生漂移,即稱為「資料漂移」。或者,當人們對資料的解讀以及需求有所改變時也會發生漂移,即為「概念漂移」。

而為了適應上述的漂移現象,模型必須善用不斷新增的資料持續自我更新和進步。這也意味着必須定期對於模型作一些偵測與測試,讓機器學習的模型有「自我修正」的能力。

持續收集特徵及標籤並即時應對變化,才能讓模型適時更新並維持最佳狀態。雖然模型能夠自動執行某些層面的再訓練,但有時候人為的介入還是有其必要性,例如常常我們需要考慮新的特徵,或是更換學習的目標函數。

(圖片來源:Appier 提供)

5. 監測與維護

建模其實不難,甚至可以將整個流程自動化。然而,許多模型的維護及線上服務需要完善的計畫與相應的資源。

機器學習模型只是系統產生結果流程中的一部分,這個流程包含前端的資料蒐集與校正,以及模型結果產生後的後製與顯示,再加上對於模型結果的回饋也需要重新回到模型本身來調整。這整個系統中任何一個環節都可能出錯,尤其是當企業有數以千計甚至萬計的模型在線上服務的時候。

所以在 MLaaS 的使用情境下,當模型產出的結果出乎預期時,有時不是源於機器學習的模型預測錯誤,而是作業鏈中出現問題。舉例而言,推薦引擎需與線上網頁建立連結以向顧客展示商品;而當連結中斷或是有延遲的時候,客戶的點擊率就會被影響。這樣的結果並不是模型推薦錯誤造成的,而且往往要花上一段時間才能找出錯誤。所以,如何能夠快速的找出可能的問題所在,反而是 MlaaS 相關企業非常需要的能力。

機器學習可為企業帶來不少益處。預測未來結果以推斷並影響顧客行為,以及協助企業運作等等,都是機器學習能提供的實質效益。然而,機器學習同時也為企業帶來了不少挑戰。企業應對相關挑戰有所了解並發展因應的解決策略,準備周全之下才能安心地運用機器學習。

(圖片來源:Appier 提供)

關於作者

林守德博士
Appier 首席機器學習科學家、台灣大學資訊工程系教授

林守德博士現任 Appier 首席機器學習科學家(Chief Machine Learning Scientist),同時也是國立台灣大學資訊工程學系教授,在機器學習領域有長達 20 年的資歷與豐富的產學研實務經驗,專精於人工智能、知識發現與自然語言處理。
任職於臺大期間曾一手創立「臺大機器發明與社群網絡探勘實驗室」,並多次榮獲國內外知名學會頒發的最佳論文獎與優秀論文獎。與業界超過 50 家公司合作過,獲得 Google 研究獎、三度獲得 Microsoft 研究獎、IBM 研究獎助。林守德博士並曾帶領/共同領導臺大學生贏得素有全球資料探勘領域世界盃之稱的 ACM KDD Cup 六次冠軍。
林守德博士以其在機器學習方面的研發與實務經驗,協助 Appier 強化和擴展既有的產品組合,讓企業客戶能夠第一線掌握創新的 AI 解決方案,以滿足業務發展或成效表現的要求。
林守德博士擁有南加州大學計算機科學博士與計算語言學碩士、密西根大學電機碩士、臺灣大學電機工程學士學位。

(本文經原作者 林守德 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈機器學習的五大實務問題:對企業的影響與相應的化解方式〉;意投稿者可寄至:[email protected],經編輯檯審核並評估合宜性後再行刊登。)

你可能有興趣


《TO》品牌活動「CONNECT」登場!

本周主打「Marketing Intelligance」專題,看企業如何激發數據無限錢力! 馬上報名 獲取最新深度報導。    

想在手機閱讀更多Android App資訊?下載【香港矽谷】Android應用
分享到Facebook
技術平台: Nasthon Systems