機器學習實作-快速入門-部署Machine Learning in Production

機器學習實作-發布Machine Learning in Production¶

當機器學習專案發布到產線，要持續觀察先前發佈的模型是否還有效

有幾種可能導致模型失效的原因

• Concept drift 概念改變: 例如2019 covid 工作型態劇變，原本預測工作的model就會失去準度
• Data drift 數據改變: 例如人口逐步老化，改變生活習慣，原本咖啡廳客群逐漸不一樣
  而部署當下有可能因軟體工程類導致問題，以下是常見的確認清單

Realtime(即時性) or Batch (先儲存後分析)Cloud (雲端) or Edge (地端)運算資源(CPU/GPU/memory)延遲性Logging

而常見需要部署的專案有幾大類

1.全新 之前沒有的

2.先前是人類在處理，現在想要自動化

3.先前已經有model,但現在想部署新版本

機器的部署可以是一個光譜，從完全人工(human only)>機器給出結果但只供人類參考(shadow mode)>機器可以強化要確認的東西，但不做判斷（例如圖像判斷強化光影）(AI assistant)>機器做判斷，但遇到不確定會給予人類，降低人類load(partial auto)>完全自動化判斷(full auto)

部署後也要記得監控數據，可能是使用量、return null數等，並設置適當的報警條件，模型部署後依舊要監控使用者使用情況並適時回到前步驟去做調整。