Machine Learning-3 Types of Learning

TOPIC

• 除了是非題（二元分類），機器學習還有哪些種類。

Learning Target

• Multi-class Classification Learning
• Regression Learning: output as real number
• Structure Learning: output as structure (huge classes without explicit class definition)
  (舉例像是語音辨識，語音之間就含有隱藏不明顯的關係，是一種structure)
• ...

Learning Type

• Supervised Learning 監督式: all y
  - 全部資料都有標記。
  eg: classification(分類), ...
• Unsupervised Learning 非監督式: no y
  - 沒有資料有標記。
  eg: clustering(分群), density estimation, outlier detection, ...
  (目標較分散，較難衡量好壞)
• Semi-Supervised Learning 半監督式: some y
  - 小部分資料有標記。(可以省下很多標記成本)
• Reinforcement Learning 強化學習:
  - 透過 reward/ punishment來訓練機器: implicit y
  (learn with implicit information, 通常是一個序列/過程)

Learning Method

• Batch Learning
  - 一組資料一次學習完 (常見作法)
  (duck feeding)
• Online Learning
  - 一筆一筆新資料修正的學習
  (passive sequential)
  eg: email filter, reinforcement learning
• Active Learning
  - 標記成本很高的狀況下，希望透過機器主動問問題，減少資料的需求量。
  (question asking)
  eg: "選擇性的"找出驗證老鼠癌症最好的實驗方法。

Features

• Concrete Features
  含有人類智慧預先處理過得輸入資料，對於機器來說是較容易學習。舉例如下：
• 錢幣分類（大小、質量）
• 信用卡評估（客戶資訊）
• Raw Features
  含有最原始的物理意義輸入資料，對於機器來說較難學習。
• 所以獲取好的Concrete Feature是非常重要的議題
• 透過深度學習
• 透過專家設計
• Abstract Features
  沒有物理相關意義的輸入資料，抽象的輸入對於機器來說非常難學習。舉例如下：
• 評分預測（使用者id, 項目id, 分數）
• 以上三種常常會一起出現舉例如下：
• 推薦廣告系統
• Concrete→使用者資料
• Raw→推薦的圖像廣告
• Abstract→使用者編號，廣告編號

REF

Types of Learning :: Learning with Different Output Space @ Machine Learning Foundations