Week3 - Types of Learning

  • 不同Output
    • Binary Classification : $\mathcal{Y} ={-1, +1}$
    • Multiclass Classification : $\mathcal{Y} ={1,2,…,K}$，常用於Recognotion(辨識)功能上
    • Regression : $\mathcal{Y} =\Bbb{R}$ or 有上下限
    • Structured Learning : $\mathcal{Y}$有某種結構存在，e.g.辨識句子文法是否正確 → 需分析其中每個字詞的詞性，且判斷組合起來是否有誤
  • 不同資料label $y_n$
    • Supervised Learning(監督式學習) : all $y_n$，每個$x_n$都有對應的$y_n$
    • Unsupervised learning(非監督式學習) : no $y_n$
      • Clustering(分群問題) : unsupervised multiclass classification，不指定結果，要求電腦自行分群
      • Density estimation : 密度分析
      • Outlier detection : 例外偵測
      • Semi-supervised learning(半監督式學習) : some $y_n$，指定一小部分label，其他大部分由電腦判斷
    • Reinforcement Learnin : 利用goodness($\tilde{y_n}$)去實踐$y_n$
      • 利用獎勵 or 懲罰機制
      • 使用$(x,\tilde{y},\text{goodness})$
  • 不同Protocol :
    • Batch Learning : 將已知資料整批給電腦，此為相當常見的Protocol
    • Online Learning : 一份一份循序地交給電腦判斷
      • e.g. PLA、Reinforcement Learning
    • Active Learning : 讓機器自己問問題
  • 不同input :
    • Concrete feature : Input : $\mathcal{X}$ 的特徵很明確定義
    • Raw feature : Input : $\mathcal{X}$ 的特徵是用最基礎、未人為整理過的
      • 需要依賴人或機器去將其concrete化
    • Abstract feature : Input : $\mathcal{X}$ 的特徵是抽象的，e.g. id