[百日馬拉松] 機器學習-特徵工程

100days_ml

最近參加了機器學習 百日馬拉松的活動,單純記錄下這100天python機器學習中每日覺得最有收穫的地方,如果有想參加這活動的朋友,真心推薦參加!此次機器學習-百日馬拉松的相關代碼放置於:https://github.com/hsuanchi/ML-100-days

相關文章:[百日馬拉松] 機器學習-資料清理https://www.maxlist.xyz/2019/03/03/ml_100days/

一. 標籤編碼 ( Label Encoding )

標籤編碼
標籤編碼
  1. 類似於流⽔號,依序將新出現的類別依序編上新代碼,已出現的類別編上已使⽤的代碼
  2. 確實能轉成分數,但缺點是分數的⼤⼩順序沒有意義

二. 獨熱編碼 ( One Hot Encoding )

獨熱編碼
獨熱編碼
  1. 為了改良數字⼤⼩沒有意義的問題,將不同的類別分別獨立為⼀欄
  2. 缺點是需要較⼤的記憶空間與計算時間,且類別數量越多時越嚴重

三. 均值編碼 (Mean Encoding)

均值編碼
均值編碼

四. 計數編碼 ( Counting )

計數編碼
計數編碼
  1. 如果類別的⽬標均價與類別筆數呈正相關 ( 或負相關 ),也可以將筆數本⾝當成特徵

五. 群聚編碼 (Group by Encoding)

群聚編碼
群聚編碼
  1. 數值型特徵對⽂字型特徵最重要的特徵組合⽅式
  2. 常⾒的有 mean, median, mode, max, min, count 等

六. 葉編碼(leaf encoding)

葉編碼
葉編碼
  1. 將決策樹的葉點當做新特徵
  2. 再用邏輯回歸合併預測

七. 特徵雜湊 ( Feature Hash )

  1. 特徵雜湊是⼀種折衷⽅案
  2. 將類別由雜湊函數定應到⼀組數字
  3. 調整雜湊函數對應值的數量
  4. 在計算空間/時間與鑑別度間取折衷
  5. 也提⾼了訊息密度, 減少無⽤的標籤

八. 空缺值:

九. 標準化:

十. 離群值:

離群值01
離群值01
離群值02
離群值02

十一. 去偏態:

去偏態01
去偏態01
去偏態log1p
去偏態log1p
去偏態boxcox
去偏態boxcox
去偏態sqrt
去偏態sqrt

十二. 特徵工程流程:

特徵工程_地圖
特徵工程_地圖
  1. 讀取資料
  2. 分解重組與轉換
    • train+test=df
  3. 特徵工程
    • Label Encoder
    • MinMax Encoder
  4. 訓練模型與預測
  5. 提交

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。