相親、交友與決策樹(文件)
【正文】 ? 規(guī)則 1使用特征 A和特征 B ? 規(guī)則 3使用了特征 A、 特征 B和特征 C ? 建立特征子集引入錯誤率的對比表 規(guī)則 去掉 A 去掉 B 去掉 C 去掉 AB 去掉 BC 去掉 AC 如何裁剪 1 5/10 11/17 去掉 B 3 4/6 6/8 3/9 8/10 4/10 6/17 去掉 AB 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 ? 第 4步 、 裁剪規(guī)則 – 規(guī)則 1 IF A=Y AND B=Y THEN 陽 {18, 19, 20} – 規(guī)則 2 IF A=Y AND B=N AND C=Y THEN 陽 {9, 10, 11, 12} – 規(guī)則 3 IF A=Y AND B=N AND C=N THEN 陰 {6, 7, 8, 13, 14, 15, 16, 17} – 規(guī)則 4 IF A=N THEN 陰 {1, 2, 3, 4, 5} ? 依然 還有 1 14兩個錯誤 ， 但是顯著降低了 錯誤率 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 SB技術員 尼美 你現(xiàn)在真的可以回去交差了 ， 決很多問題了 非常感謝 ！ 但是 ， 我還有個問題 …… ，我們公司要面向的是單身女青年 們 ， 會不會眾口難調啊 你逐漸開竅了 ， 確實存在這樣的問題 ， 每個人關注的屬性不同 、 每個人的評價標準也不同 ， 還好我們有隨機森林 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 ? 隨機 森林 ——一個很 不嚴肅的的 解釋 – 尼美有幾個閨蜜 小龍包 如花 鳳姐 吃貨女青年 關注男士屬性 年齡 ， 收入 ， 廚藝 ， 口味 ， 體力 ， …… 究極文藝女青年 關注男士屬性 年齡 ， 長相 ， 身高 ， 學歷 ， 是否愛讀讀者 ， …… 拜金女青年 關注男士屬性 收入 ， 車房 ， 工作背景 ， 家庭背景 ， 長相 ， …… 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 ? 隨機 森林 ——一個很 不嚴肅的的 解釋 – 每個閨蜜都為 SB公司建立相親決策樹 ? 小龍包采樣 ? 建樹 ? 剪枝 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 ? 隨機 森林 ——一個很 不嚴肅的的 解釋 – 每個閨蜜都為 SB公司建立相親決策樹 ? 小龍包采樣 ? 建樹 ? 剪枝 ? 如花采樣 ? 建樹 ? 剪枝 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 ? 隨機 森林 ——一個很 不嚴肅的的 解釋 – 每個閨蜜都為 SB公司建立相親決策樹 ? 小龍包采樣 ? 建樹 ? 剪枝 ? 如花采樣 ? 建樹 ? 剪枝 ? …… 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 ? 隨機森林 ——一個很不嚴肅的的 解釋 – 基于隨機森林的分類 ? 分別使用森林中的樹分類 ? 表決產生最后的分類 – 對每一個分類樹 ? 不需要使用樣本的所有屬性 國民老公 買買買 國民岳父尼美的分類 小龍包的分類 如花的分類 鳳姐的分類表決器最終的分類尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 SB技術員 尼美 今天不能再講得更多了 ， 以后有機會再聊 叩謝大恩 ， 可以跟老板交差去了 記得幫我推薦個好對象哈 關于決策樹的未盡事宜 ? 關于分裂屬性選擇參數(shù) – Gini系數(shù) （ CART算法最初使用 ） – Towing Criteria – χ2分布 （ CHAID算法使用 ） – …… ? 效果幾乎沒有太大差別 關于決策樹的未盡事宜 ? 關于剪枝 – 后 剪枝是常用手段 ， 主要技術有 ? 降低錯誤剪枝 REP ? 悲觀 錯誤剪枝 PEP ? 基于錯誤剪枝 EBP （ ） ? 代價 復雜度剪枝 CCP （ CART算法的剪枝技術 ） ? 最小 錯誤剪枝 MEP ? … – 各 有各得適用場合 ， 因地制宜地用 關于決策樹的未盡事宜 ? 其他著名而關鍵的算法 – CART分類回歸樹 ? 使用二叉樹代替多叉數(shù) ? 支持回歸分析 ? …… – Adaboosting ? 嚴格意義上說不是決策樹方法 ? 而是對決策樹的優(yōu)化方法 （ 個人見解 ， 還需要在研究 ） – 隨機森林 ? 涉及的技術細節(jié)很多 ， 我講的很不嚴肅 52 謝 謝 ! 請批評 指正 2023/05/29 。 就 這樣交差 ， 肯定還是會被批評的 …… ， 還有這么多麻煩 …… ， 你舉個栗子 ？ 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化 ? 假如 尼瑪 的數(shù)據(jù)是這樣的 (注意 紅 字 ) 序號 姓名 職業(yè)分類 職位評級 收入 有房有車 債務情況 評級 1 A 金融 A類 40W 1 低 鉆石男 2 B IT A類 18W 3 高 經適男 3 C 行政 A類 19W 2 低 經適男 4 D 司法 A類 35W 0 低 鉆石男 5 E 行政 B類 11W 3 中 牛奮男 6 F 金融 B類 3 低 鉆石男 7 G IT B類 12W 2 中 牛奮男 8 H 司法 A類 2 低 經適男 9 J 行政 A類 0 低 經適男 10 K 教育 C類 3 低 牛奮男 11 L 司法 A類 50W 3 中 鉆石男 12 M 教育 C類 2 低 牛奮男 13 N IT B類 17W 0 低 牛奮男 14 P 教育 A類 32W 2 中 經適男 15 Q 教育 C類 14W 2 低 經適男 16 R IT B類 2 高 牛奮男 尼瑪 交友推薦系統(tǒng)的構造和優(yōu)化 ? 尼瑪 使用 ID3重新構造了自己的決策樹 – 按照各種分類進行屬性分裂的期望熵 ? 職業(yè)分類 IA(S)= ? 職位評級 IB(S)= ? 收入 IC’(S)=0!(這是感嘆號 ， 不是階乘 ) ? 有房有車 ID(S)= ? 債務 水平 IE(S)= 尼瑪 交友 推薦系統(tǒng)的構造和優(yōu)化
教學課件相關推薦
鄂ICP備17016276號-1