dataset 會是 m 個用戶對 n 個物品的評分 utility matrix
因為通常只有部分用戶和部份物品會有評分資料
所以是一個 sparse matrix（稀疏矩陣）
目標是利用這些稀疏的資料去預測出用戶對他還沒評分過的物品的評分
除了評分之外，也可能是喜歡（和不喜歡）、購買、瀏覽之類的數據
又分成主動評分和被動評分
CF 的缺點：
- 如果沒有用戶的歷史數據就沒辦法做任何推薦
- 以及無論 user-based 或 item-based 都需要消耗大量的運算資源
- 大部分用戶有評分紀錄的資料都只佔所有資料中的很小一部分，matrix 相當稀疏，很難找到相似的資料
- 會有馬太效應，越熱門的物品越容易被推薦，所以通常都會降低熱門物品的權重
CF 主要分為 memory-based 和 model-based 兩大類
user-based 和 item-based collaborative filtering 屬於 memory-based
memory-based 基本上就是純粹的計算，沒有什麼 Machine Learning 的成分
model-based 才是 Machine Learning 的範疇
User-based Collaborative Filtering
item_a item_b item_c
user_1 2 - 3
user_2 5 2 -
user_3 3 3 1
user_4 - 2 2# the algorithm from "Mahout in Action"
for every other user w
compute a similarity s between u and w
retain the top users, ranked by similarity, as a neighborhood n
for every item i that some user in n has a preference for,
but that u has no preference for yet
for every other user v in n that has a preference for i
compute a similarity s between u and v
incorporate v's preference for i, weighted by s, into a running averageuser-based 考慮的是 user 和 user 之間的相似程度
給定一個用戶 A
計算用戶 A 跟其他所有用戶的相似度
找出最相似的 m 個用戶
再找出這些用戶有評分但是用戶 A 沒有評分的物品（也可以額外限制至少要幾個用戶有評分過）
以「相似用戶的相似度」和「該用戶對該物品的評分」來加權算出用戶 A 對這些未評分物品的評分
最後推薦給 A 評分最高的 n 個物品
預測 user_4 對 item_a 的評分 =
(user_4_user_1_sim x user_1_item_a_rating + user_4_user_3_sim x user_3_item_a_rating) / (user_4_user_1_sim + user_4_user_3_sim)
user-based 的特點：
- 適合 user 遠少於 item 的系統，相似度的計算量會較少
- item 的時效性強、更多樣的系統，例如新聞、社交網站，適合用 user-based CF
- 不容易給出推薦理由
- 驚喜度較高
常用的相似度演算法：
- Pearson Correlation Coefficient
- Cosine Similarity
- Adjusted Cosine Similarity（有些用戶傾向於對所有物品評高分或低分，這個計算方式可以消除這樣的影響）
ref:
https://www.safaribooksonline.com/library/view/mahout-in-action/9781935182689/kindle_split_013.html
Item-based Collaborative Filtering
user_1 user_2 user_3 user_4
item_a 2 5 3 -
item_b - 2 3 2
item_c 3 - 1 2# the algorithm from "Mahout in Action"
for every item i that u has no preference for yet
for every item j that u has a preference for
compute a similarity s between i and j
add u's preference for j, weighted by s, to a running average
return the top items, ranked by weighted averageitem-based 考慮的是 item 和 item 之間的相似程度
item-based 用的還是跟 user-based CF 一模一樣的資料
而不是使用 item 本身的特徵（那個叫 content-based）
如果物品數比用戶數還少得多的話
可以事先計算好所有物品之間的相似度
給定一個用戶 A
找出用戶 A 的所有未評分物品
以「用戶 A 的已評分物品對該未評分物品的相似度」和「用戶 A 對已評分物品的評分」來加權算出用戶 A 對這些未評分物品的評分
最後推薦給用戶 A 評分最高的 n 個物品
預測 user_4 對 item_a 的評分 =
(item_b_item_a_sim x user_4_item_b_rating + item_c_item_a_sim x user_4_item_c_rating) / (item_b_item_a_sim + item_c_item_a_sim)
也可以無視用戶 A 的歷史評分資料（或是根本沒有用戶 A 的歷史資料）
直接推薦跟某個物品最相似的 n 個物品
item-based 的特點：
- 適合 item 遠少於 user 的系統，相似度的計算量會較少
- 購物、電影、音樂、書籍等系統，用戶的興趣相對固定，適合用 item-based CF
- 只會推薦類似的東西，驚喜度和多樣性較低
- 通常只有在用戶量比較小的時候才需要頻繁地重新計算物品之間的相似度，隨著用戶量越大，物品的相似度會趨於穩定
ref:
https://ashokharnal.wordpress.com/2014/12/18/worked-out-example-item-based-collaborative-filtering-for-recommenmder-engine/
http://blog.csdn.net/huagong_adu/article/details/7362908
Slope One Recommender
item_a item_b item_c
user_1 5 3 2
user_2 3 4 -
user_3 - 2 5# the algorithm from "Mahout in Action"
for every item i the user u expresses no preference for
for every item j that user u expresses a preference for
find the average preference difference between j and i
add this diff to u's preference value for j
add this to a running average
return the top items, ranked by these averages因為 memory-based collaborative filtering 的其中一個問題是數據量很大時計算量也會很可觀
所有就有人提出 Slope One 這種簡單粗暴的演算法來
雖然 Slope One 還是得計算所有物品兩兩之間的平均差異
Slope One 假設任兩個物品之間的評分都是一個 y = mx + b 而且 m = 1（斜率為 1）的線性關係
item_a 平均比 item_b 多 (2 + (-1)) / 2 = 0.5
item_a 平均比 item_c 多 (5 - 2) / 1 = 3
如果用 user_3 對 item_b 的評分來預測他對 item_a 的評分會是 2 + 0.5 = 2.5
如果用 user_3 對 item_c 的評分來預測他對 item_a 的評分會是 5 + 3 = 8
通常會用有多少人同時評分來加權多個評分
預測 user_3 對 item_a 的評分 =
((同時對 item_a 和 item_b 評分的人數 x user_3 用 item_b 對 item_a 的預測評分) + (同時對 item_a 和 item_c 評分的人數 x user_3 用 item_c 對 item_a 的預測評分)) / (同時對 item_a 和 item_b 評分的人數 + 同時對 item_a 和 item_c 評分的人數)
((2 x 2.5) + (1 x 8)) / (2 + 1) = 4.33