本文仅为本人的学习笔记


文章目录

    • 什么是协同过滤?
    • 用户相似度计算(Similarity Calculation)
      • 1.余弦相似度(Cosine Similarity)
      • 2.皮尔逊相关系数(Pearson’s Correlation)
      • 3.杰卡德相似度计算(Jaccard coefficient)
    • 杰卡德相似度计算代码实现
      • 1.构造数据集
      • 2.只计算2个用户之间的相似度
      • 3.计算所有用户之间的相似度
      • 4.构建推荐结果(基于用户相似度)

什么是协同过滤?

协同过滤(Collaborative Filtering)就是协同大家的反馈,评价和意见一起对海量的信息进行过滤,从中筛选出目标用户可能感兴趣的信息的推荐过程。

其实它的算法思想就是:物以类聚,人以群分
协同过滤算法一般有2种,一种是基于用户的协同过滤算法,一种是基于物品的协同过滤算法。
基于用户(user-based):跟你喜好相似的人喜欢的东西你也很可能喜欢;
基于物品(item-based):跟你喜欢的东西相似的东西你也很可能喜欢;

用户相似度计算(Similarity Calculation)

1.余弦相似度(Cosine Similarity)

余弦相似度衡量了用户向量i和用户向量j之间的向量夹角大小,夹角越小,证明余弦相似度越大,两个用户越相似
如下图所示,但是很明显,余弦相似度这个方法不考虑长度,只考虑大方向。所以使用余弦相似度计算出的相似度结果有时是不靠谱的。

2.皮尔逊相关系数(Pearson’s Correlation)

皮尔逊相关系数是对余弦相似度的一个优化,它通过使用用户平均分对各独立评分进行修正,比余弦相似度更多的考虑了长度。即向量a,b各自减去向量的均值后,再计算余弦相似度

3.杰卡德相似度计算(Jaccard coefficient)

以上2种,都是针对于 评分数据是连续的数值,那么如果评分是0,1这种布尔类型的,那么它的相似度通常使用杰卡德相似度计算方法。杰卡德计算方法是 交集/并集


杰卡德相似度计算代码实现

1.构造数据集

创建一个数据集,下面我们使用1和0来表示用户是否购买过该用品

users=["User1","User2","User3","User4","User5"]items=["Item A","Item B","Item C","Item D","Item E"]datasets=[    [1,0,1,1,0],    [1,0,0,1,1],    [1,0,1,0,0],    [0,1,0,1,1],    [1,1,1,0,1]]import pandas as pddf=pd.DataFrame(datasets,                columns=items,                index=users)print(df)

运行结果:

2.只计算2个用户之间的相似度

很明显我们的数据是1,0这种布尔类型的,所以比较适合用杰卡德相似度计算的方法

from sklearn.metrics import jaccard_similarity_scorejaccard_similarity_score(df['Item A'],df['Item B'])

结果正确,但是有报错:

原因是:

3.计算所有用户之间的相似度

from sklearn.metrics.pairwise import pairwise_distancesuser_similar=1-pairwise_distances(df,metric='jaccard')user_similar=pd.DataFrame(user_similar,columns=users,index=users)user_similar

但是结果报错:
解决方法,改成以下代码即可:
参考链接:为什么会出现’DataFrame’ object has no attribute ‘dtype’

user_similar=1-pairwise_distances(df.values,metric='jaccard')user_similar=pd.DataFrame(user_similar,columns=users,index=users)user_similar

运行结果:

4.构建推荐结果(基于用户相似度)

为每一个用户找到最相似的2个用户

  • loc[i]:通过行标签索引数据
  • pandas中的sort_values()函数原理类似于SQL中的order by,可以将数据集依照某个字段中的数据进行排序。ascending值表示是否按指定列的数组升序排列,默认为True,即升序排列
  • index[:2]表示从排序之后的结果中切片,取出前两条(相似度最高的两个)
topN_users={}#用来记录相似度最高的几个用户#遍历每一行数据for i in user_similar.index:    #取出每一列数据,并删除自身,然后排序数据,你会发现自身的相似度都是1,下面这句话也就是删除了对角线上的元素。    _df=user_similar.loc[i].drop([i])    _df_sorted=_df.sort_values(ascending=False)    top2=list(_df_sorted.index[:2])    topN_users[i]=top2print("Top2相似用户:")topN_users

运行结果如下:

**根据topN的相似用户构建推荐结果

  • List item
import numpy as nprs_results = {}# 构建推荐结果for user, sim_users in topN_users.items():    rs_result = set()    # 存储推荐结果    for sim_user in sim_users:        # 构建初始的推荐结果        rs_result = rs_result.union(set(df.ix[sim_user].replace(0,np.nan).dropna().index))    # 过滤掉已经购买过的物品    rs_result -= set(df.ix[user].replace(0,np.nan).dropna().index)    rs_results[user] = rs_resultprint("最终推荐结果:")rs_results

运行结果: