自组织映射神经网络是一个典型的非监督学习神经网络, 它根据输入样本数据自学习, 并进一步调整神经元权值进而聚类。本文利用自组织特征映射网络对相似客户进行聚类。利用同一聚类中客户兴趣特征的相似性, 进行客户未评分项目的评价值预测, 与客户评价均值^{[ 10]}相比提高了预测值的准确度, 这是由于神经网络预测方法过滤掉了与当前用户兴趣偏好偏差较大的评价值。SOM聚类过程如下:

输入: 某项目的评分向量 , 是学习率参数, 是t时刻的权重, n1是迭代次数。

输出: 经过划分后的k个向量。

方法步骤:

(1) 对于每一个输出神经元j, 将其初始权重赋值为一个很小的随机数 ;

(2) 将某向量x输入网络;

(3) 计算距离 (在M维空间):

(1)

(4) 某个神经元k距离x最近, 则认为该神经元为获胜神经元;

(5) 在近邻范围内修改所有向量的权重:

(2)

(3)

(6) 循环执行步骤(2)至步骤(5)共n1次。

初始聚类簇k的数量初值的设定非常重要, k值过大会导致同一聚类内非相似用户过多, k值过小可能会导致大量用户无法聚类, 进而会对推荐质量有较大的影响。聚类效果通常用聚类内密度和聚类间平均分离度^{[ 11, 12]}两个指标来衡量。聚类内密度是所有聚类集中数据点和中心的相似度, 值越高说明聚类效果越好, 其公式如下^{[ 11]}:

(4)

其中, 表示两个点之间距离。

聚类间平均分离度是指不同聚类中心之间的差异程度的平均值, 平均值越大说明聚类的效果越好, 其公式如下^{[ 11]}:

(5)

其中, 表示聚类中心。

传统协同过滤推荐用户聚类k值一般设定在20-40之间, 笔者分别设定k(聚类数量)初始值为12、20、28、36、44、52、60进行SOM聚类, 并通过实验确定最优初始值, 实验发现在不同聚类数量下, 聚类内密度和聚类间平均分离度效果如图2所示。同时在MovieLens数据集中抽取固定稀疏度水平的测试数据, 分别设定k初始值为12、20、28、36、44、52、60进行SOM聚类, 进而进行RBFN预测, 并通过预测值与真实评分值平均绝对误差比较不同聚类数量设定对推荐结果的影响, 实验结果如图2所示。实验发现在该数据集下平均绝对误差与聚类间平均分离度在k=36时效果最优, 聚类内密度在k=36时趋向于稳定。

图2

	Figure Option ViewDownloadNew Window
	图2 k初始值对聚类效果及推荐结果影响

通过实验数据观测训练次数为10次时, 临近神经元距离情况如图3(a)所示, 直线连接的菱形代表具体神经元, 连线代表神经元间的连接, 神经元与神经元之间深浅不同的颜色表示神经元间距离的远近, 颜色越浅表示神经元间距离越近, 颜色越深表示神经元间距离越远, 观测训练次数为50次、100次、200次时, 临近神经元距离情况如图3(b)至图3(d)所示 :

图3

	Figure Option ViewDownloadNew Window
	图3 临近神经元距离情况

经过临近神经元距离情况发现, 训练次数为200时聚类细化, 并趋向于稳定, 其输出为36个神经元间平均距离达到最大, 不同训练次数神经元间距离如图4所示:

图4

	Figure Option ViewDownloadNew Window
	图4 训练次数与神经元平均距离变化曲线

RBFN神经网络是一个有导师网络, 本文仍然将用户对项目的稀疏评分矩阵输入网络, 某用户对于未评价项目的期望输出用该用户所属聚类簇内最近邻的中心值表示。

径向基函数的核心是要构建一个合适的输出函数^{[ 12]}:

(6)

为评价向量从隐藏层至输出层的权重, 是给定的节点集, 是给定节点集中心值, 为规范化处理, 此处是激活函数。激活函数有多种形式, 如Gaussian(高斯函数), Multiquadratic(多二次函数)和 Thin-plate Spline(薄板样条函数)等。本文采用高斯函数作为径向基函数, 如下所示^{[ 12]}:

(7)

虽然高斯函数不是唯一的径向基函数, 但与其他函数相比有平滑性好、平滑不会失真、旋转对称性好等重要性质, 对评分数据的预测相比其他函数具有优势(见4.2节实验)。

RBFN神经网络补值处理过程如下:

输入: 稀疏评价矩阵 , 是某项目I激活函数的最大与最小值, 是用户i对项目j的评分, 是某用户 对项目I评分的激活函数最大值。

输出: 补值后的用户评价矩阵

补值步骤:

(1) 设定取值范围 ;

(2) 界定簇的数量k, 以使 ;

(3) for j=1 to N

①利用自组织特征映射网络, 可将某用户归入簇k。定义 ,当 时,调用 函数(参考自组织映射聚类算法);

②计算簇k的中心值, , k1为隶属于该簇的用户的数量;

③当 时, 计算矩阵欧几里德距离, 。利用公式(7)计算激活函数 ;

④利用伪随机权重函数如公式(8),计算权重 :

(8)

⑤利用公式(6)计算 。

通过以上补值算法, 原始稀疏矩阵采用RBFN被处理为完全矩阵。

输入: 补值后的用户项目评分距阵, 。 和 分别是用户i和用户j的平均评分。

输出: k个聚类簇

方法步骤:

(1) for i=1 to M; /*计算M个用户之间的相似性*/

(2) sim_count(i)=0;

(3) for j=1 to N
	  计算用户i和j的Pearson相关系数
	  if simi,j=1 then sim_count(i)=sim_count(i)+1;

(4) 鉴定Top k个相似用户作为k个聚类簇的初始用户;

(5) 将用户归入相应聚类簇中;

(6) 对M个用户循环计算步骤(3)至步骤(5)。

输入: 活动用户对项目评分, T表示待评分的项目, 表示评分值, N表示项目的数量, t表示用户i和用户j都已评过分的项目, 和 分别表示用户i和用户j的平均评分。 是用户u和m的余弦相关性, 和 分别是用户i和m的平均评分, 是用户i对项目k的评分。

输出: 该用户的推荐

推荐步骤:

(1) 如果用户没有任何历史评分记录(冷启动问题), 用户所在聚类簇的Top T项目将会向该用户推荐。

(2) 如果用户已有历史评分记录, 将通过利用Pearson相关系数鉴定该用户积极和消极邻居簇^{[ 7]}。

(9)

(3) 用余弦相关系数^{[ 8]}鉴定聚类簇中的最积极邻居(最相似)和最消极邻居(最不相似)。

(10)

(4) 最积极邻居推荐集合赋值到集合X, 最消极邻居推荐集合赋值到集合Y。

(5) 计算 。集合Z为最终推荐项目。

本文实验采用MovieLens公开数据集作为该系统的实验数据集, 该数据集共有303 448客户注册, 有效评价记录1 548 678条, 不同种类电影293 455部。同时选择不同时间阶段的数据分别作为训练集和测试集。

对于稀疏性水平为0.75、0.80、0.85、0.90、0.95(步长值为0.05)不等的评价矩阵, 利用不同激活函数处理。实验结果表明Gaussian激活函数其平均绝对误差优于其他激活函数。不同激活函数其平均绝对误差如图5所示:

图5

	Figure Option ViewDownloadNew Window
	图5 平均绝对误差与稀疏性水平

图6中横轴表示为神经元数量, 纵轴数据为神经网络实际输出与期望输出之间的差值。可以看到当神经元的数量超过250个时, 神经网络的输出与期望输出已经接近于0, 说明神经网络已经非常逼近期望输出。

图6

	Figure Option ViewDownloadNew Window
	图6 网络输出与期望输出随神经元数量增加的差值变化

经过训练后的网络基本能反映该聚类簇内用户评分与期望评分的非线性关系, 利用训练好的神经网络对稀疏评价矩阵进行仿真预测, 从而获得未评价值的期望评分值。实验过程中, 笔者从原始评价矩阵中随机去除一些真实评分, 并将去除后的评分置为0作为缺失评分。经过神经网络预测补值后可以将预测的评分数据与原始真实评分进行比较。本文从经过神经网络补值的用户项目评价矩阵中抽取30个预测补值评分, 并与原始用户- 项目的评价矩阵中的实际评分值进行比较, 比较结果如图7所示。图中蓝线为原始真实评分数据, 红线为预测补值的数据。从比较结果可以看出, 预测分值与实际分值的误差基本控制在0.5分之内。可以看到神经网络的预测值具有比较好的准确性。

图7

	Figure Option ViewDownloadNew Window
	图7 预测评价值与实际评价值的比较

可用平均绝对误差(MAE)来评价预测与最终结果的接近度, 如下所示^{[ 9]}:

分别代表用户数量, 项目数量, 用户i对项目j的预测评分和用户i对项目j的实际评分。预测数据与真实数据的偏差通过平均绝对差来检测, 本方案与经典的奇异值分解协同过滤以及平均分预测协同过滤的MAE如图8所示:

图8

	Figure Option ViewDownloadNew Window
	图8 不同推荐模型平均绝对误差比较

本文提出的方案要优于简单协同过滤, 因为在补值后的聚类的数量要远远小于补值前的聚类数量。在奇异值分解协同过滤中, 只有低纬度的数据被用来预测活动用户的值, 所以其准确性要远远小于本方案, 同时神经网络的训练因过滤掉了评价偏差较大的评分值所以准确性要优于平均分预测协同过滤。

精度(Precision)的定义: 推荐的项目除以总推荐项目。召回率(Recall)是推荐的相关项目除以总相关项目(应当检索到的)^{[ 13]}。

召回率与精度通常是一对相互矛盾的指标, 实验过程中通常采用F-Measure^{[ 14]}指标来进行检验, 这个指标混合了精度和召回率, 计算方法如下:

同奇异值分解协同过滤与平均分协同过滤进行比较, 本文F-Measure的观察结果如下:

(1) 本推荐方法的精度要超过奇异值分解协同过滤与平均分协同过滤30%;

(2) 本推荐方法的召回率要超过奇异值分解协同过滤与平均分协同过滤35%。