Python怎么对用户行为数据做分群_谱聚类SpectralClustering图切分
SpectralClustering不适合直接跑原始用户行为表,因为它要求输入是样本间的相似度矩阵(n_samples, n_samples),而非原始特征矩阵(n_samples, n_features);若直接传入未构造相似矩阵的原始行为数据,会因affinity默认模式误算或维度不匹配导致全零标签、聚类失效等问题。
为什么 SpectralClustering 不适合直接跑原始用户行为表?
因为 SpectralClustering 不接受原始特征矩阵(比如用户点击次数、停留时长、页面路径编码等)直接输入——它真正需要的是一个**样本间的相似度矩阵**(即图的邻接矩阵),而不是 X 形如 (n_samples, n_features) 的常规数据。你扔进去一列 user_id 加十列行为统计,会报 ValueError: Expected 2D array, got 1D array instead 或更隐蔽地跑出全一样标签——那是没构造图就硬喂了欧氏距离默认模式。
常见错误现象:
• 聚类结果几乎全是同一类(labels_ 全为 0)
• affinity='rbf' 下对稀疏行为向量效果极差,高维下 RBF 核失效
• 用 precomputed 模式却传了距离矩阵而非相似度矩阵(符号反了)
- 先做用户行为聚合:每个用户 → 一个固定长度向量,例如
[pv, uv, avg_stay_sec, bounce_rate, n_pages, n_events] - 再计算成对相似度:推荐用
sklearn.metrics.pairwise.cosine_similarity(行为向量常稀疏且方向比模长重要) - 必须设
affinity='precomputed',否则模型会忽略你算好的相似矩阵,自己重算
怎么构造靠谱的用户相似度矩阵?别用欧式距离
用户行为数据天然高维稀疏、量纲不一(PV 是千级,bounce_rate 是 0–1)、分布偏态严重。直接用 euclidean 或 rbf 做 affinity,会导致「活跃用户彼此靠近,沉默用户被挤到角落」,切不出有意义的行为模式群。
实操建议:
• 对每列行为特征单独标准化:StandardScaler 不够,用 RobustScaler(抗异常点击)或分位数归一化(QuantileTransformer(output_distribution='uniform'))
• 相似度选 cosine:它只看向量夹角,对绝对数值不敏感,更适合「行为模式相似但活跃度不同」的场景(比如轻度学习者和重度学习者都偏好视频+测验路径)
• 矩阵要稠密且非负:如果用了 cosine_similarity,结果已在 [−1, 1],需做 sim = (sim + 1) / 2 映射到 [0, 1],否则负值会让谱聚类的拉普拉斯矩阵失去半正定性
from sklearn.metrics.pairwise import cosine_similarity from sklearn.preprocessing import QuantileTransformerX_user: (n_users, n_behavior_feats)
qt = QuantileTransformer(output_distribution='uniform') X_norm = qt.fit_transform(X_user)
sim_matrix = cosine_similarity(X_norm) sim_matrix = (sim_matrix + 1) / 2 # [0, 1]
SpectralClustering 参数怎么调才不崩?重点看 n_clusters 和 gamma
n_clusters 不能靠肘部法瞎试——谱聚类对簇数极其敏感,尤其当用户图存在自然连通分支(比如新老用户隔离、端侧差异大)时,设错一个值,整个切分就变成随机噪声。而 gamma(仅在 affinity='rbf' 时生效)在你已用 precomputed 时完全无效,设了也白设。
会译·对照式翻译
会译是一款AI智能翻译浏览器插件,支持多语种对照式翻译
- 真实有效的参数只有三个:
n_clusters、affinity='precomputed'、assign_labels='discretize'(比'kmeans'更稳,避免初始中心漂移) -
n_clusters推荐从领域知识出发:比如你怀疑有「探索型」「完成型」「放弃型」「回访型」四类,就设 4;不要无脑扫 2–10 - 若聚类后某类样本极少(sim_matrix 的最小非零值,考虑加阈值截断:
sim_matrix[sim_matrix
from sklearn.cluster import SpectralClusteringclu = SpectralClustering( n_clusters=4, affinity='precomputed', assign_labels='discretize', random_state=42 ) labels = clu.fit_predict(sim_matrix)
图切分后怎么验证不是噪声?看拉普拉斯矩阵的前 k 个特征值
谱聚类的本质,是用图拉普拉斯矩阵的前 k 个最小非零特征值对应的特征向量做嵌入。如果第 2 到第 k 个特征值非常接近(比如 gap k 分割结构,此时聚类结果不可信。
做法很简单:不用重写算法,复用 scikit-learn 内部逻辑即可:
from sklearn.cluster._spectral import spectral_embeddingembedding = spectral_embedding( sim_matrix, n_components=4, # 你想检验的 k eigen_solver='arpack' )
embedding.shape == (n_users, 4)
它的每一列对应一个特征向量,特征值隐含在求解过程里
实际需调用 scipy.sparse.linalg.eigsh 手动算,但快速判断可看 embedding 各列方差:
print([embedding[:, i].var() for i in range(4)])
若第2~4列方差都 < 1e-4,基本就是塌缩了
真正容易被忽略的点:相似度矩阵必须对称且对角线为 1(自己最像自己)。如果你用 cosine_similarity 得到的矩阵对角线是 1,没问题;但若用自定义函数漏了 np.fill_diagonal(sim_matrix, 1),会导致拉普拉斯矩阵奇异,后续 embedding 失效。