itslabtime.com

信息 · 计算机 · 人工智能基础

k 均值聚类与误差平方和

k-means 算法反复将点分配到最近的中心,并将每个中心移动到其分配到的点的平均值。聚类与基于已知标签训练的分类有所不同。

相关实验:k 均值聚类 →
k 均值聚类
k 均值聚类实验场景 →

意义与机制

给定 k 个中心,每个点被分配到最近的簇。随后,每个簇内点的平均值被用作新的中心。

将分配给附近的中心,并更新平均值——这些操作方式,旨在避免使相同的平方目标函数增加。 结果可能会因初始中心而异。

关系与条件

SSE 是所有点与其分配的中心之间的距离的平方和。 在标准迭代过程中,SSE 减少过程的中途停止,以及在所有可能的簇中找到全局最优,是两个不同的概念。

欧几里得距离和平均值在球状聚类分析中表现良好,并且也会影响结果。选择 k 值,以及用于处理异常值和稀疏聚类的处理方法,都非常重要。

观察实验中需要注意的事物

更新任务和均值,从未增加平方误差。

使用欧几里得距离和种子点。空簇保留其中心。局部最小值不是真实类别。

关键关系与符号

μⱼ = mean(xᵢ ∈ Cⱼ) · SSE = Σ‖xᵢ − μⱼ‖²

符号及公式中使用的单位
符号含义单位
k指定数量的簇个
μⱼ簇 j 的中心特征坐标
SSE簇内平方距离之和平方特征单位

工作实例

每个中心是如何更新的?

分配的平均点 · 分配和平均更新永远不会增加平方误差。

常见误解

  • 军用代码数字本身并不能保证它们具有预先存在的、正确的名称或意义。

通过实验探索这个概念

参考文献

OpenStax ·《计算机科学导论》(英文)