使用纯 C++ 从零实现 K-Means 聚类算法的过程。内容包括算法背景、需求分析、核心思想（初始化、分配、更新）、代码实现及解读。通过不依赖第三方库的方式，展示了迭代优化与距离度量的工程实践。文章提供了完整的头文件与源文件代码，并分析了算法的优缺点及扩展方向，适合机器学习初学者理解无监督学习原理及 C++ 数值计算实现。
在数据分析、机器学习、模式识别以及人工智能领域中，聚类（Clustering） 是一种极其重要的无监督学习方法。与分类（Classification）不同，聚类并不依赖任何已知标签，而是试图从数据本身的结构中，自动发现潜在的分组模式。
在所有聚类算法中，K-Means 聚类算法 几乎是：
📌 如果说'回归'是理解监督学习的起点，那么 K-Means 就是理解无监督学习的起点。
聚类在现实中的应用极其广泛，例如：
在这些应用中，我们通常面对的问题是：
给定一批无标签样本，如何自动将其分成若干'相似'的组？
虽然现成库（如 scikit-learn、OpenCV、MLPack）非常成熟，但亲自实现 K-Means 具有不可替代的教学与工程价值：
本项目的目标是：
用纯 C++ 从零实现一个教学级但工程可用的 K-Means 聚类算法
特点包括：
本项目需要实现以下功能：
核心接口示例：
class KMeans {
public:
KMeans(int k, int maxIter);
void fit(const std::vector<std::vector<double>>& data);
const std::vector<int>& labels() const;
const std::vector<std::vector<double>>& centroids() const;
};
K-Means 的思想极其简单，但非常优雅：
优点：
缺点：
输入数据 X，聚类数 K
随机选择 K 个样本作为初始中心
repeat:
对每个样本: 计算其到各中心的距离
分配给最近的中心
对每个簇: 重新计算中心点（均值）
直到中心点变化小于阈值 或达到最大迭代次数
原因：
采用以下任一条件停止：
/******************************************************
* File: kmeans.h
******************************************************/
#ifndef KMEANS_H
#define KMEANS_H
#include <vector>
class KMeans {
public:
KMeans(int k, int maxIterations = 100);
void fit(const std::vector<std::vector<double>>& data);
const std::vector<int>& labels() const;
const std::vector<std::vector<double>>& centroids() const;
private:
int K; // 聚类数
int maxIter; // 最大迭代次数
int dim; // 数据维度
std::vector<int> labelVec; // 每个样本的簇标签
std::vector<std::vector<double>> centerVec; // 聚类中心
double distanceSquared(const std::vector<double>& a, const std::vector<double>& b);
};
#endif
/******************************************************
* File: kmeans.cpp
******************************************************/
#include "kmeans.h"
#include <random>
#include <limits>
#include <stdexcept>
#include <cmath>
KMeans::KMeans(int k, int maxIterations) : K(k), maxIter(maxIterations), dim(0) {
if (K <= 0) throw std::invalid_argument("K must be positive");
}
double KMeans::distanceSquared(const std::vector<double>& a, const std::vector<double>& b) {
double sum = 0.0;
for (size_t i = 0; i < a.size(); ++i) {
double diff = a[i] - b[i];
sum += diff * diff;
}
return sum;
}
void KMeans::fit(const std::vector<std::vector<double>>& data) {
if (data.empty()) throw std::invalid_argument("Empty dataset");
int n = static_cast<int>(data.size());
dim = static_cast<int>(data[0].size());
labelVec.assign(n, 0);
centerVec.assign(K, std::vector<double>(dim, 0.0));
/* 随机初始化聚类中心 */
std::random_device rd;
std::mt19937 gen(rd());
std::uniform_int_distribution<> dist(0, n - 1);
for (int k = 0; k < K; ++k) centerVec[k] = data[dist(gen)];
/* 迭代优化 */
for (int iter = 0; iter < maxIter; ++iter) {
bool changed = false;
/* 分配步骤 */
for (int i = 0; i < n; ++i) {
double minDist = std::numeric_limits<double>::max();
int bestCluster = 0;
for (int k = 0; k < K; ++k) {
double d = distanceSquared(data[i], centerVec[k]);
if (d < minDist) {
minDist = d;
bestCluster = k;
}
}
if (labelVec[i] != bestCluster) {
labelVec[i] = bestCluster;
changed = true;
}
}
/* 若标签不再变化，提前收敛 */
if (!changed) break;
/* 更新步骤 */
std::vector<std::vector<double>> newCenters(
K, std::vector<double>(dim, 0.0));
std::vector<int> counts(K, 0);
for (int i = 0; i < n; ++i) {
int k = labelVec[i];
for (int j = 0; j < dim; ++j) newCenters[k][j] += data[i][j];
counts[k]++;
}
for (int k = 0; k < K; ++k) {
if (counts[k] == 0) continue;
for (int j = 0; j < dim; ++j) newCenters[k][j] /= counts[k];
}
centerVec = newCenters;
}
}
const std::vector<int>& KMeans::labels() const {
return labelVec;
}
const std::vector<std::vector<double>>& KMeans::centroids() const {
return centerVec;
}
/******************************************************
* File: main.cpp
******************************************************/
#include <iostream>
#include "kmeans.h"
int main() {
std::vector<std::vector<double>> data = {
{1.0, 2.0},
{1.5, 1.8},
{5.0, 8.0},
{8.0, 8.0},
{1.0, 0.6},
{9.0, 11.0}
};
KMeans kmeans(2, 100);
kmeans.fit(data);
std::cout << "Cluster labels:\n";
for (int label : kmeans.labels()) std::cout << label << " ";
std::cout << "\n";
std::cout << "Centroids:\n";
for (const auto& c : kmeans.centroids()) {
for (double v : c) std::cout << v << " ";
std::cout << "\n";
}
return 0;
}
fitdistanceSquaredlabels 与 centroids通过本项目，我们：
该实现：
A：不能，只能保证局部最优。
A：可以使用 K-Means++ 初始化策略。
A：支持，但距离计算成本会上升。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online