机器学习入门：基本概念、分类与核心算法详解

• 模型：在 AI 数据驱动的范畴内，模型指的是基于数据 X 做决策 Y 的假设函数，可以有不同的形态，计算型和规则型等。
• 算法：指学习模型的具体计算方法。统计学习基于训练数据集，根据学习策略，从假设空间中选择最优模型，最后需要考虑用什么样的计算方法求解最优模型。通常是一个最优化问题。

三、机器学习核心技术

• 分类：应用以分类数据进行模型训练，根据模型对新样本进行精准分类与预测。
• 聚类：从海量数据中识别数据的相似性与差异性，并按照最大共同点聚合为多个类别。
• 异常检测：对数据点的分布规律进行分析，识别与正常数据及差异较大的离群点。
• 回归：根据对已知属性值数据的训练，为模型寻找最佳拟合参数，基于模型预测新样本的输出值。

四、基本概念术语

• 示例/样本：数据集中的一条数据。
• 属性/特征：如「色泽」「根蒂」等。
• 属性空间/样本空间/输入空间 X：由全部属性张成的空间。
• 特征向量：空间中每个点对应的一个坐标向量。
• 标记：关于示例结果的信息，如（（色泽=青绿，根蒂=蜷缩，敲声=浊响），好瓜），其中「好瓜」称为标记。
• 分类：若要预测的是离散值，如「好瓜」、「坏瓜」，此类学习任务称为分类。
• 假设：学得模型对应了关于数据的某种潜在规律。
• 真相：潜在规律自身。
• 学习过程：是为了找出或逼近真相。
• 泛化能力：学得模型适用于新样本的能力。一般来说，训练样本越大，越有可能通过学习来获得具有强泛化能力的模型。
• 数据预处理：输入（未处理的数据 + 标签）→ 处理过程（特征处理 + 幅度缩放、特征选择、维度约减、采样）→ 输出（测试集 + 训练集）。

评估指标

• 准确率 (Accuracy)：(TP+TN) / (TP+TN+FN+FP)
• 召回率 (Recall)：TP / (TP+FN)
• 精确率 (Precision)：P = TP / (TP+FP)

五、机器学习分类

机器学习主要分为三大类：监督学习、非监督学习、强化学习，而监督学习和非监督学习中又衍生出半监督学习。

1. 监督学习 (Supervised Learning)

模型是通过输入 - 输出 (有标签的数据) 对进行训练，目标是从给定的数据中学习一个映射函数，以便在给定新的输入时，模型可以预测相应的输出。

2. 非监督学习 (Unsupervised Learning)

模型被训练在没有标签的数据上。目的是学习数据的底层结构、分布或表示，而不是预测标签。常见方式包括聚类、降维或生成模型。

无监督学习要解决的基本问题：

• A. 聚类 (Clustering)：将样本集合中相似的样本分配到相同的类别。
• B. 降维 (Dimensionality reduction)：将样本集合中的样本从高维空间转换到低维空间。
• C. 概率模型估计：假设训练数据是由某个概率模型生成的，目标是学习这个概率模型的结构和参数。

3. 强化学习 (Reinforcement Learning)

通过与环境交互来学习如何行动，从而最大化某种定义的长期回报。涉及决策问题，每个行动都会影响未来的回报。

4. 半监督学习 (Semi-supervised Learning)

介于监督式和非监督式之间。任务具有一个标记和一个未标记的数据集。通常使用小的带标签数据集和较大的未带标签数据集来进行学习。

为什么要用半监督学习？

• 数据标注成本高：收集大量数据容易，但打标签昂贵耗时。
• 利用数据的完整潜力：未标记数据包含有关数据分布的有用信息。
• 提高泛化能力：利用大量未标记数据帮助模型更好地泛化。
• 适应数据变化：在动态环境中，利用新收集的未标记数据更新模型。

六、常见算法简介

1. 监督学习算法

• 线性回归 (Linear Regression)：对数值型连续随机变量进行预测和建模。特点简单、易于理解，基于线性假设。适用于房价、股票价格预测。
• 支持向量机 (SVM)：目标在于在空间中寻找一个超平面，使得数据集可以被超平面分开。能够处理线性和非线性问题（核技巧）。适用于文本分类、图像识别。

2. 无监督学习算法

• K-均值 (K-Means)：接受参数 k，将 n 个数据对象划分为 k 个聚类。基于中心的聚类算法，迭代优化簇中心位置。适用于市场细分、图像分割。
• 主成分分析 (PCA)：一种统计方法，通过正交变换将数据转换到新的坐标系统，使得最大方差位于第一个坐标。适用于数据降维、特征提取。

3. 深度学习算法

• 卷积神经网络 (CNNs)：模仿动物神经网络行为特征，包含卷积层、池化层和全连接层。特别适合处理具有网格结构的数据，如图像。适用于图像分类、物体检测。
• 循环神经网络 (RNNs)：具有循环结构，能够处理序列数据，捕捉时间序列中的动态行为。适用于语言模型、机器翻译。

七、代码实战：基础分类示例

为了更直观地理解机器学习流程，以下提供一个基于 Python Scikit-learn 库的简单分类示例。该示例演示了如何加载数据、划分数据集、训练模型并评估效果。

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score, classification_report

# 1. 加载数据 (鸢尾花数据集)
data = load_iris()
X = data.data
y = data.target

# 2. 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=42
)

# 3. 创建并训练模型
model = LogisticRegression(max_iter=200)
model.fit(X_train, y_train)

# 4. 预测与评估
y_pred = model.predict(X_test)
print(f"准确率：{accuracy_score(y_test, y_pred):.2f}")
print(classification_report(y_test, y_pred))

通过上述步骤，我们可以看到机器学习在实际代码中的基本形态。掌握这些基础后，可以进一步探索更复杂的模型架构和应用场景。