基于 Numpy 实现感知机模型构建与训练详解

import numpy as np def prepare_data(n=100, input_size=2): """ 生成模拟的二分类数据，用于演示 OR 门逻辑 :param n: 样本数量 :param input_size: 特征维度 :return: 输入数据 X，标签 Y """ def OR_gate(x): # 简单的 OR 逻辑：只要有一个特征大于 0.5 则为正类 w_true = np.array([0.5, 0.5]) b_true = -0.4 tmp = np.sum(w_true * x) + b_true return 1 if tmp > 0 else -1 # 生成随机输入数据，范围 [-1, 1] inputs = np.random.randn(n, input_size) # 计算真实标签 labels = np.array([OR_gate(inputs[i]) for i in range(n)]) return inputs, labels class Perceptron: """ 单神经元感知机模型 """ def __init__(self, input_size, lr=0.01): # 初始化权重为随机小值 self.w = np.random.randn(input_size) * 0.01 # 初始化偏置 self.b = np.random.randn(1) * 0.01 # 学习率 self.lr = lr def predict(self, x): """ 预测单个样本的类别 :param x: 输入特征向量 :return: 预测类别 (-1 或 1) """ tmp = np.dot(self.w, x) + self.b[0] return 1 if tmp > 0 else -1 def update(self, x, y): """ 根据误分类样本更新参数 :param x: 输入特征向量 :param y: 真实标签 (-1 或 1) """ # 梯度下降更新规则 self.w = self.w + self.lr * y * x self.b = self.b + self.lr * y if __name__ == "__main__": # 配置参数 n_samples = 1000 train_ratio = 0.8 input_dim = 2 learning_rate = 0.01 epochs = 100 print(f"正在生成 {n_samples} 个训练样本...") X, Y = prepare_data(n=n_samples, input_size=input_dim) # 划分训练集和测试集 split_idx = int(n_samples * train_ratio) train_X, train_Y = X[:split_idx], Y[:split_idx] test_X, test_Y = X[split_idx:], Y[split_idx:] # 初始化模型 model = Perceptron(input_size=input_dim, lr=learning_rate) # 打印初始预测示例 sample_idx = 0 pred_init = model.predict(train_X[sample_idx]) print(f"初始预测示例 - 输入：{train_X[sample_idx]}, 真实：{train_Y[sample_idx]}, 预测：{pred_init}") # 开始训练 print("\n开始训练...") for epoch in range(epochs): loss = 0 wrong_indices = [] # 遍历训练集统计损失和错误样本 for idx in range(len(train_X)): pred_y = model.predict(train_X[idx]) if pred_y != train_Y[idx]: wrong_indices.append(idx) # 计算当前误分类点到超平面的距离作为损失 margin = abs(np.dot(model.w, train_X[idx]) + model.b[0]) loss += margin # 输出每轮训练情况 if (epoch + 1) % 10 == 0 or epoch == 0: print(f"Epoch {epoch + 1}/{epochs} | 错误样本数：{len(wrong_indices)} | 总损失：{loss:.4f}") # 如果无错误样本，提前终止 if len(wrong_indices) == 0: print("训练收敛，无错误样本") break # 更新参数 for idx in wrong_indices: model.update(train_X[idx], train_Y[idx]) # 测试评估 print("\n开始测试...") test_wrong_num = 0 test_loss = 0.0 for j in range(test_X.shape[0]): pred_y = model.predict(test_X[j]) if pred_y != test_Y[j]: test_wrong_num += 1 margin = abs(np.dot(model.w, test_X[j]) + model.b[0]) test_loss += margin print(f"测试集错误样本数：{test_wrong_num} / {test_X.shape[0]}") print(f"测试集总损失：{test_loss:.4f}") print(f"最终权重 w: {model.w}, 偏置 b: {model.b[0]:.4f}")

基于 Numpy 实现感知机模型构建与训练详解