随机森林算法原理与 Python 实战代码

2. 模型构建、训练与评估流程

（1）模型构建与训练

# 导入库
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import classification_report, accuracy_score

# 构建模型
model = RandomForestClassifier(
    n_estimators=10, # 10 棵决策树
    criterion='gini', # 基尼系数分裂
    max_depth=None, # 不限制树深度
    random_state=123 # 固定随机种子
)

# 训练模型（X 为特征矩阵，y 为标签）
model.fit(X_train, y_train)

（2）模型评估

随机森林的评估指标与分类任务一致，核心指标包括准确率（Accuracy）、精准率（Precision）、召回率（Recall）、F1-score 等，使用 Scikit-learn 的内置函数即可实现：

# 预测测试集
y_pred = model.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print(f"模型准确率：{accuracy:.3f}")

# 输出详细分类报告
print(classification_report(y_test, y_pred))

# 查看特征重要性
import pandas as pd
feature_importance = pd.DataFrame({
    '特征': feature_names,
    '重要性': model.feature_importances_
}).sort_values('重要性', ascending=False)
print("特征重要性排名：")
print(feature_importance)

3. 函数使用注意事项

1. 数据预处理：随机森林无法直接处理字符串类型数据，需对分类特征进行编码（如 OrdinalEncoder、OneHotEncoder）；
2. 参数调优：n_estimators和max_depth是影响模型性能的关键参数，需通过交叉验证（如GridSearchCV）优化；
3. 避免过拟合：当模型在训练集准确率远高于测试集时，可适当减小max_depth、增加min_samples_split或减少n_estimators；
4. 数据平衡：若数据集存在类别不平衡（如正例占比 10%，负例占比 90%），需通过class_weight="balanced"或采样方法调整。

四、实战案例：构建数据集分析'市民属性与购车行为'

1. 数据集构建

模拟某市市民属性数据，包含 5 个特征和 1 个目标变量（是否购车），共 100 条样本：

import pandas as pd
import numpy as np

# 设置随机种子
np.random.seed(123)

# 构建数据集
data = {
    'age': np.random.choice(['30-', '31-40', '41-50', '51+'], size=100), # 年龄区间
    'gender': np.random.choice(['male', 'female'], size=100), # 性别
    'annual_income': np.random.choice(['10-20w', '21-40w', '41w+'], size=100), # 年收入
    'marital_status': np.random.choice(['是', '否'], size=100), # 婚姻状态（是否已婚）
    'has_child': np.random.choice([0, 1], size=100), # 是否有小孩（0=无，1=有）
    'buy_car_sign': np.random.choice([0, 1], size=100, p=[0.6, 0.4]) # 是否购车（0=否，1=是）
}
df = pd.DataFrame(data)
print("数据集前 5 行：")
print(df.head())
print("\n数据集基本信息：")
print(df['buy_car_sign'].value_counts()) # 查看类别分布

2. 数据预处理

对字符串类型特征进行编码，将分类特征转换为数值型：

from sklearn.preprocessing import OrdinalEncoder
from sklearn.model_selection import train_test_split

# 分离特征（X）和目标变量（y）
X = df[['age', 'gender', 'annual_income', 'marital_status', 'has_child']]
y = df['buy_car_sign']

# 对分类特征编码
encoder = OrdinalEncoder()
X_encoded = encoder.fit_transform(X)

# 划分训练集和测试集（8:2）
X_train, X_test, y_train, y_test = train_test_split(
    X_encoded, y, train_size=0.8, random_state=123
)
print("训练集形状：", X_train.shape)
print("测试集形状：", X_test.shape)

3. 模型构建与训练

from sklearn.ensemble import RandomForestClassifier

# 构建随机森林模型
rf_model = RandomForestClassifier(
    n_estimators=50, # 50 棵决策树
    criterion='gini',
    max_depth=5, # 限制树深度，防止过拟合
    random_state=123
)

# 训练模型
rf_model.fit(X_train, y_train)

4. 模型评估

from sklearn.metrics import accuracy_score, classification_report
import pandas as pd

# 预测与评估
y_pred = rf_model.predict(X_test)
accuracy = accuracy_score(y_test, y_pred)
print(f"模型测试集准确率：{accuracy:.3f}")

# 输出分类报告
print("\n分类报告：")
print(classification_report(y_test, y_pred))

# 特征重要性分析
feature_names = ['年龄', '性别', '年收入', '婚姻状态', '是否有小孩']
importance_df = pd.DataFrame({
    '特征': feature_names,
    '重要性': rf_model.feature_importances_
}).sort_values('重要性', ascending=False)
print("\n特征重要性排名：")
print(importance_df)

5. 预测新数据

# 构建新样本（年龄：31-40，性别：male，年收入：21-40w，婚姻状态：是，是否有小孩：1）
new_sample = encoder.transform([['31-40', 'male', '21-40w', '是', 1]])

# 预测是否购车
pred_result = rf_model.predict(new_sample)[0]
pred_prob = rf_model.predict_proba(new_sample).max()
print(f"\n新样本预测结果：{'购车' if pred_result == 1 else '不购车'}")
print(f"预测概率：{pred_prob:.3f}")

6. 实战结论

1. 模型准确率达到 80% 以上，说明随机森林能有效捕捉市民属性与购车行为的关联；
2. 特征重要性显示'年收入'和'是否有小孩'是影响购车决策的核心因素，这与实际业务逻辑一致（高收入和有小孩的家庭购车需求更强）；
3. 新样本预测结果显示，31-40 岁、中等收入、已婚且有小孩的男性用户购车概率较高，可为汽车销售业务提供精准营销方向。

五、总结

随机森林是一种'简单实用、效果稳定'的集成学习算法，通过双重随机性解决了单一决策树的过拟合问题，同时保留了决策树易理解、无需复杂预处理的优点。在实际应用中，只需注意数据编码、参数调优和类别平衡，就能快速构建高性能的预测模型。

无论是新手入门机器学习，还是业务场景中的快速建模，随机森林都是优先选择的算法之一。后续可进一步尝试调整 n_estimators、max_depth 等参数，或结合网格搜索进行超参数优化，进一步提升模型性能。