混合专家网络 MOE 技术原理与代码实战

2.3 业务代码实践

2.3.1 业务场景与建模

我们以小红书推荐场景为例，用户在一级发现页场景中停留并点击了'误杀 3'中的一个视频笔记，在二级场景视频播放页中观看并点赞了视频。

我们构建一个 100 维特征输入，4 个 experts 专家网络，2 个 task 任务的，1 个门控的 MoE 网络，用于建模跨场景多任务学习问题，模型架构图如下：

如架构图所示，其中有几个注意的点：

**num_experts：**门控 gate 的输出维度和专家数相同，均为 num_experts，因为 gate 的用途是对专家网络最后一层进行加权平均，gate 维度与专家数是直接对应关系。 **output_experts_dim：**专家网络的输出维度和 task 网络的输入维度相同，task 网络承接的是专家网络各维度的加权平均值，experts 网络与 task 网络是直接对应关系。 **Softmax：**Gate 门控网络对最后一层采用 Softmax 归一化，保证专家网络加权平均后值域相同。

2.3.2 模型代码实现

基于 PyTorch，实现上述网络架构，如下：

import torch
import torch.nn as nn
import torch.optim as optim
from torch.utils.data import DataLoader, TensorDataset

class MoEModel(nn.Module):
    def __init__(self, input_dim, experts_hidden1_dim, experts_hidden2_dim, output_experts_dim, task_hidden1_dim, task_hidden2_dim, output_task1_dim, output_task2_dim, gate_hidden1_dim, gate_hidden2_dim, num_experts):
        super(MoEModel, self).__init__()
        self.num_experts = num_experts
        self.output_experts_dim = output_experts_dim
        
        # 初始化多个专家网络
        self.experts = nn.ModuleList([
            nn.Sequential(
                nn.Linear(input_dim, experts_hidden1_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden1_dim, experts_hidden2_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden2_dim, output_experts_dim),
                nn.ReLU()
            ) for _ in range(num_experts)
        ])
        
        # 定义任务 1 的输出层
        self.task1_head = nn.Sequential(
            nn.Linear(output_experts_dim, task_hidden1_dim),
            nn.ReLU(),
            nn.Linear(task_hidden1_dim, task_hidden2_dim),
            nn.ReLU(),
            nn.Linear(task_hidden2_dim, output_task1_dim),
            nn.Sigmoid()
        )
        
        # 定义任务 2 的输出层
        self.task2_head = nn.Sequential(
            nn.Linear(output_experts_dim, task_hidden1_dim),
            nn.ReLU(),
            nn.Linear(task_hidden1_dim, task_hidden2_dim),
            nn.ReLU(),
            nn.Linear(task_hidden2_dim, output_task2_dim),
            nn.Sigmoid()
        )
        
        # 初始化门控网络
        self.gating_network = nn.Sequential(
            nn.Linear(input_dim, gate_hidden1_dim),
            nn.ReLU(),
            nn.Linear(gate_hidden1_dim, gate_hidden2_dim),
            nn.ReLU(),
            nn.Linear(gate_hidden2_dim, num_experts),
            nn.Softmax(dim=1)
        )

    def forward(self, x):
        # 计算输入数据通过门控网络后的权重
        gates = self.gating_network(x)
        batch_size, _ = x.shape
        task1_inputs = torch.zeros(batch_size, self.output_experts_dim)
        task2_inputs = torch.zeros(batch_size, self.output_experts_dim)
        
        # 计算每个专家的输出并加权求和
        for i in range(self.num_experts):
            expert_output = self.experts[i](x)
            task1_inputs += expert_output * gates[:, i].unsqueeze(1)
            task2_inputs += expert_output * gates[:, i].unsqueeze(1)
            
        task1_outputs = self.task1_head(task1_inputs)
        task2_outputs = self.task2_head(task2_inputs)
        return task1_outputs, task2_outputs

# 实例化模型对象
num_experts = 4
experts_hidden1_dim = 64
experts_hidden2_dim = 32
output_experts_dim = 16
gate_hidden1_dim = 16
gate_hidden2_dim = 8
task_hidden1_dim = 32
task_hidden2_dim = 16
output_task1_dim = 3
output_task2_dim = 2

# 构造虚拟样本数据
torch.manual_seed(42)
input_dim = 10
num_samples = 1024
X_train = torch.randint(0, 2, (num_samples, input_dim)).float()
y_train_task1 = torch.rand(num_samples, output_task1_dim)
y_train_task2 = torch.rand(num_samples, output_task2_dim)

# 创建数据加载器
train_dataset = TensorDataset(X_train, y_train_task1, y_train_task2)
train_loader = DataLoader(train_dataset, batch_size=128, shuffle=True)

model = MoEModel(input_dim, experts_hidden1_dim, experts_hidden2_dim, output_experts_dim, task_hidden1_dim, task_hidden2_dim, output_task1_dim, output_task2_dim, gate_hidden1_dim, gate_hidden2_dim, num_experts)

# 定义损失函数和优化器
criterion_task1 = nn.MSELoss()
criterion_task2 = nn.MSELoss()
optimizer = optim.Adam(model.parameters(), lr=0.001)

# 训练循环
num_epochs = 100
for epoch in range(num_epochs):
    model.train()
    running_loss = 0.0
    for batch_idx, (X_batch, y_task1_batch, y_task2_batch) in enumerate(train_loader):
        outputs_task1, outputs_task2 = model(X_batch)
        loss_task1 = criterion_task1(outputs_task1, y_task1_batch)
        loss_task2 = criterion_task2(outputs_task2, y_task2_batch)
        total_loss = loss_task1 + loss_task2
        optimizer.zero_grad()
        total_loss.backward()
        optimizer.step()
        running_loss += total_loss.item()
    if epoch % 10 == 0:
        print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {running_loss/len(train_loader):.4f}')

print(model)
for param_tensor in model.state_dict():
    print(param_tensor, "\t", model.state_dict()[param_tensor].size())

# 模型预测
model.eval()
with torch.no_grad():
    test_input = torch.randint(0, 2, (1, input_dim)).float()
    pred_task1, pred_task2 = model(test_input)
    print(f'一级场景预测结果：{pred_task1}')
    print(f'二级场景预测结果：{pred_task2}')

2.3.3 模型训练与推理测试

运行上述代码，模型启动训练，Loss 逐渐收敛，测试结果如下：

2.3.4 打印模型结构

使用 print(model) 打印模型结构如下：

三、总结

本文从代码级讲解了 DeepSeek 大模型、MMoE 推荐模型中的 MoE（Mixture-of-Experts）技术。该技术的主要思想是通过门控（gate）或路由（router）网络，对多个专家进行加权平均或筛选，将一个 DNN 网络裂变为多个 DNN 网络后，投票决定预测结果。相较于单一的 DNN 网络，具有更强的容错性、泛化性与准确性，同时可以提高推理速度，节省推理资源。

技术洞察结论：MoE 技术未来将成为大模型和推荐系统进一步突破的关键技术，该技术为算法基础技术中的 SOTA。通过动手实现一个 MoE，再基于自己的业务场景，对齐专家网络、门控网络、任务网络进行创新，可更好地应用该技术。