大模型 LLM 合成训练样本的数据分布问题

上述案例显示，模型在面对短单词（如 "a", "I"）和单词重复序列时，出现了严重的幻觉或计算错误。这与直觉相悖，通常简单的样本更容易被模型掌握。

3. 原因分析：训练数据分布偏差

通过深入分析，推测问题的根源在于测试样本的数据分布与训练样本的数据分布存在显著差异。具体表现在以下两个方面：

3.1 短单词频率过低

在原始的 3432 个单词的词汇表中，长度为 1 的单词仅有 2 个（"a", "I"）。其占比仅为 2/3432。然而，在自然语言的实际使用中，"a" 和 "I" 是极高频率的单词。由于训练数据中几乎未出现这两个词的独立或组合形式，模型未能学习到它们对应的字符计数特征。

3.2 重复序列概率极低

原始代码通过有放回地从词汇表中随机选取单词。这种机制下，连续出现相同单词（如 "mark mark mark"）的概率随着长度增加呈指数级下降。因此，训练集中几乎不存在长串的重复单词序列。当测试集引入此类模式时，模型缺乏相应的上下文经验，导致计数完全失控。

4. 解决方案：调整合成策略

基于上述假设，我们修改了合成样本的生成逻辑，旨在让训练数据的分布更贴近实际应用场景。

4.1 提升短单词权重

通过增加短单词在候选池中的出现次数，提高其在采样中被选中的概率。

# 提升短单词在单词表中的比例
self.short_words = []
for w in self.words:
    if len(w) == 1:
        self.short_words += [w] * 50
    elif len(w) == 2:
        self.short_words += [w] * 10
    elif len(w) == 3:
        self.short_words += [w] * 3

self.words_new = self.words + self.short_words

4.2 强制引入重复序列

增加生成重复单词序列的概率，确保模型能够学习到重复模式下的计数逻辑。

# 提升同一个单词在字符串中多次出现的概率
if random.random() < 0.05:
    words = random.choices(self.words_new, k=random.randint(1, 5))
else:
    words = self.words_new

if random.random() < 0.1:  
    ss = random.choices(words, k=random.randint(1, 9))
else:
    ss = random.choices(words, k=random.randint(1, 99))

注：此处逻辑调整为先生成基础词组，再根据概率决定是否扩展，同时增加了重复采样的机会。

5. 验证结果

重新训练模型后，再次对上述失败案例进行测试。结果显示，所有之前预测错误的 Case 均得到了正确解答。这表明通过调整合成数据的分布，可以有效解决模型在特定场景下的泛化失效问题。

6. 讨论：合成数据最佳实践

本案例揭示了大模型训练中一个普遍存在的问题：合成数据（Synthetic Data）并非简单的随机生成即可，必须考虑目标域的数据分布。

在进行合成数据构建时，建议遵循以下原则：

1. 分布对齐：分析真实业务场景或测试集的特征分布（如词频、句长、特殊符号比例），并在合成过程中模拟这些特征。
2. 边缘覆盖：主动构造边界条件（Edge Cases），如极短文本、极长文本、特殊字符组合、重复模式等，避免模型仅在常规分布上过拟合。
3. 多样性控制：虽然需要覆盖特定分布，但也需保持足够的多样性以防止模型死记硬背。可以通过分层采样或加权采样来实现平衡。
4. 验证闭环：在训练前，先在小规模数据上进行分布统计检查；训练后，建立专门的分布敏感型测试集（Distribution-Sensitive Test Set）来评估模型的鲁棒性。

7. 结论

在大模型训练过程中，合成训练样本的质量直接决定了模型的上限。如果测试样本的数据分布跟训练样本的数据分布差异较大，就会导致测试准确率降低，甚至出现看似荒谬的错误。因此，在合成训练样本时，应充分考虑实际使用场景的数据分布，通过加权采样、边缘注入等手段优化数据生成策略，从而提升模型的泛化能力和鲁棒性。