大语言模型规模扩张虽带来能力提升，但并不意味着能无限通向 AGI。高质量训练数据趋近极限，单纯依赖扩展难以实现通用智能。缩放定律常被误读，其主要量化的是困惑度降低，而非真正的智能飞跃。
大语言模型（LLM）的规模扩张确实带来了能力的提升，但这是否意味着趋势会无限延续？
业界有一种流行观点认为，当前的增长趋势将持续数个数量级，甚至通向通用人工智能（AGI）。然而，这种乐观预期往往建立在若干误解之上。
缩放定律的可预测性常被误读。事实上，高质量训练数据可能已接近枯竭，模型规模的扩张正面临瓶颈。尽管无法精确预判 AI 发展的终点，但单纯依靠扩大规模恐怕难以实现 AGI。
研究表明，随着模型参数量、计算量和数据集规模的增加，语言模型的表现确实在提升。这种规律在多个数量级上表现稳定，这也是许多人坚信领先公司会持续发布更大模型的原因。
但这其实是对缩放定律的曲解。究竟什么是'更好'？定律仅量化了困惑度（Perplexity）的降低，即模型预测下一个 token 的概率分布更准确，但这并不等同于智能或推理能力的线性飞跃。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
随机生成西班牙地址（支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选），支持数量快捷选择、显示全部与下载。 在线工具，随机西班牙地址生成器在线工具，online
基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印，支持批量处理与下载。 在线工具，Gemini 图片去水印在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
