调参手记：Temperature 与 Top-P 如何影响模型输出
经常看到有人抱怨：同样的 prompt，大模型一会儿给严谨的答案，一会儿又胡说八道。其实很多时候不是 prompt 的问题，而是请求里两个参数——Temperature 和 Top-P——没设对。这俩东西控制着模型输出的随机性和确定性，直接影响你拿到的结果。下面聊聊它们到底干了什么，以及针对不同任务该怎么设。
Temperature 缩放概率，Top-P 裁剪候选
大模型在生成下一个词时，会为所有可能的词计算一个概率分布。Temperature 做的事情很简单：把这个概率分布的'陡峭程度'缩放一下。值小于 1 时，模型更偏爱高概率词，输出偏保守；大于 1 时，低概率词被拉高，模型更愿意冒险，但也更容易跑偏。取 0 的话，模型每次都选概率最高的那个词，完全没了随机性。
Top-P 的逻辑不一样。它不是缩放概率，而是直接砍掉那些概率太低、累加起来不到 P 的词。模型先把候选词按概率从高到低排好，然后从最高的开始累加，直到累加值达到 P。只有这些词会进入备选池子，其他的直接丢弃。P 越小，池子越小，输出越集中；P=1 时，所有词都在池子里，等同于没有限制。
这两个参数经常被一起用，但它们的作用机制不同：Temperature 改变'谁更可能被选中'，Top-P 改变'有多少个能被选中'。不少人以为随便调一个就行，实际上想精确控制输出，两个都得考虑。
几个典型场景下的表现
接下来看四个常见任务，搭配不同参数会有什么效果。每个例子都基于同一个 prompt，只变参数，你可以感受一下差异。
学术写作：要的就是稳定可靠
任务：生成一个关于'AI 在医学影像诊断中的应用'的摘要，要求引用准确数据。
低 Temperature + 低 Top-P（T=0.2, P=0.3）
# 人工智能在医学影像诊断中的应用现状
人工智能（AI）在医学影像诊断领域的应用已逐步从实验室走向临床，其中卷积神经网络（CNN）与视觉 Transformer（ViT）是当前主流核心技术。据《Nature Medicine》2024 年研究数据显示，基于 CNN 的肺癌 CT 影像诊断模型准确率可达 94.2%，较传统人工诊断（平均准确率 88.6%）提升 5.6 个百分点；ViT 模型在乳腺 X 线影像诊断中的误诊率低至 3.1%，显著优于传统机器学习方法（误诊率 7.8%）。当前应用的现存挑战主要包括三方面：1）数据质量差异——不同医院影像设备的分辨率、成像标准不统一，导致模型泛化能力下降；2）标注数据稀缺——罕见病影像样本量不足，限制模型对小众病例的诊断能力；3）临床信任度——医生对 AI 诊断结果的解释性需求未被满足，部分场景下仍依赖人工复核。未来需通过多中心数据共享、半监督学习技术优化及可解释 AI（XAI）研发，进一步推动 AI 在医学影像诊断中的规模化应用。
输出很规矩，数据、结构都挑不出毛病，但多跑几次你会发现它基本就是换个说法，框架雷打不动。学术或报告场景下这是优点，但想让它给你点不同角度的启发就不太现实。
高 Temperature + 高 Top-P（T=1.5, P=0.9）
# 人工智能赋能医学影像：从像素到诊断的革命
当 AI 的'眼睛'透过 CT 影像的像素纹理捕捉到早期肺癌的细微征兆时，医学诊断的范式正悄然改变。除了广为人知的 CNN 模型，近期兴起的'混合注意力网络'（一种融合 CNN 局部特征与 Transformer 全局关联的新架构）在脑部 MRI 诊断中展现出惊人潜力——某团队测试显示其对脑胶质瘤的早期识别率比传统方法高出近 12%，这一突破可能改写神经外科的诊疗流程。不过，AI 并非完美的'诊断专家'：部分模型在处理儿童影像时会出现'过度拟合'（因儿童影像样本中骨骼结构与成人差异大），而在基层医院，设备的'低分辨率噪声'可能让 AI 误将伪影判定为病变。此外，伦理层面的争议也不容忽视——当 AI 诊断与医生判断冲突时，责任界定尚无明确标准。或许，未来的'人机协同'模式不是让 AI 替代医生，而是让其成为'诊断助手'，共同提升诊疗效率。
语言花哨，用了一些新概念，但数据来源经不起推敲（'某团队测试'），逻辑也跳得厉害。学术场景下这种输出基本没法用。
结论：学术、法律、数据分析这类对准确性要求高的任务，把 Temperature 压在 0.1–0.4，Top-P 0.2–0.5 比较稳妥。
营销文案：既要有网感又不能太脱线
任务：为无线耳机写三条社交媒体文案，卖点是 30 小时续航、降噪、8g 重量。
高 Temperature + 中 Top-P（T=1.2, P=0.7）
1. '通勤党狂喜！这副 8g 轻的耳机戴一天像没戴——地铁里的噪音被按了'静音键'，30 小时续航够我连听 3 天播客，再也不用揣着充电宝到处跑～#无线耳机推荐 #打工人必备'
2. '谁懂啊！终于找到'降噪 + 长续航'的神仙耳机了！仅 8g 重量，跑步时晃头都不会掉，30 小时电量让我周末露营时从早听到晚，完全不用焦虑充电～#数码好物 #露营神器'
3. '救命！这耳机也太懂女生了吧！比一支口红还轻（仅 8g），塞进小挎包毫无压力，降噪模式下能隔绝办公室的八卦声，30 小时续航让我出差一周都不用带充电器～#女生数码 #职场好物'