同样的提示词,每次输出不一样输出不稳定 · 模型本来就是概率生成
模型与内容
🗣️一句话大白话
这是正常现象:模型的本质是按概率接下文。但数据处理类业务需要稳定,就得主动去控。
🔍三步排查法
- 1先判断这个任务要不要可复现:数据处理要,创意写作不要
- 2检查温度参数是否过高
- 3有没有给出固定的输出结构示例
🛠️怎么修
温度调到 0~0.3 + 明确的输出模板 + 一两个示例(few-shot);要求完全一致的最后上缓存——同样的输入直接返回存好的结果。
同样的提示词,每次输出不一样模型与内容
这是正常现象:模型的本质是按概率接下文。但数据处理类业务需要稳定,就得主动去控。
温度调到 0~0.3 + 明确的输出模板 + 一两个示例(few-shot);要求完全一致的最后上缓存——同样的输入直接返回存好的结果。