AI 模型
用 Qwen3-1.7B 自建「单次前向」决策模型,暴露 LLM 置信度不可信
据开发者 Nish Tahir 博客(2026-10-10),其用约束解码把 Qwen3-1.7B 做成「system one」决策模型:从固定选项单次前向选答案,不用逐 token 生成。CommonsenseQA 上准确率 725/1221≈59.4%;但模型报 0.9-1.0 置信度时实际只对约 70%,属系统性过度自信;作者用温度缩放(T≈3.797)做校准。仅 1.7B 小模型加 CommonsenseQA 的结论,不能外推到前沿大模型。
对 AI 使用者意味着什么
LLM 做选择题可被工程化成更便宜的单次前向范式,但置信度不能当可靠性用;风险:单人博客,基准只在 1.7B 小模型加 CommonsenseQA 上测,结论不能外推到前沿大模型。
有具体工作流问题?联系咨询。新闻本身免费阅读。