✏️ AI 术语图鉴

评估 · Evaluation

英文:evaluation/ɪˌvæljuˈeɪʃən/(重音在 ua)

产品与评估难度:进阶 ★★

🗣️一句话大白话

给 AI 的输出「定期考试」:准备一批标准问题和期望结果,每次改提示词、换模型、调知识库后跑一遍,看得分升还是降。没有评估的调优 = 凭感觉装修。

评估:AI 答得行不行,得「打分」光靠感觉不靠谱——用指标 + 测试集给 AI 效果量化,改完能对比准确率答得对不对相关性答得贴不贴题格式合规该 JSON 就 JSON安全性没越界/没泄露💡 做法:攒一批测试题(输入→期望输出),每次改动跑一遍,对比分数改提示词 / 换模型 / 调参数后都要跑测试——别凭「感觉变好了」上线📊 简易打分表:准确率 90% · 相关性 85% · 格式合规 100% · 安全 100%分数下滑 = 改动有问题,回滚再查;评估是 AI 应用持续迭代的地基
「评估」示意图

🎬真实场景

你改了一版 Prompt,试了两个问题觉得「更好了」就上线。三天后用户发现另一类问题全崩了。有 30 题的评估集:每次改动跑一遍,15 题变好 2 题变坏,一眼看穿。

📮你可以这样说

「「改之前先跑一遍评估集,对比新旧版本得分」——把这一步固化成你的修改流程。」

通过 AI绘图 工作台生成(模型 API 额度由此消耗);未配置模型密钥时会提示失败原因。

⚠️边界与常见误解

  • ▸评估集要覆盖真实场景:用用户真问过的问题,别自己编理想问题
  • ▸评分可以让 AI 打分(LLM-as-judge),但要人工抽查校准这个「打分官」
  • ▸评估不是一次的事:模型升级、知识库更新后都要重跑

🕸️知识关系图

这个词条与相关术语、AI绘图 知识的连接关系

相关术语相关术语相关术语
RAG
Retrieval-Augmented Generation
Prompt
prompt
Guardrail
guardrail
评估
evaluation

🔗相关术语

📚深入阅读

魔搭紫皮书 · ModelScope Cookbook ↗教程 / 书籍 · 开发者

魔搭官方开源的开源模型实战指南,34 章从模型选型、推理到微调、RAG、Agent 全链路,每章带可复现代码。想搞懂『RAG 到底怎么搭』『微调怎么跑』,它是目前中文里最体系化的答案。

vibe-hub.org ↗社区内容 · 小白友好

与本站同类的 AI 学习站点(英文):术语卡 + 场景练习 + 防 AI 味。它把『学习 + 练习』做得很轻,本站的练习模块就是参考它做的。

ms-swift ↗开源项目 · 开发者

魔搭官方的轻量微调框架,几行命令就能微调开源模型,还带评测。想亲手微调一个模型,这是当前最顺手的工具之一。

想找更多?去 资源库 看全清单。