工具调用 MCP Skills2026-05-11
领域专家 UX
定义
为提取领域专家(律师、医生、保险核保员、航空工程师等)的tacit judgment〔待补〕而专门定制的评估界面:让 UI 看起来像专家平时已经在用的工具,让他们在熟悉的语境里高亮、批注、标记对错,系统在背后把这些操作转换成 eval pipeline 的标签。
要点
- 领域专家最大的反馈方式是"this is wrong"但说不出为什么——通用 eval 平台逼他们学新框架,反馈质量崩盘
- 把 evals 转化为设计问题,与软件工程并列
- "domain-expert + software engineer + product designer 三位一体的独角兽"极少,所以分工方式是:让 UX 替领域专家承担软件工程负担
- 直接套通用 evals 平台 = 永远拿不到高质量标注
示例
某 vertical AI 法律产品做了一个 vibe-coded 小 UI,复刻律师常用的合同审查界面——律师在自己熟悉的视图里高亮"对的段落"和"错的段落",背后的 eval pipeline 自动消化。Alec Barber 强烈背书这种做法:"如果做法律产品,eval UI 应该长得像律师平时用的工具。"
相关概念
- 自建评估Harness
- 隐性知识〔待补〕
- Utility不可表达性〔待补〕
参考资料
- Akash Bajwa: Evals with Alec Barber, OpenAI(2026-04-27)
被这些概念引用
来自本站知识库 · 全部概念