模型中心

工具调用评测

评估模型是否能正确读文件、改文件、跑命令和使用浏览器。

评测目标

AI 编程工具的关键能力不是单纯生成代码,而是能否在真实项目里正确使用工具:读对文件、改对边界、运行检查、根据错误继续修复。

任务集

任务观察点
文件定位是否先用 rg 找入口
精准编辑是否只改相关文件
命令执行是否用项目已有脚本
错误恢复是否能根据 lint/typecheck/build 修复
浏览器检查是否能保存截图并判断视觉问题

最小评测任务

在当前 Nuxt 文档站新增一个 Markdown 页面,把它接入导航。
完成后运行 lint、typecheck、build、route check,并用浏览器截一张移动端截图。

这个任务能同时覆盖文件搜索、内容编辑、命令验证、浏览器工具和错误恢复。

失败信号

  • 在不知道项目结构时直接大改。
  • 忽略用户指定的文件或路径。
  • 测试失败后只解释不修。
  • 把截图检查当成可选项。

评分方式

分数标准
0没读项目结构,直接输出泛泛建议
1能修改文件,但不跑验证
2能跑部分命令,失败后需要人工接管
3能完整修复并留下命令、路由和截图证据

细分评分

维度评分方式
文件定位0 分:猜文件;1 分:读到相关文件;2 分:能找入口和调用关系;3 分:能保护用户指定边界
编辑质量0 分:大范围无关改动;1 分:能改目标文件;2 分:改动小且符合项目风格;3 分:兼顾代码、内容和后续维护
命令验证0 分:不运行;1 分:只跑一个命令;2 分:跑主要命令但不处理失败;3 分:失败后定位并重跑到通过
浏览器使用0 分:不打开页面;1 分:只看一张截图;2 分:多视口截图;3 分:结合 Console、截图和 DOM 证据
交付说明0 分:只有结论;1 分:列了文件;2 分:列文件和命令;3 分:列命令、截图、风险和下一步

工具边界

工具用途常见误用
rg快速定位文件和文本用全盘慢扫代替项目内搜索
apply_patch小范围手工编辑通过脚本重写不该碰的文件
pnpm lint/typecheck/build验证工程状态失败后只解释不修
Playwright / 浏览器检查真实页面只截图首屏,不看移动端和 Console
SSH / CLI检查 live state不读配置和日志就改服务

验收方式

模型评测记录里必须保存命令结果、关键截图路径和最终路由 200 检查。没有这些证据,不应认为评测完成。