模型中心
工具调用评测
评估模型是否能正确读文件、改文件、跑命令和使用浏览器。
评测目标
AI 编程工具的关键能力不是单纯生成代码,而是能否在真实项目里正确使用工具:读对文件、改对边界、运行检查、根据错误继续修复。
任务集
| 任务 | 观察点 |
|---|---|
| 文件定位 | 是否先用 rg 找入口 |
| 精准编辑 | 是否只改相关文件 |
| 命令执行 | 是否用项目已有脚本 |
| 错误恢复 | 是否能根据 lint/typecheck/build 修复 |
| 浏览器检查 | 是否能保存截图并判断视觉问题 |
最小评测任务
在当前 Nuxt 文档站新增一个 Markdown 页面,把它接入导航。
完成后运行 lint、typecheck、build、route check,并用浏览器截一张移动端截图。
这个任务能同时覆盖文件搜索、内容编辑、命令验证、浏览器工具和错误恢复。
失败信号
- 在不知道项目结构时直接大改。
- 忽略用户指定的文件或路径。
- 测试失败后只解释不修。
- 把截图检查当成可选项。
评分方式
| 分数 | 标准 |
|---|---|
| 0 | 没读项目结构,直接输出泛泛建议 |
| 1 | 能修改文件,但不跑验证 |
| 2 | 能跑部分命令,失败后需要人工接管 |
| 3 | 能完整修复并留下命令、路由和截图证据 |
细分评分
| 维度 | 评分方式 |
|---|---|
| 文件定位 | 0 分:猜文件;1 分:读到相关文件;2 分:能找入口和调用关系;3 分:能保护用户指定边界 |
| 编辑质量 | 0 分:大范围无关改动;1 分:能改目标文件;2 分:改动小且符合项目风格;3 分:兼顾代码、内容和后续维护 |
| 命令验证 | 0 分:不运行;1 分:只跑一个命令;2 分:跑主要命令但不处理失败;3 分:失败后定位并重跑到通过 |
| 浏览器使用 | 0 分:不打开页面;1 分:只看一张截图;2 分:多视口截图;3 分:结合 Console、截图和 DOM 证据 |
| 交付说明 | 0 分:只有结论;1 分:列了文件;2 分:列文件和命令;3 分:列命令、截图、风险和下一步 |
工具边界
| 工具 | 用途 | 常见误用 |
|---|---|---|
rg | 快速定位文件和文本 | 用全盘慢扫代替项目内搜索 |
apply_patch | 小范围手工编辑 | 通过脚本重写不该碰的文件 |
pnpm lint/typecheck/build | 验证工程状态 | 失败后只解释不修 |
| Playwright / 浏览器 | 检查真实页面 | 只截图首屏,不看移动端和 Console |
| SSH / CLI | 检查 live state | 不读配置和日志就改服务 |
验收方式
模型评测记录里必须保存命令结果、关键截图路径和最终路由 200 检查。没有这些证据,不应认为评测完成。
继续阅读
按当前页面继续跳到相关教程、评测、路线或 Gallery 示例。