Tóm tắt nhanh / Lệnh

Bộ Engineer

/ak:deep-swe

Benchmark coding-agent DeepSWE

Chạy benchmark coding-agent bên ngoài trên DeepSWE qua Pier và OpenRouter, có thiết lập an toàn, smoke một task, kiểm soát subset/full run và báo cáo chính xác.

01

Chốt phạm vi

02

Kiểm điều kiện

03

Cài runner

04

Xác minh model slug

Nguyên tắc 01

Đây là benchmark bên ngoài, không phải tối ưu repo local.

Nguyên tắc 02

Không bao giờ in, lưu, commit hoặc đưa OPENROUTER_API_KEY vào artifact.

Nguyên tắc 03

Đọc help Pier hiện tại trước khi tin vào flag.

Nguyên tắc 04

Một task trước subset; xác nhận rõ trước corpus đầy đủ.

Nguyên tắc 05

Không nộp kết quả leaderboard nếu người dùng chưa yêu cầu.

Bản đồ thực thi

Các nhánh chính từ đầu vào đến kết quả, bám theo cách command chạy khi dùng thật.

01

Khởi động

Đầu vào, phạm vi, route

  1. 1 Chốt phạm vi Chỉ dùng cho benchmark model DeepSWE bên ngoài có chi phí, không dùng cho tối ưu metric trong repo hiện tại.
  2. 2 Kiểm điều kiện Kiểm uv, git, Docker, Docker daemon và sự tồn tại key OpenRouter mà không lộ bí mật.
02

Xử lý

Agent / skill thực thi

  1. 3 Cài runner Clone deep-swe, cài datacurve-pier bằng uv, rồi đọc pier --help và pier run --help.
  2. 4 Xác minh model slug Xác minh đúng model slug trên OpenRouter và dùng dạng openrouter/<vendor/model> theo toolchain hiện tại.
03

Kiểm chứng

Gate, review, xác thực

  1. 5 Chạy một task Bắt đầu bằng một lệnh Pier cho deep-swe/tasks/<task-id> trước mọi subset lấy mẫu.
  2. 6 Chạy subset Với mẫu xác định, kiểm lại flag task count và sample seed trong bản cài rồi chạy một mẫu nhỏ cố định.
04

Đóng

Báo cáo, bàn giao, artifact

  1. 7 Cổng chạy toàn bộ Trước khi chạy đủ 113 task, trình bày lệnh chính xác, rủi ro chi phí và điều kiện dừng, rồi chờ xác nhận rõ của người dùng.
  2. 8 Kiểm báo cáo Dùng lệnh Pier hiện có như view, analyze hoặc critique khi có, rồi báo lệnh, version, số task, model, điểm/reward, chi phí và blocker.

Cú pháp, đối số, subcommand

Cách gọi skill: cú pháp, đối số vị trí, option dùng chung, rồi từng subcommand với cú pháp và kết quả riêng.

Cú pháp

/ak:deep-swe <OpenRouter model slug> [benchmark request]

Đối số

<OpenRouter model slug> Bắt buộc

Model slug

Identifier vendor/model chính xác trên OpenRouter cần đánh giá bằng DeepSWE. Skill xác minh trước khi tiêu token; đây không phải mục trong catalog do AgentKit sở hữu.

/ak:deep-swe openai/gpt-4o-mini
[benchmark request]

Yêu cầu benchmark

Ranh giới tùy chọn bằng ngôn ngữ tự nhiên, ví dụ một task smoke cụ thể, subset xác định hoặc xác minh job Pier đã có. Mặc định không cho phép chạy toàn bộ corpus hoặc nộp kết quả.

/ak:deep-swe openai/gpt-4o-mini "Chạy một task DeepSWE được đặt tên như smoke test. Stop sau task và không submit kết quả."

Prompt mẫu

Ví dụ gọi command theo từng flag, subcommand, mode hoặc route dùng được trong workflow thực tế.

Smoke một task Khuyến nghị
/ak:deep-swe openai/gpt-4o-mini "Chạy một task DeepSWE có tên như smoke test. Hiện đúng lệnh Pier và ước tính spend exposure trước khi thực thi. Dừng sau task và không submit kết quả."
Dùng khi:
Khi muốn chấm một OpenRouter model slug cụ thể trên DeepSWE nhưng chưa duyệt run lớn hơn.
Kết quả:
Kiểm uv, git, Docker, daemon và key; xác minh help của Pier rồi chỉ chạy một task cụ thể trước khi báo bằng chứng local.
Subset xác định
/ak:deep-swe openai/gpt-4o-mini "Sau khi smoke task thành công, chuẩn bị subset 10 task mang tính deterministic với --n-tasks 10 và --sample-seed 0 chỉ khi pier run --help hiện tại xác nhận các flag đó."
Dùng khi:
Khi đã duyệt mở rộng từ bằng chứng smoke sang một sample nhỏ cố định.
Kết quả:
Kiểm lại flag của Pier đã cài, trình bày lệnh subset có giới hạn và rủi ro chi phí, rồi báo số task, điểm hoặc reward, cost nếu có và blocker.
Xác minh điểm
/ak:deep-swe xác minh kết quả job Pier cho openai/gpt-4o-mini
Dùng khi:
Khi cần xác minh hoặc tóm tắt một kết quả benchmark DeepSWE Pier đã có.
Kết quả:
Kiểm job directory bằng các lệnh Pier view, analyze hoặc critique nếu có rồi báo lệnh, version, số task, model slug, điểm hoặc reward, cost, blocker và trạng thái submission.

Phạm vi xử lý

  • Thiết lập benchmark DeepSWE
  • Lệnh runner Pier
  • Định tuyến model OpenRouter
  • Đánh giá có tính chi phí
  • Kiểm tra kết quả benchmark

Tiếp theo