autoresearch

Solid

Karpathy의 autoresearch 패턴을 스킬 프롬프트 최적화에 적용. 체크리스트(3~6개 예/아니오 기준) 기반 hill-climbing 루프로 SKILL.md를 자동 개선합니다. 한 번에 하나만 바꾸고, 채점하고, 유지하거나 되돌립니다. 95%+ × 3회 연속 달성 시 종료. /autoresearch로 실행.

AI & Automation 6 stars 1 forks Updated 2 days ago MIT

Install

View on GitHub

Quality Score: 84/100

Stars 20%
28
Recency 20%
100
Frontmatter 20%
70
Documentation 15%
100
Issue Health 10%
80
License 10%
100
Description 5%
100

Skill Content

# Autoresearch > **Karpathy의 autoresearch** — 한 번에 하나만 바꾸고, 채점하고, 유지하거나 되돌린다. > 레시피를 고쳐서 앞으로 만드는 요리를 전부 좋게 만드는 것. --- ## 핵심 원리 ``` 점수를 매길 수 있으면, autoresearch할 수 있다. — Ole (@unclejobs) ``` | 원본 (Karpathy ML) | 이 스킬 (프롬프트 최적화) | |--------------------|-----------------------| | `train.py` 수정 | `SKILL.md` 수정 | | `program.md` 지침 | 이 SKILL.md = 루프 지침 | | `val_bpb` 메트릭 | 체크리스트 점수 (pass/total × 100) | | `results.tsv` | `autoresearch-log.md` 변경 로그 | | `git commit/reset` | 유지/되돌림 | --- ## 사용법 ```bash # 기본 — 단일 스킬 최적화 /autoresearch humanizer # 옵션 지정 /autoresearch humanizer --input sample.md --rounds 20 # 체크리스트 파일 직접 지정 /autoresearch humanizer --checklist my-checklist.md # 스캔 모드 — 전체 스킬 품질 진단 /autoresearch --scan # 스캔 후 바로 최적화 /autoresearch --scan --auto ``` ### 인자 | 인자 | 필수 | 기본값 | 설명 | |------|------|--------|------| | `<skill-name>` | — | — | 개선할 대상 스킬 이름 (scan 모드 시 생략) | | `--scan` | — | — | 전체 스킬 품질 스캔 모드 | | `--auto` | — | — | scan 후 최하위 스킬부터 자동 최적화 시작 | | `--input` | — | 자동 생성 | 테스트용 샘플 입력. 파일 경로 또는 인라인 텍스트 | | `--checklist` | — | 대화로 수집 | 체크리스트 파일 경로 (.md) | | `--rounds` | — | 20 | 최대 라운드 수 | | `--target` | — | 95 | 목표 점수 (%) | | `--streak` | — | 3 | 연속 달성 횟수 | --- ## Scan 모드 (`--scan`) > **어떤 스킬을 돌려야 하는지 모르면** scan부터. > 96개 스킬을 빠르게 훑어서 우선순위 리스트를 뽑아준다. ### 사용법 ```bash # 전체 스캔 /autoresearch --scan # 스캔 + 최하위부터 자동 최적화 /autoresearch --scan --auto ``` ### Scan 워크플로우 ``` 1. 스킬 목록 수집 └─ skills/*/SKILL.md를 Glob으로 전부 수집 2. 각 스킬에 Quick Health Check (6개 항목, 예/아니오)...

Details

Author
Dannykkh
Repository
Dannykkh/skill-olympus
Created
8 months ago
Last Updated
2 days ago
Language
Python
License
MIT

Similar Skills

Semantically similar based on skill content — not just same category

AI & Automation Solid

autoresearch

Autonomous skill-prompt optimization — Karpathy-style mutate/score/keep loop on SKILL.md. Triggers "autoresearch", "optimize skill", "tune", "evolve" a skill, "prompt optimization".

46 Updated yesterday
darkroomengineering
AI & Automation Listed

skill-improver

Autoresearch loop for Claude Code skills — greedy keep/discard hill climbing on a 10-dimension quality rubric, with blind subagent validation for self-scoring bias. Given only a skill name, it reads that skill's history and picks which modes to run. Modes: `score` rates a skill out of 100 without editing it; `freshen` probes external references (release notes, docs, deprecation signals) and applies verified updates; `trigger` measures and tunes the frontmatter description until it fires when it should and stays silent when it shouldn't (60/40 train/test, 7 runs/query); `ages` prints every skill's verification age vs last content change; `floor` measures what a bare model already knows about a skill's subject.

5 Updated yesterday
air-gapped
AI & Automation Listed

autoresearch

Autonomously optimize any Claude Code skill by running it repeatedly, scoring outputs against binary evals, mutating the prompt, and keeping improvements. Based on Karpathy's autoresearch methodology. Use when: optimize this skill, improve this skill, run autoresearch on, make this skill better, self-improve skill, benchmark skill, eval my skill, run evals on. Outputs: an improved SKILL.md, a results log, and a changelog of every mutation tried.

2 Updated today
marcioaltoe