RSI-Anything (arXiv:2610.13912): Unlocking Recursive Self-Improvement dengan Predictive World Models, Dual-Loop Co-Evolution, dan Evaluasi Multi-Domain dari CodeContests hingga LabHorizon

Gagasan mengenai agen kecerdasan buatan yang mampu melakukan Recursive Self-Improvement (RSI)—memperbaiki arsitektur dan penalarannya sendiri dari putaran ke putaran secara otonom—selama ini terbentur oleh dua dinding tebal: keterbatasan budget interaksi fisik/API dunia nyata yang sangat mahal, serta fenomena model drift di mana model prediksi lingkungan menjadi usang seketika saat kebijakan (policy) agen berevolusi.

1. Dilema Inti Recursive Self-Improvement: Budget Kering vs Model Delusion

Secara formal, iterasi mandiri pada AI agent biasanya dirancang menggunakan skema self-training atau preference optimization (seperti STaR, ReST, atau DPO). Namun, ketika agen beroperasi di lingkungan interaktif nyata:

• Expensive External Feedback: Menjalankan ratusan kompilasi kode di cloud, memicu jutaan event DOM browser, atau melakukan uji coba sintesis molekuler basah (wet lab) memerlukan biaya komputasi dan waktu yang mustahil diskalakan secara brute force.
• Static Verifier Bottleneck: Menggunakan model verifier statis (misalnya unit test generator atau reward model tetap) memicu saturasi cepat. Agen belajar mengeksploitasi celah (reward hacking) pada verifier alih-alih memperoleh kapabilitas general.
• Non-Stationary Distribution Drift: Jika kita melatih world model (simulator internal) untuk membantu agen, setiap kali bobot kebijakan agen ($ heta$) bermutasi, ruang tindakan yang diambil akan bergeser ke luar distribusi pelatihan awal world model ($phi$), menyebabkan simulator berhalusinasi dan memberikan sinyal evaluasi yang menyesatkan.

2. Arsitektur RSI-Anything: Pondasi Prediktif Berbasis JEPA

RSI-Anything mengonseptualisasikan tugas di domain $d$ sebagai tupel formal:

Di mana $mathcal{X}_d$ adalah spesifikasi konteks, $mathcal{S}_d$ state task, $mathcal{A}_d$ aksi agen, $mathcal{W}_d$ world model, $mathcal{V}_d$ verifier/evaluator, $mathcal{M}_d$ modul read-out konsekuensi, $mathcal{C}_d$ kriteria seleksi, dan $mathcal{B}_d$ batasan anggaran (budget).

Berbeda dari model autoregresif yang memprediksi setiap token observasi secara lambat dan boros komputasi, RSI-Anything memanfaatkan JEPA-Anything yang memetakan status $s_t$ ke dalam ruang representasi terkompresi $z_t$:

• Encoder: $z_t = E_{phi_{d,k}}(s_t, c_d)$
• Latent Transition Predictor: $widehat{z}_{t+1} = F_{phi_{d,k}}(z_t, a_t, c_d)$
• Consequence Readout: Menghasilkan prediksi deterministik $widehat{o}_{t+1} = R(widehat{z}_{t+1})$ atau distribusi probabilistik lima kelas $p_{phi}(o_{t+1} mid s_t, a_t)$.

Melalui representasi ini, agen dapat mengeksplorasi trajektori masa depan (imagined rollouts) secara instan dalam memori GPU tanpa mengeksekusi aksi berbahaya atau mahal di dunia nyata.

3. Protokol Ko-Evolusi Dual-Loop & Gerbang Retensi Pasangan

Inovasi mendasar dari RSI-Anything terletak pada pemisahan dan sinkronisasi dua siklus adaptasi (dual-loop co-evolution):

The Retention Gate (Gerbang Retensi): Agar sistem benar-benar rekursif tanpa mengalami keruntuhan katastropik (catastrophic forgetting), pasangan kebijakan dan model baru $( heta'_{k+1}, phi'_{d,k+1})$ wajib melewati uji kompatibilitas $Q_pi$ dan $Q_W$ pada dataset validasi terisolasi $mathcal{D}_{ ext{gate}}$. Hanya kandidat yang terbukti melampaui performa baseline yang dipertahankan sebagai pondasi untuk putaran iterasi berikutnya.

4. Evaluasi Empiris Lintas 5 Domain: Komputasi hingga Sains Murni

Riset arXiv:2610.13912 menguji RSI-Anything dalam lima lingkungan evaluasi dengan kompleksitas tinggi. Berikut ringkasan temuan benchmark terverifikasi:

Pada tugas CodeContests, dengan membekukan model pemrogram dasar (ReasonFlux-Coder-7B), seleksi prediktif murni meningkatkan tingkat keberhasilan dari 26.3% ke 29.2%. Ketika adaptasi world model diaktifkan menggunakan umpan balik eksekusi langsung, skor melonjak hingga 31.2% pada jumlah panggilan pengujian online yang setara (3.72 calls/task).

Yang paling mengejutkan terjadi pada benchmark perencanaan laboratorium LabHorizon F200 Stanford Cong Lab (2026). Kebijakan model kecil berukuran 4B yang mengalami lima putaran iterasi rekursif dengan RSI-Anything berhasil meraih skor akhir 0.4601, mengalahkan model-model raksasa seperti OpenAI GPT-5.5 (0.2276), Google Gemini 3.1 Pro (0.3263), dan xAI Grok 4.3 (0.3244).

5. Implementasi Referensi Produksi: Dual-Loop Orchestrator TypeScript

Berikut adalah modul orkestrator produksi dalam TypeScript yang mengadopsi formulasi formal persamaan (9) hingga (14) dari riset arXiv:2610.13912 untuk mengimplementasikan seleksi terpandu, pembaruan kondisional, dan gerbang retensi berpasangan:

${RSI_ANYTHING_CODE_SNIPPET}

6. Analisis Rekayasa: Implikasi bagi Frontier Coding & Agentic Harness

Keberhasilan RSI-Anything memberikan pelajaran fundamental bagi pengembang harness agen AI (seperti Claude Code, Hermes Agent, OpenCode, dan Codex):

1. Hentikan Ketergantungan pada Verifier Statis: Verifier statis menciptakan langit-langit kapabilitas semu. Untuk mendorong kemajuan berkelanjutan, verifier atau world model harus berevolusi secara ko-dependen bersama agen pelaksana.
2. Prioritaskan Latent Trajectory Evaluation: Mengevaluasi sintaksis dan semantik perubahan di ruang laten sebelum menjalankan instruksi bash/terminal nyata mampu memangkas kelelahan konteks token dan menghemat pengeluaran API hingga >40%.
3. Pair Retention Mengalahkan Unilateral Upgrades: Jangan pernah meng-upgrade bobot model tanpa memvalidasi kompatibilitasnya dengan alat evaluasi saat ini. Gerbang retensi berpasangan (pair checks) adalah satu-satunya dinding pertahanan yang mencegah regresi performa diam-diam pada sistem otonom.