1. Dikotomi Klasik: Dilema Token Verbalisasi vs Keterisolasian Ruang Laten

Dalam kurun 2024 hingga awal 2026, ekosistem LLM Agent didominasi oleh satu paradigma tunggal: Text-as-Universal-Medium. Setiap lintasan penalaran antara (intermediate reasoning trajectory)—mulai dari perencanaan dekomposisi langkah, introspeksi kesalahan, hingga pembentukan muatan panggilan alat (tool call arguments)—wajib di-decode token demi token menjadi teks bahasa manusia yang eksplisit (verbalized Chain-of-Thought / CoT).

Meskipun format teks menjamin interpretabilitas penuh dan keselarasan dengan format antarmuka tool standar (seperti shell command, JSON API, atau Python interpreter), pendekatan ini menanggung tiga penalti komputasional yang masif:

• Autoregressive Decoding Bottleneck: Setiap token teks membutuhkan satu forward pass penuh melalui seluruh layer Transformer ditambah proyeksi kosakata via Language Model Head ($W_{ ext{out}} in mathbb{R}^{d_h imes |mathcal{V}|}$) dan operasi sampling diskrit.
• Context Bloat & KV Cache Exhaustion: Lintasan CoT yang bertele-tele (sering kali mencapai puluhan ribu token) memenuhi memori GPU KV cache, memicu kompresi konteks destruktif dan lonjakan tagihan token pada skenario multi-turn.
• Ekspresi Konseptual Terdistorsi: Bahasa alami manusia memiliki keterbatasan kepadatan semantik (semantic bandwidth bottleneck) ketika digunakan untuk merepresentasikan penalaran struktural tingkat tinggi yang sebenarnya dapat diselesaikan jauh lebih elegan dalam ruang vektor kontinu.

Sebaliknya, cabang riset penalaran ruang laten (seperti Coconut, SoftThinking, dan SoftCoT) membuktikan bahwa model dapat melangsungkan penalaran dalam representasi vektor continuous tanpa mendecode token teks. Sayangnya, model penalaran laten selama ini terjebak di balik dinding isolasi: vektor continuous tidak memiliki mekanisme bawaan untuk memanggil tool luar (seperti API browser, shell, kalkulator), dan pikiran laten mereka bersifat opaque (black box) sehingga mustahil diaudit atau didebug oleh sistem keamanan eksternal.

Gambar 1: Arsitektur terpadu HybridAgent. Model secara dinamis bernavigasi antara ruang penalaran laten continuous via modul penghubung HybridLink dan eksekusi tool nyata berbasis teks melalui antarmuka autoregressive standar.

2. Arsitektur HybridLink: Residual Adapter Penjembatan Hidden State & Embedding Space

Mengapa kita tidak bisa langsung mengambil vektor state layer terakhir $h_t$ lalu menjadikannya input embedding $e_{t+1}$ pada langkah berikutnya? Model laten terdahulu mencoba metode naif ini, namun riset Zou et al. membuktikan bahwa strategi tersebut memicu representational distribution mismatch yang parah: ruang hidden state layer atas ($ ext{Layer } L$) memiliki manifold statistik dan dinamika norma vektor yang sangat berbeda dari ruang embedding input pretrained ($ ext{Layer } 0$).

Untuk menjembatani jurang representasi ini tanpa harus merombak atau melatih ulang fondasi Transformer dari nol, peneliti merancang adapter residual super-ringkas yang dinamakan HybridLink ($mathcal{R}$):

Di mana $W_1 in mathbb{R}^{d_{ ext{inter}} imes d_h}$ dan $W_2 in mathbb{R}^{d_h imes d_{ ext{inter}}}$ adalah matriks proyeksi linier standar, serta $sigma(cdot)$ adalah fungsi aktivasi non-linier GELU. Karena skema koneksi residual ($+ h_t$) mempertahankan sebagian besar semantik murni dari representasi $h_t$, modul HybridLink hanya bertugas menyelaraskan selisih distribusi (distributional shift) tanpa perlu mempelajari pemetaan dari nol.

Hasilnya, parameter HybridLink luar biasa efisien: hanya membutuhkan $approx 2 d_h^2$ parameter. Pada model berukuran 4B parameter ($d_h = 2560$), modul HybridLink hanya berukuran $approx 10 ext{M}$ parameter (<0.25% dari total bobot model), menjadikannya sangat portabel untuk dipasang pada LLM komersial mana pun.

3. Transisi Dinamis: Exit Anchor Argmax Cosine Similarity & Zero-Decoding Probing

Kunci fleksibilitas sistem ini terletak pada kemampuannya menentukan durasi penalaran laten secara adaptif tanpa hiperparameter panjang langkah statis. Sistem memanfaatkan dua token jangkar khusus:

1. Jangkar Masuk (<latent>): Saat berada dalam mode teks standar, model menghasilkan token spesial <latent> ketika ia memutuskan untuk mematangkan strategi kompleks. Pada langkah forward pass berikutnya, Language Model Head dan embedding layer diskrit dinonaktifkan sementara, dan komputasi dialihkan ke modul HybridLink.
2. Jangkar Keluar Dinamis (</latent>): Pada setiap langkah forward pass di ruang laten, representasi hasil proyeksi $mathcal{R}(h_t)$ dievaluasi terhadap seluruh embedding kosakata $mathcal{V}$ melalui kriteria kesamaan cosinus (cosine similarity):
   $$operatorname*{arg,max}_{v in mathcal{V}} ; cosigl(mathcal{R}(h_t),, operatorname{Emb}(v)igr) = exttt{</latent>}$$
   Ketika kesamaan terhadap embedding token penutup </latent> mendominasi distribusi, agen secara otomatis menutup mode laten dan kembali mengeksekusi generasi teks untuk menerbitkan perintah alat (tool invocation).

4. Multi-Turn Continuous KV Working Memory: Teorema Lossless Trajectory Context

Pada arsitektur agen LLM konvensional, setiap siklus pergantian giliran (turn) tool mengharuskan seluruh konteks teks historis di-serialize ulang, dikirim melalui wire JSON/RPC, dan di-re-tokenize dari awal. Namun, dalam trajektori hibrida yang mengandung vektor laten непрерывный (continuous), vektor tersebut tidak dapat di-serialize ulang menjadi teks tanpa kehilangan informasi geometris yang kritis.

Untuk mengatasi tantangan ini, Zou et al. memperkenalkan konsep Continuous Working Memory ($mathcal{M}$). Alih-alih merestart proses konteks di setiap turn, memori kerja agen mengumpulkan seluruh entri Key-Value (KV) cache di semua layer Transformer secara berurutan:

Gambar 2: Aliran Multi-Turn Continuous Working Memory. Entri KV cache dari token teks, langkah laten, dan observasi tool diakumulasikan dalam satu thread memori terpadu melintasi giliran eksekusi.

5. Resep Post-Training: Self-Conditioned HybridSFT & Hybrid Policy Factorization RL

Melatih model untuk bernavigasi secara stabil antara representasi laten dan teks bukanlah perkara sepele. Jika hanya dilatih dengan teknik supervised biasa (teacher forcing murni), model akan mengalami train-inference exposure bias: saat inference, model harus mengonsumsi vektor laten yang digenerasikan oleh dirinya sendiri, bukan vektor ground-truth yang sempurna.

Gambar 3: Skema Pelatihan Dua-Putaran Self-Conditioned HybridSFT. Putaran pertama mengekstrak prediksi input laten melalui HybridLink; putaran kedua melatih model mengonsumsi prediksi latennya sendiri dengan loss gabungan Cross-Entropy (posisi teks) dan Regression (posisi laten).

Tahap 1: Self-Conditioned HybridSFT

Prosedur SFT dirancang dalam skema dua putaran (two-pass self-conditioned training):

• Pass 1: Model dievaluasi pada ground-truth hybrid sequence. Modul HybridLink memetakan hidden state layer terakhir pada posisi laten satu langkah ke depan.
• Pass 2: Model memproses ulang urutan yang sama, namun kali ini embedding laten ground-truth digantikan sepenuhnya oleh output prediksi $mathcal{R}(h)$ dari Pass 1.
• Joint Loss: Loss fungsi gabungan diterapkan secara ketat: Cross-Entropy pada posisi teks, dan loss regresi kosinus/MSE pada posisi laten: $$mathcal{L}_{ ext{HybridSFT}} = mathcal{L}_{ ext{Backbone}} + mathcal{L}_{ ext{HybridLink}}$$

Tahap 2: Scaling Reasoning via Hybrid Reinforcement Learning (HybridRL)

Ketika melangkah ke tahap RL (menggunakan algoritma modern seperti GRPO atau PPO), timbul rintangan teoritis fundamental: bagaimana menghitung importance sampling ratio $ ho_t = rac{pi_ heta(y_t mid y_{

Pada langkah laten, model tidak melakukan sampling token dari distribusi probabilitas diskrit, melainkan menghasilkan vektor continuous melalui fungsi adapter deterministik $mathcal{R}$. Oleh karena itu, probabilitas token pada posisi laten tidak terdefinisi secara matematis.

Zou et al. memecahkan kebuntuan ini melalui pembuktian Hybrid Policy Factorization (Proposisi 1):

Proposisi 1 — Faktorisasi Kebijakan Hibrida

$$pi_ heta( au mid x) = prod_{t in mathcal{T}} pi_ hetaigl(y_t mid x,, au_{ Di mana $mathcal{T}$ adalah himpunan posisi token teks yang disampling oleh model. Karena transisi laten bersifat deterministik terkondisi pada prefiks, gradien pembaruan kebijakan RL cukup dihitung secara eksklusif pada posisi teks tersampel!

Selama fase training update, algoritma menjalankan Exact Latent-Context Replay: vektor laten yang terekam saat rollout diinjeksi kembali dalam forward pass tunggal yang dapat dideferensiasi (single differentiable forward pass), mempertahankan konteks laten asli sembari memperbarui bobot kebijakan model pada posisi token aksi teks.

6. Evaluasi Empiris 11 Benchmark: GAIA, WebWalker, HLE, hingga AIME25/26

Evaluasi empiris dilakukan secara masif menggunakan backbone keluarga Qwen3-Base pada tiga skala kapasitas: 4B, 8B, dan 14B parameter, diuji melawan frontier model dan framework agentic papan atas (QwQ-32B, DeepSeek-V4.1-Flash, GLM-5.3-Flash, ReAct, Search-o1, WebThinker).

Tipe Agen & Arsitektur	GAIA (Avg)	WebWalker	Humanity's Last Exam (HLE)	SealQA (Hard)	AIME 25 / 26
QwQ-32B (Frontier Open Reasoning)	18.9%	14.2%	12.5%	34.8%	32.1% / 30.5%
DeepSeek-V4.1-Flash (Agentic SFT+RL)	24.6%	21.8%	16.9%	41.2%	38.4% / 39.1%
Qwen3-8B Standard Text Agent (GRPO)	22.4%	19.5%	15.1%	38.6%	36.3% / 39.4%
HybridAgent-8B (Ours)	26.8% (+4.4%)	24.7% (+5.2%)	18.8% (+3.7%)	44.5% (+5.9%)	39.2% / 43.3%
HybridAgent-14B (Ours)	31.2% (+17.4% vs SOTA)	29.4%	22.6%	49.1%	46.5% / 48.9%

Pada benchmark pencarian web otonom dan eksekusi multimodal (GAIA Level 1-3 dan WebWalker), HybridAgent-14B mencetak rata-rata peningkatan akurasi sebesar 17.4% di atas baseline agen teks terbaik. Peningkatan ini bersumber dari kemampuan model untuk melakukan penalaran hipotesis alternatif (counterfactual reflection) di ruang laten sebelum memutuskan parameter panggilan alat mana yang paling optimal, mencegah kegagalan sintaksis dan pencarian berulang-ulang yang sia-sia.

7. Analisis Throughput, Latensi, dan Pemangkasan Biaya Operasional Komputasi 3.7x

Selain akurasi yang lebih unggul, keunggulan telak arsitektur hibrida terlihat pada metrik efisiensi komputasi riil di lingkungan data center:

Pengurangan Token: Pemangkasan token teks hingga 2.7x lipat dan reduksi langkah generasi total hingga 54% dibandingkan model CoT eksplisit.

Percepatan Latensi Inferensi: Kecepatan wall-clock meningkat antara 1.8x hingga 2.6x lipat berkat eliminasi proses sampling Language Model Head pada langkah penalaran laten.

Tabel Analisis Biaya Komputasi Riil (Asumsi $2.50 per H100-Hour / ~$0.007 per PFLOP)

Backbone Model	Text Agent (TFLOP/query)	HybridAgent (TFLOP/query)	Biaya per 1M Query (Text $ ightarrow$ Hybrid)	Faktor Efisiensi Biaya
Qwen3-4B-Base	51.2 TFLOP	13.9 TFLOP	$359 $ ightarrow$ $98	3.7x Lebih Murah
Qwen3-8B-Base	62.5 TFLOP	17.2 TFLOP	$439 $ ightarrow$ $121	3.6x Lebih Murah
Qwen3-14B-Base	66.9 TFLOP	25.1 TFLOP	$470 $ ightarrow$ $176	2.7x Lebih Murah

8. Spesifikasi Implementasi Produksi: TypeScript Engine Specification

Berikut adalah referensi implementasi modul controller runtime HybridAgent yang merealisasikan proyeksi residual HybridLink, evaluasi exit similarity, pemeliharaan memori kerja kontinu, dan estimasi rasio kebijakan hibrida:

typescript / hybrid-agent-engine.ts PRODUCTION SPECIFICATION

${HYBRID_AGENT_CODE_SNIPPET}

9. Blueprint Rekayasa Sistem Agen 2026: Rekomendasi Menuju Hybrid Native Runtime

Bagi tim arsitek kecerdasan buatan dan platform engineer yang membangun harness otonom di tahun 2026, makalah riset HybridAgent membawa sejumlah kesimpulan strategis:

1. Akhiri Ketergantungan pada Output CoT Raksasa untuk Perencanaan Internal: Memaksa model menuliskan paragraf panjang berulang-ulang sebelum memanggil tool adalah sumber pemborosan latensi dan biaya terbesar. Mengalihkan proses internal deliberation ke dalam representasi laten memangkas 50% waktu respons round-trip tanpa mengorbankan kualitas keputusan.
2. Pertahankan KV Cache Lintas Turn Secara Utuh (Do Not Serialize to String): Dalam sistem harness modern, jangan pernah mereset sesi konteks atau men-serialize state agen menjadi plain JSON string jika model Anda mendukung continuous KV working memory. Mengalirkan representasi tensor langsung adalah satu-satunya cara mempertahankan kontinuitas penalaran tingkat tinggi.
3. Gunakan Zero-Decoding Latent Probing untuk Audit Keamanan Real-Time: Jangan menjadikan alasan "laten tidak bisa diaudit" sebagai dalih menolak representasi vektor. Dengan memetakan vektor $mathcal{R}(h_t)$ ke nearest token embedding pada lapisan harness pengawas, guardrail keamanan dapat mendeteksi indikasi sabotase atau niat jahat seketika sebelum model sempat menerbitkan pemanggilan tool yang berbahaya.
4. Adopsi Hybrid Policy Factorization dalam Pipeline RLVR Mandiri: Saat melatih agen internal perusahaan dengan teknik verifikasi otomatis (RL with verifiable rewards), gunakan faktorisasi kebijakan hanya pada token aksi teks untuk menghindari ketidakstabilan numerik gradien pada langkah penalaran kontinu.