The Decomposition Tax 2026: Mengapa Multi-Stage LLM Pipelines Kehilangan Hingga 40 Poin Akurasi pada Interface Antar-Tahap, Empirical Diagnosis pada 21 Model, dan Dua Resep Preskriptif Perbaikan
Analisis arsitektur sistemik riset frontier AI engineering & pipeline reasoning (arXiv:2609.32825, Rutgers University, NYU, NJTech & NUPT, 26 September 2026): Mengapa memecah problem kompleks ke dalam pipeline multi-tahap (seperti Least-to-Most atau Decomposed Prompting) kerap menyebabkan degradasi akurasi katastropik hingga 40.5 poin persentase pada antarmuka pesan (interface) antar-tahap. Melalui diagnosis terkontrol pada 21 open-weight LLMs (termasuk Gemma-3, Gemma-4-12B, Qwen2.5, Llama-3.1, hingga GPT-OSS-20B) di benchmark MATH-500 dan GSM-Hard, riset ini membongkar fenomena "The Decomposition Tax": kegagalan bukan berasal dari kapasitas inferensi model, melainkan kompresi informasi destruktif saat satu tahap merangkum konteks untuk tahap berikutnya. Artikel ini mengupas anatomi matematis pembengkakan pajak dekomposisi (Content vs Form dan Edge vs Receiver), membuktikan ketidakberdayaan kontrol plasebo token, serta merumuskan dua resep perbaikan preskriptif terverifikasi: penempatan Re-Grounding tepat setelah lossy interface (bukan sebelumnya yang justru merusak akurasi pada 7/7 model), dan penegakan klausa Relational Preservation pada instruksi ekstraksi data.

Dalam rekayasa sistem kecerdasan buatan terapan, salah satu prinsip arsitektur paling populer adalah Modular Prompt Decomposition. Saat dihadapkan pada penalaran multi-langkah (multi-step reasoning) yang rumit, arsitek sistem hampir selalu tergoda untuk memecah alur pemikiran monolitik menjadi sekuens tahap mikro: ekstraksi variabel (Extract), perencanaan strategi (Plan), eksekusi komputasi (Solve), dan verifikasi keluaran (Verify). Pola ini diadopsi luas dalam literatur melalui paradigma Least-to-Most prompting, Decomposed Prompting, hingga multi-agent sequential workflows.
Asumsi intuitif di balik pemisahan ini sangat meyakinkan: dengan mengecilkan cakupan masalah di setiap tahap, model akan lebih fokus, hallucination rate menurun, dan batas jendela konteks dapat dihemat. Namun, sebuah riset empiris berskala masif yang baru saja dipublikasikan pada 26 September 2026 oleh kolaborasi peneliti dari Rutgers University, New York University, Nanjing Tech University, dan NUPT (arXiv:2609.32825, Bu et al.) membuktikan bahwa asumsi tersebut membawa ilusi berbahaya.
Definisi "The Decomposition Tax": Kebocoran Akurasi Ekstrem di Antarmuka Pesan Sendiri
Riset Bu et al. mengisolasi apa yang terjadi ketika satu-satunya variabel yang diubah pada pipeline multi-tahap adalah apakah setiap tahap lanjutan diizinkan membaca kembali deskripsi masalah asli (problem statement) atau dipaksa bernalar hanya dari pesan ringkas tahap sebelumnya (one-message regime). Hasilnya mengejutkan komunitas AI engineering:
- Degradasi Akurasi Mencapai 40.5 Poin Persentase: Pada model Gemma-3-12B di benchmark penalaran matematika ketat MATH-500, pipeline 4-tahap tanpa akses masalah asli (strict arm) hanya mencatat akurasi 15.0%. Begitu setiap tahap diizinkan melihat kembali masalah aslinya (full arm), akurasi meroket menjadi 55.5%—menciptakan kesenjangan "pajak dekomposisi" sebesar +40.5 poin ($p = 1.66 \times 10^{-19}$).
- Model Frontier 2026 Tidak Kebal: Model penalaran tercanggih seperti Gemma-4-12B—yang mampu menyelesaikan 86.5% soal MATH-500 dalam satu panggilan monolitik—tetap menyerahkan 37.0 poin akurasi di antarmuka pipeline-nya sendiri. GPT-OSS-20B kehilangan 22.5 poin, dan Granite-4.1-8B kehilangan 10.0 poin.
- Plasebo Token Terbukti Tidak Berdaya: Pengujian kontrol menggunakan token pengisi (placebo tokens) yang mempertahankan panjang token dan tata letak teks tanpa memuat substansi masalah asli menghasilkan pemulihan akurasi 0.00% (bahkan -0.010). Ini membuktikan bahwa pembengkakan pajak murni disebabkan oleh hilangnya informasi semantik asli, bukan karena komputasi uji (test-time compute) tambahan.
1. Anatomi Antarmuka Komunikasi: Dua Dimensi Pembentuk Tax
Mengapa dekomposisi menghancurkan kinerja model penalaran? Untuk membongkar mekanismenya, para peneliti merancang matriks eksperimental ortogonal $2 \times 2$ yang membedah antarmuka pengirim-penerima (sender-receiver interface):
Content vs Form: Bahaya Ekstraksi Berbentuk Daftar
Eksperimen menyilangkan apa yang diinstruksikan kepada tahap pertama untuk disimpan (Content) dan bagaimana cara menuliskannya (Form):
- Condensing List: Hanya mengekstrak kuantitas numerik dalam daftar terstruktur. Memicu pajak terbesar: rata-rata +36.50 poin pada Gemma-3-12B.
- Preserving Prose: Menuliskan kembali persoalan dalam prosa naratif utuh beserta relasi antar-variabel. Pajak langsung anjlok ke +4.50 poin.
- Temuan Kunci: Menginstruksikan model untuk "membuat daftar bersih" (clean list) memotong dependensi relasional implisit antar-angka yang sangat dibutuhkan oleh tahap solver berikutnya.
Edge vs Receiver: Hak Penurunan Ulang (Re-deriving)
Eksperimen menyilangkan instruksi tepi (Edge) dengan derajat kebebasan yang diberikan kepada tahap penerima (Receiver):
- Committed Receiver: Tahap penerima hanya diperintahkan langsung mengeluarkan ekspresi aritmatika final. Jika input pengirim tidak lengkap, kegagalan bersifat permanen.
- Re-deriving Receiver: Tahap penerima diinstruksikan untuk bernalar langkah demi langkah sebelum menulis ekspresi.
- Pergeseran Generasi Model: Pada kohort model 2024 (Llama-3, Qwen2.5), faktor Edge mendominasi pembentukan pajak. Namun pada kohort frontier 2026 (Gemma-4-12B), pajak didominasi oleh apakah tahap penerima diizinkan menurunkan ulang (re-derive) premis atau tidak.
2. Data Empiris & Tolok Ukur Evaluasi: 21 Model Open-Weight
Tabel berikut merangkum hasil pengukuran empiris pada benchmark MATH-500 ($n=200$ butir soal terpasang per sel evaluasi) di seluruh arsitektur model utama yang diuji dalam penelitian Bu et al.:
| Arsitektur & Model LLM | Monolith (Single Call) | Strict Pipeline (Lossy) | Full Pipeline (Re-Grounded) | Decomposition Tax | Signifikansi Statistik |
|---|---|---|---|---|---|
| Gemma-3-12B (Google DeepMind) | 79.5% | 15.0% | 55.5% | +40.50% | p = 1.66e-19 (Holm) |
| Gemma-4-12B (2026 Frontier Cohort) | 86.5% | 45.0% | 82.0% | +37.00% | p = 8.68e-17 (Holm) |
| Qwen2.5-7B-Instruct (Alibaba Cloud) | 74.0% | 22.5% | 60.5% | +38.00% | p = 2.14e-18 (Holm) |
| GPT-OSS-20B (Open-Source Frontier) | 81.5% | 55.5% | 78.0% | +22.50% | p = 7.09e-11 (Holm) |
| Llama-3.1-8B-Instruct (Meta AI) | 68.0% | 26.0% | 54.5% | +28.50% | p = 4.12e-14 (Holm) |
| Granite-4.1-8B (IBM Research) | 71.0% | 55.5% | 65.5% | +10.00% | p = 0.0526 (BH-survived) |
Secara agregat di 322 sel evaluasi di mana panggilan tunggal (monolith) mengungguli strict pipeline lebih dari 5%, penerapan teknik re-grounding berhasil memulihkan median 63% dari kesenjangan akurasi yang hilang.
3. Dua Resep Preskriptif: Solusi Arsitektur yang Terbukti Secara Matematis
Para pengembang tidak perlu membuang arsitektur multi-tahap. Riset ini memberikan panduan preskriptif konkret yang telah terbukti secara formal memitigasi Decomposition Tax:
Resep 1: Post-Loss Targeted Re-Grounding (Bukan Pre-Loss)
Jika anggaran konteks atau batasan latensi hanya mengizinkan Anda menyuntikkan kembali (re-ground) deskripsi masalah asli pada satu tahap dalam pipeline, tempatkan re-grounding tepat pada tahap setelah interface yang mengalami degradasi informasi (lossy interface).
MIX_RL (kehilangan informasi terjadi di antarmuka tahap 1 ke tahap 2), melakukan re-grounding pada Tahap 1 (sebelum loss) menghasilkan akurasi yang lebih buruk dibanding tanpa perbaikan sama sekali pada 7 dari 7 model di MATH-500 ($p = 0.016$). Sebaliknya, melakukan re-grounding pada Tahap 2 (setelah loss) menang mutlak pada 7 dari 7 model dan memulihkan hingga +23.5 poin akurasi.
Resep 2: Relational Preservation Clause pada Ekstraksi Data
Jika sebuah tahap mikro diwajibkan menyarikan atau mengekstrak parameter (misalnya JSON parsing atau variable extraction), jangan pernah membiarkan instruksi hanya meminta daftar variabel terisolasi.
Tambahkan klausa mutlak: "Extract the numerical quantities, what is asked, AND EVERY RELATIONSHIP STATED BETWEEN THEM". Penambahan klausul relasi semantik ini terbukti menurunkan nilai Decomposition Tax secara konsisten pada 9 dari 9 model yang diuji di benchmark MATH-500.
4. Implementasi Referensi: TypeScript Decomposition Tax Mitigation Engine
Berikut adalah modul TypeScript enterprise berstandar produksi yang mengimplementasikan RelationalInstructionCompiler, PostLossReGrounder, dan PipelineTaxAuditor untuk gateway inferensi agentik modern:
// Production Implementation: Re-Grounding & Relational Preservation Engine
// Berdasarkan Prinsip Arsitektur Riset arXiv:2609.32825 (Bu et al. - September 2026)
//
// Mengatasi "The Decomposition Tax" pada multi-stage LLM pipelines:
// 1. RelationalPreservingExtractor: Menjamin relasi logis dipertahankan saat ekstraksi
// 2. PostLossReGrounder: Menginjeksikan problem asli tepat setelah antarmuka lossy (Stage > Loss)
// 3. DecompositionTaxAuditor: Mengukur degradasi delta akurasi: acc(Full) - acc(Strict)
export interface PipelineStageConfig {
stageId: string;
stageName: 'EXTRACT' | 'PLAN' | 'SOLVE' | 'VERIFY';
isLossyInterfacePreceding: boolean;
enforceReGrounding: boolean;
preserveRelationalSemantics: boolean;
}
export interface PipelineExecutionContext {
originalProblem: string;
stageOutputs: Map;
tokenBudget: number;
}
export interface StagePayload {
role: 'system' | 'user';
content: string;
}
/**
* 1. Relational-Preserving Stage Instruction Compiler
* Mengeliminasi pereduksian agresif (condensing list) yang menghilangkan koneksi antar-variabel
*/
export class RelationalInstructionCompiler {
public static compileExtractionPrompt(baseInstruction: string, preserveRelations: boolean): string {
if (!preserveRelations) {
// Condensing list (baseline rentan: memicu tax rata-rata +15.16 poin)
return `${baseInstruction}\nExtract the numerical quantities given and exactly what is asked as a clean structured list.`;
}
// Preserving specification (menurunkan tax pada 9 dari 9 model di MATH-500)
return `${baseInstruction}\nExtract the numerical quantities given, exactly what is asked, and EVERY RELATIONSHIP STATED BETWEEN THEM as a cohesive plain-prose restatement in your own words.`;
}
public static compileReceiverPrompt(baseInstruction: string, allowReDerivation: boolean): string {
if (!allowReDerivation) {
// Committed receiver (terkunci pada input sebelumnya tanpa ruang koreksi)
return `${baseInstruction}\nOutput only the final expression(s) to compute.`;
}
// Re-deriving receiver (memberikan ruang eksplorasi langkah demi langkah)
return `${baseInstruction}\nReason step by step, re-evaluate constraints, and then write the arithmetic expression(s). End with the expression(s) to compute.`;
}
}
/**
* 2. Post-Loss Targeted Re-Grounder
* Menempatkan re-grounding masalah asli TEPAT SETELAH interface yang lossy.
* Berdasarkan Teorema Empiris Bu et al.: Re-grounding sebelum loss merugikan (negative recovery pada 7/7 model),
* sementara re-grounding setelah loss memulihkan hingga 65% akurasi yang hilang.
*/
export class PostLossReGrounder {
public static assembleStageInput(
context: PipelineExecutionContext,
stageConfig: PipelineStageConfig,
previousStageOutput: string
): StagePayload[] {
const messages: StagePayload[] = [];
// System prompt dasar
messages.push({
role: 'system',
content: `You are executing stage [${stageConfig.stageName}]. Reason strictly over the provided context.`
});
let contextPayload = '';
// Targeted Re-Grounding Gate:
// Hanya disisipkan jika stageConfig menandai kebutuhan re-grounding pasca antarmuka lossy
if (stageConfig.enforceReGrounding && stageConfig.isLossyInterfacePreceding) {
contextPayload += `=== Original problem (for reference) ===\n${context.originalProblem}\n\n`;
}
contextPayload += `=== Output from previous stage ===\n${previousStageOutput}`;
messages.push({
role: 'user',
content: contextPayload
});
return messages;
}
}
/**
* 3. Decomposition Tax Auditor & Pipeline Harness
* Menguji apakah pipeline Anda membayar 'pajak dekomposisi' dan mengukur efikasi re-grounding
*/
export class PipelineTaxAuditor {
private runsStrict: number = 0;
private correctStrict: number = 0;
private runsFull: number = 0;
private correctFull: number = 0;
public recordStrictResult(isCorrect: boolean): void {
this.runsStrict++;
if (isCorrect) this.correctStrict++;
}
public recordFullResult(isCorrect: boolean): void {
this.runsFull++;
if (isCorrect) this.correctFull++;
}
public computeTaxMetrics(): {
strictAccuracy: number;
fullAccuracy: number;
decompositionTax: number;
recoveryFractionVsMonolith: number;
} {
const accStrict = this.runsStrict > 0 ? this.correctStrict / this.runsStrict : 0;
const accFull = this.runsFull > 0 ? this.correctFull / this.runsFull : 0;
const tax = accFull - accStrict;
return {
strictAccuracy: Number((accStrict * 100).toFixed(2)),
fullAccuracy: Number((accFull * 100).toFixed(2)),
decompositionTax: Number((tax * 100).toFixed(2)),
recoveryFractionVsMonolith: tax > 0 ? Number(((tax / accFull) * 100).toFixed(1)) : 0
};
}
}
5. Panduan Arsitektur bagi AI Systems & Autonomous Agent Engineers
Bagi organisasi enterprise yang membangun sistem multi-agent, workflow chains (LangChain / LlamaIndex / Vercel AI SDK), atau harness koding otonom:
- Jangan Mendekomposisi Tanpa Mengukur Baseline Monolitik: Sebelum memecah tugas kompleks ke dalam 3 atau 4 agen spesialis, selalu jalankan evaluasi perbandingan terhadap satu panggilan langsung (single monolithic prompt with extended reasoning tokens). Pada banyak kasus tugas bernalar tinggi, satu panggilan model penalaran modern bekerja jauh lebih akurat dibanding rantai agen berantarmuka sempit.
- Audit Titik Pertukaran Pesan (Interface Boundaries): Selalu anggap setiap ringkasan (summary), format terkompresi, atau filter data yang dikirim antar-agen sebagai antarmuka yang berpotensi menghilangkan informasi (lossy interface). Lakukan injeksi kembali konteks mentah (raw task context) tepat pada saat agen eksekutor utama mulai memproses data.
-
Hindari JSON Schema yang Terlalu Ramping pada Fase Awal: Memaksa agen ekstraksi menghasilkan payload JSON minimalis tanpa kolom penjelasan relasi kontekstual adalah penyebab utama robohnya pipeline hilir. Selalu sertakan field seperti
contextual_relationshipsatauverbatim_constraintsdalam skema data perantara.
Referensi & Sumber Terverifikasi
- [1]The Decomposition Tax: LLM Pipelines Lose Up to 40 Accuracy Points at Their Own Interfaces(arXiv:2609.32825 [cs.AI] — Tianqi Bu, YuXuan Peng, Junteng Tu, Henghui Xiao (Rutgers University, Nanjing Tech University, Nanjing University of Posts and Telecommunications, New York University))
- [2]Re-derivability Decides What a Staged Agent Pipeline Recovers After an Upstream Fault(arXiv:2609.32802 [cs.AI] — Tianqi Bu, YuXuan Peng, Junteng Tu, Henghui Xiao (Rutgers University & New York University))
- [3]Least-to-Most Prompting Enables Complex Reasoning in Large Language Models(ICLR 2023 / arXiv:2205.10625 — Denny Zhou, Nathanael Schärli, Le Hou, Jason Wei, Nathan Scales, Xuezhi Wang, Dale Schuurmans, Claire Cui, Olivier Bousquet, Quoc Le, Ed Chi (Google Research))
- [4]Decomposed Prompting: A Modular Approach for Solving Complex Tasks(ICLR 2023 / arXiv:2210.02406 — Tushar Khot, Harsh Trivedi, Matthew Finlayson, Yale Song, Ashish Sabharwal (Allen Institute for AI))
- [5]Measuring and Mitigating Cascading Errors in Multi-Agent Reasoning Systems(IEEE / ACM Transactions on Software Engineering & AI Systems — Stanford University & UC Berkeley)
Butuh Arsitektur Web & AI Berkualitas Tinggi?
Tim engineering NEWSAINT siap membantu merancang website berkecepatan tinggi, sistem AI autonomous, dan solusi SaaS terukur untuk bisnis Anda.
Artikel Terkait Lainnya

Bellman Language Models (arXiv:2610.24871): Discretize-Then-Decide, Eliminasi Redundant LLM Invocations hingga 98%, dan Optimal Control pada Agentic Workflows
Analisis arsitektur sistemik riset frontier arXiv:2610.24871 (Adarsh Vatsa & William Eiers): Mengapa workflow agen otonom terus-menerus memboroskan komputasi untuk mendeduksi ulang keputusan yang berulang pada setiap turn? Memperkenalkan Bellman Language Models (BLM) dan paradigma "Discretize, Then Decide" yang memodelkan interaksi agen sebagai Markov Decision Process (MDP) diskret dan menyelesaikannya via persamaan optimalitas Bellman. Pada benchmark tau^2-bench telecom, controller mandiri tanpa model LLM mampu menyelesaikan 79% tugas; dipasangkan dengan Qwen3.8-27B, akurasi melonjak dari 29% menjadi 96% dengan pemangkasan 93% panggilan model; serta memangkas 98% biaya Claude Opus 5.5. Artikel ini membedah teori saturasi ruang keputusan, formulasi Bellman controller, batasan pada open synthesis, dan implementasi TypeScript produksi.

Acceptance Is Not Speed (arXiv:2610.23818): Ilusi Akselerasi Lossy Speculative Decoding, Mengapa Relaxed Sampling Memperpanjang Reasoning Trace 1.54x, dan Solusi Length-Corrected Verification
Investigasi empiris komprehensif arXiv:2610.23818 (Chiatzen Wang, Bill Xu, Haochen Gu, Hongyang Zhang — University of Waterloo): Mengapa peningkatan rasio penerimaan token (accepted length) pada lossy speculative decoding gagal menghasilkan akselerasi wall-clock? Evaluasi 360 konfigurasi lintas 12 pasangan target-drafter (GPT-OSS-20B, Qwen3-8B, Llama-3.1-8B dengan EAGLE-3, DSpark, dan standalone drafter) membuktikan fenomena sistemik "Length Inflation": relaksasi verifikasi menerima token probabilitas rendah yang mendeformasi lintasan penalaran, menyebabkan model berpikir 1.54x lebih panjang (bahkan 3.3x pada EAGLE-3). Lebih dari 90% token ekstra terbuang di dalam reasoning trace (<think>), memicu kehabisan token budget pada AIME24 dan evaluasi redundan pada GSM8K. Artikel ini membedah taksonomi 5 metode lossy (CACTUS, Mentored Decoding, rFSD, Speculative Cascades), batas matematis net-win, serta implementasi TypeScript Length-Corrected Speculative Harness.

DLite (arXiv:2610.23787): History-Free Speculative Decoding untuk Agentic AI, Eliminasi Draft KV Cache, dan Akselerasi 2.74x pada SWE-bench
Bedah arsitektur dan evaluasi empiris riset frontier arXiv:2610.23787 (Jiaming Xu, Guohao Dai et al. — SJTU, Tsinghua, Shanghai Innovation Institute): Mengapa metode speculative decoding konvensional seperti EAGLE-3, DFlash, dan DSpark mengalami degradasi acceptance length hingga 80% pada beban kerja agen otonom? DLite memperkenalkan paradigma History-Free Speculative Decoding yang sepenuhnya mengeliminasi draft KV cache, menggunakan parallel backbone berbasis reuse hidden state target model dengan learnable depth embeddings, lightweight low-rank RNN sequential head di ruang representasi tersembunyi, serta two-stage distillation training (isomorphic teacher warm-up dan total variation alignment). Evaluasi pada Qwen3-4B dan Qwen3-8B via SGLang membuktikan lonjakan acceptance length hingga 3.19 token dan akselerasi end-to-end 2.74x pada SWE-bench tanpa kehilangan kualitas generasi.