NS
NEWSAINT
ai-eng• 8 MIN READ•13 September 2026

IdeaAMBIG 2026: Tolok Ukur Codification Readiness, Anatomi Defect Localization, dan Kegagalan Kritis AI Coding Agents pada Spesifikasi Riset

Bedah arsitektur mendalam atas riset evaluasi software engineering frontier arXiv:2609.10539 (September 2026, Yiling Ma, Yilun Zhao, Sihong Wu, Manasi Patwardhan, Arman Cohan / Yale NLP Lab, Penn State & TCS Research): Mengapa autonomous AI coding agents kerap berhalusinasi dan gagal mereproduksi metode riset dari spesifikasi tertulis? Makalah ini memperkenalkan IdeaAMBIG—tolok ukur pertama dengan 660 instans berbasis bukti (163 kesenjangan dunia nyata dari GitHub issues dan reproducibility reports, serta 497 controlled synthetic gaps) yang menguji 3 pilar: Codification Readiness Assessment, Defect Localization, dan Clarification Action Generation. Pengujian komprehensif pada 13 model LLM frontier mengungkap bottleneck yang sangat mengejutkan: model terbaik hanya mampu mencapai 9.6% Macro Defect Recovery Rate dalam melokalisasi cacat spesifikasi secara mandiri, namun melesat hingga 80.6% Action Success Rate saat cacat diisolasi. Sementara itu, studi oracle membuktikan penyediaan resolusi klarifikasi melipatgandakan kesiapan kode hilir dari 14% menjadi 98%.

N
Ervareza Naurian Novantila
Lead Architect & Founder NEWSAINT
Fact-Checked & Verified
Ilustrasi Arsitektur Teknis 16:9 IdeaAMBIG 2026: Tolok Ukur Codification Readiness, Anatomi Defect Localization, dan Kegagalan Kritis AI Coding Agents pada Spesifikasi Riset

Dalam kurun waktu satu tahun terakhir, gelombang autonomous coding agents—mulai dari Claude Code, OpenAI Codex, SWE-bench runner, hingga sistem penemu ilmiah otonom seperti The AI Scientist—telah mengubah cara industri membangun perangkat lunak. Namun, di balik demo spektakuler penulisan kode instan, praktisi rekayasa perangkat lunak dan peneliti AI menghadapi anomali yang konsisten: ketika agen AI diperintahkan mengimplementasikan ide riset atau arsitektur baru dari spesifikasi tertulis, kode yang dihasilkan kerap kali meleset, tidak konvergen, atau memuat puluhan asumsi liar tanpa dasar.

Ringkasan Eksekutif & Temuan Kunci Riset arXiv:2609.10539

Studi empiris komprehensif dari Yale NLP Lab, Penn State University, dan Tata Consultancy Services yang dipublikasikan pada September 2026 memperkenalkan IdeaAMBIG: tolok ukur pertama yang secara matematis dan empiris menguji konsep Codification Readiness—apakah sebuah spesifikasi ide riset menyediakan informasi metodologis yang cukup bagi agen koding untuk membangun implementasi yang setia tanpa mengarang asumsi yang tidak berdasar. Menggunakan 660 instans berbasis bukti (163 kesenjangan dunia nyata dari laporan reproduksibilitas MLRC/TMLR dan issue resmi GitHub, serta 497 controlled synthetic gaps), riset ini membongkar fakta keras: model LLM terbaik hanya mencapai 9.6% Macro Defect Recovery Rate dalam melokalisasi kecacatan spesifikasi secara mandiri. Namun, ketika lokasi cacat diberikan, kemampuan agen merumuskan klarifikasi melompat ke 80.6%, dan penyediaan resolusi klarifikasi melipatgandakan kesiapan kode dari 14% menjadi 98%.

1. Ilusi Kesiapan Kode: Mengapa Ide Ilmiah Gagal Diterjemahkan Menjadi Software

Sebuah ide riset atau rancangan arsitektur sistem dapat terdengar sangat baru, koheren secara naratif, dan masuk akal secara matematis. Namun, saat ide tersebut diserahkan ke tim engineer atau agen koding otonom, dokumen spesifikasi seringkali menderita implementation-critical gaps: rincian operasional vital yang sengaja atau tidak sengaja terlewatkan.

Peneliti di Yale NLP mendefinisikan standar emas Codification Readiness melalui prinsip non-asumsi:

"Sebuah spesifikasi metode riset dinyatakan Codification-Ready jika dan hanya jika spesifikasi tersebut menyediakan informasi metodologis yang lengkap dan konsisten sedemikian rupa sehingga seorang implementer kompeten atau coding agent otonom dapat membangun implementasi awal yang setia (faithful initial implementation) tanpa perlu mengarang asumsi-asumsi yang tidak didukung (unsupported assumptions) terkait metode inti."

Ketika coding agent berhadapan dengan spesifikasi yang NOT_READY, agen modern cenderung tidak berhenti untuk bertanya. Alih-alih mengakui ketidaktahuan, LLM mengalami bias over-confidence: agen mengisi kekosongan informasi dengan halusinasi heuristik (misalnya mengarang formula normalisasi gradien yang keliru, mengasumsikan learning rate sembarangan, atau menyederhanakan mekanisme intervensi). Akibatnya, sistem kode yang dibangun tampak berjalan tanpa error secara sintaksis, namun secara ilmiah dan fungsional sepenuhnya cacat.

2. Anatomi Benchmark IdeaAMBIG: 660 Instans Berbasis Bukti

Untuk mengevaluasi fenomena ini secara saintifik dan terukur, para peneliti membangun dataset IdeaAMBIG yang terdiri dari 660 instans spesifikasi berpasangan (paired instances), di mana setiap instans menyandingkan teks spesifikasi mentah ($x^-$) dengan versi lengkap READY ($x^+$), disertai anotasi satu cacat pemblokir spesifik dan aksi klarifikasi emas (gold clarification action).

163 Instans Real-World Gaps

Ditambang dari laporan kegagalan reproduksi empiris nyata dan interaksi komunitas riset:

  • 121 instans dari laporan resmi ML Reproducibility Challenge (MLRC), konferensi ECIR, dan jurnal Transactions on Machine Learning Research (TMLR).
  • 42 instans dari diskusi issue tertutup di GitHub repository resmi makalah bereputasi tinggi (2017–2025) yang secara eksplisit memverifikasi kebingungan implementer terhadap teks paper.

497 Instans Controlled Synthetic Gaps

Disuntikkan secara terkontrol ke dalam spesifikasi metode yang telah terbukti codification-ready:

  • 358 instans melalui eliminasi terisolasi elemen prosedural kunci pada laporan reproduksi terverifikasi.
  • 139 instans dari trajektori ideasi-hingga-eksekusi model AI-Researcher untuk menguji batas kritis penemuan ilmiah otonom.

3. Taksonomi Cacat Implementasi: 3 Kategori Level-1 & 10 Kelas Level-2

IdeaAMBIG merumuskan taksonomi formal yang mencakup seluruh spektrum kegagalan spesifikasi perangkat lunak dan riset AI:

Kategori Level-1 Kelas Level-2 (Spesifik) Karakteristik & Dampak Kerusakan pada Kode
AMBIGUITY (Ambiguitas) Ambiguous Definition Variabel, simbol, atau metrik memiliki interpretasi ganda tanpa batasan tipe atau domain nilai yang tegas.
Ambiguous Procedure Urutan eksekusi tahap algoritma tidak dijelaskan (misal urutan normalisasi vs pooling pada representasi tensor).
INCOMPLETENESS (Ketidaklengkapan) Missing Method Procedure Langkah komputasi inti tidak dijelaskan, memaksa agen menebak seluruh logika loop inferensi atau algoritma.
Missing Configuration Protocol Hilangnya nilai hyperparameter kritis, parameter optimizer, batasan epoch, atau skala toleransi konvergensi.
Missing Model Structure Dimensi layer tersembunyi, skema inisialisasi bobot, jenis fungsi aktivasi, atau mekanisme koneksi residual tidak didefinisikan.
Missing Evaluation Specification Formula metrik evaluasi atau kriteria stopping condition tidak dinyatakan secara matematis.
Missing Data Specification Detail pra-pemrosesan data, pemotongan sequence, padding token, atau skema tokenisasi input dihilangkan.
INCONSISTENCY (Inkonsistensi) Conflicting Objective Fungsi kerugian (loss) yang dinyatakan dalam formula matematis bertolak belakang dengan deskripsi teks pengoptimalan.
Conflicting Model Design Diagram arsitektur menggambarkan alur multi-cabang tetapi narasi teks menyatakan desain sekuensial linear murni.
Conflicting Formal Definition Notasi simbolik yang sama digunakan untuk mewakili dua entitas matematis yang berbeda dan saling meniadakan.

4. Tiga Kemampuan Kunci yang Diuji (Tasks 1, 2, & 3)

IdeaAMBIG membagi proses penalaran spesifikasi ke dalam tiga fase sekuensial yang ketat:

Task 1: Readiness Assessment (Penilaian Kesiapan)

Binary Classification + Grounding

Diberikan sebuah teks spesifikasi, model diminta memutuskan apakah dokumen tersebut READY atau NOT_READY untuk langsung dikoding, serta memberikan penalaran grounded mengenai keberadaan cacat atau kelengkapan komponen.

Task 2: Defect Localization (Lokalisasi Cacat Metodologis)

Critical Bottleneck: 9.6% Success

Model hanya menerima teks spesifikasi mentah tanpa petunjuk apa pun. Model ditantang untuk menemukan, menandai, dan mengkategorikan secara tepat jenis cacat Level-1 dan Level-2 yang menghambat implementasi.

Task 3: Clarification Action Generation (Perumusan Klarifikasi)

Actionable Inquiries: 80.6% Success

Ketika kecacatan telah diketahui (atau diberikan oleh validator eksternal), model harus merumuskan aksi klarifikasi terarah kepada penulis ide: pertanyaan terstruktur apa yang harus diajukan agar kekosongan informasi terisi secara definitif tanpa bias asumsi.

5. Spesifikasi Implementasi: Arsitektur Referensi TypeScript

Untuk melindungi sistem autonomous agent agar tidak mengeksekusi instruksi yang cacat, berikut adalah modul referensi Codification Readiness Gate yang mengimplementasikan taksonomi IdeaAMBIG ke dalam pipeline rekayasa:

typescript / ideaambig-readiness-gate.ts YALE NLP SPECIFICATION MODEL
// IdeaAMBIG Codification-Readiness Verification & Defect Localization Engine
// Berdasarkan Prinsip Arsitektur arXiv:2609.10539 (Ma, Zhao, Wu, Patwardhan, Cohan / Yale NLP, 2026)
// Mengimplementasikan Taksonomi 3-Tingkat / 10-Kategori Cacat, Pre-Execution Readiness Gate,
// dan Clarification Action Protocol untuk Mencegah Halusinasi pada AI Coding Agents.

export type DefectLevel1 = 'AMBIGUITY' | 'INCOMPLETENESS' | 'INCONSISTENCY';

export type DefectLevel2 =
  | 'AMBIGUOUS_DEFINITION'
  | 'AMBIGUOUS_PROCEDURE'
  | 'MISSING_METHOD_PROCEDURE'
  | 'MISSING_CONFIGURATION_PROTOCOL'
  | 'MISSING_MODEL_STRUCTURE'
  | 'MISSING_EVALUATION_SPECIFICATION'
  | 'MISSING_DATA_SPECIFICATION'
  | 'CONFLICTING_OBJECTIVE'
  | 'CONFLICTING_MODEL_DESIGN'
  | 'CONFLICTING_FORMAL_DEFINITION';

export interface SpecificationSpan {
  startOffset: number;
  endOffset: number;
  snippetText: string;
}

export interface DefectAnnotation {
  id: string;
  categoryL1: DefectLevel1;
  categoryL2: DefectLevel2;
  rationale: string;
  evidenceSpan?: SpecificationSpan;
  severity: 'BLOCKING' | 'DEGRADED_FIDELITY' | 'COSMETIC';
}

export interface ClarificationAction {
  defectId: string;
  targetSubsystem: string;
  targetedInquiry: string;
  suggestedOptions: string[];
  oracleGroundingRequirement: string;
}

export interface ReadinessEvaluationResult {
  specificationId: string;
  verdict: 'READY' | 'NOT_READY';
  confidence: number;
  detectedDefects: DefectAnnotation[];
  requiredClarifications: ClarificationAction[];
  allowAutonomousExecution: boolean;
}

/**
 * 1. Codification Readiness Inspector Gate
 * Menolak eksekusi otomatis ke coding agent jika terdapat celah metodologis pemblokir (blocking gaps)
 */
export class CodificationReadinessGate {
  private readonly blockingDefectTypes: Set<DefectLevel2> = new Set([
    'MISSING_METHOD_PROCEDURE',
    'MISSING_MODEL_STRUCTURE',
    'CONFLICTING_OBJECTIVE',
    'CONFLICTING_MODEL_DESIGN',
    'AMBIGUOUS_PROCEDURE',
  ]);

  /**
   * Mengaudit teks spesifikasi ide riset atau rekayasa sebelum diproses oleh LLM Coding Agent
   */
  public auditSpecification(
    specId: string,
    specText: string,
    inspectedDefects: DefectAnnotation[]
  ): ReadinessEvaluationResult {
    const blockingDefects = inspectedDefects.filter(
      (d) => this.blockingDefectTypes.has(d.categoryL2) || d.severity === 'BLOCKING'
    );

    const isReady = blockingDefects.length === 0;
    const requiredClarifications: ClarificationAction[] = blockingDefects.map((defect) =>
      this.synthesizeClarificationAction(defect)
    );

    return {
      specificationId: specId,
      verdict: isReady ? 'READY' : 'NOT_READY',
      confidence: isReady ? 0.95 : 0.88,
      detectedDefects: inspectedDefects,
      requiredClarifications,
      allowAutonomousExecution: isReady,
    };
  }

  /**
   * 2. Clarification Action Generator (Task 3 pada IdeaAMBIG)
   * Menyusun pertanyaan terstruktur untuk mengisi parameter yang hilang tanpa asumsi sepihak
   */
  private synthesizeClarificationAction(defect: DefectAnnotation): ClarificationAction {
    switch (defect.categoryL2) {
      case 'MISSING_METHOD_PROCEDURE':
        return {
          defectId: defect.id,
          targetSubsystem: 'Algorithm / Pipeline Kernel',
          targetedInquiry: `Metode komputasi utama tidak memiliki spesifikasi langkah diskret: ${defect.rationale}`,
          suggestedOptions: [
            'Berikan rumus formal atau pseudocode eksplisit',
            'Cantumkan referensi ke implementasi baseline kanonikal',
          ],
          oracleGroundingRequirement: 'Wajib diverifikasi terhadap referensi paper atau source code resmi.',
        };

      case 'MISSING_CONFIGURATION_PROTOCOL':
        return {
          defectId: defect.id,
          targetSubsystem: 'Hyperparameter & Training Setup',
          targetedInquiry: `Konfigurasi runtime (learning rate, batch size, threshold) tidak terdefinisi: ${defect.rationale}`,
          suggestedOptions: ['Spesifikasikan tabel konfigurasi lengkap', 'Gunakan profil default teruji'],
          oracleGroundingRequirement: 'Mencegah deviasi akurasi model hilir.',
        };

      case 'CONFLICTING_OBJECTIVE':
        return {
          defectId: defect.id,
          targetSubsystem: 'Loss Function & Optimization Target',
          targetedInquiry: `Terdapat kontradiksi antara objektif formulasi formal dan narasi teks: ${defect.rationale}`,
          suggestedOptions: ['Pilih formulasi Loss A', 'Pilih formulasi Loss B dengan pembobotan'],
          oracleGroundingRequirement: 'Menghindari kegagalan konvergensi training.',
        };

      default:
        return {
          defectId: defect.id,
          targetSubsystem: 'General Method Specification',
          targetedInquiry: `Kesenjangan metodologis terdeteksi pada ${defect.categoryL2}: ${defect.rationale}`,
          suggestedOptions: ['Klarifikasi definisi operasional'],
          oracleGroundingRequirement: 'Mencegah asumsi halusinatif coding agent.',
        };
    }
  }
}

/**
 * 3. Autonomous Execution Harness Dispatcher
 * Memblokir loop coding agent jika status spesifikasi NOT_READY untuk mencegah 'unsupported assumptions'
 */
export async function executeAgenticWorkflow(
  specText: string,
  gate: CodificationReadinessGate,
  defectDetector: (text: string) => Promise<DefectAnnotation[]>,
  agentExecutor: (text: string) => Promise<{ codeFiles: string[] }>
): Promise<{ status: 'SUCCESS' | 'CLARIFICATION_REQUIRED'; artifacts?: string[]; issues?: ClarificationAction[] }> {
  // Tahap 1: Deteksi & Lokalisasi Cacat
  const detectedDefects = await defectDetector(specText);

  // Tahap 2: Evaluasi Kesiapan (Readiness Gate)
  const audit = gate.auditSpecification('spec-' + Date.now(), specText, detectedDefects);

  if (!audit.allowAutonomousExecution) {
    console.warn('[GATE_VETO] Spesifikasi NOT_READY. Eksekusi coding agent dibatalkan demi integritas kode.');
    return {
      status: 'CLARIFICATION_REQUIRED',
      issues: audit.requiredClarifications,
    };
  }

  // Tahap 3: Eksekusi Kode jika spesifikasi READY
  console.log('[GATE_PERMIT] Spesifikasi lolos audit. Melanjutkan ke Autonomous Coding Agent...');
  const build = await agentExecutor(specText);
  return {
    status: 'SUCCESS',
    artifacts: build.codeFiles,
  };
}

6. Hasil Evaluasi Empiris: Bottleneck Lokalisasi vs Klarifikasi

Tim peneliti menguji 13 model bahasa besar frontier terkemuka (mencakup keluarga GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama-3 70B, serta model spesialis reasoning) pada seluruh instans IdeaAMBIG:

Kategori Evaluasi Kinerja Model Terbaik (LLM Frontier) Baseline Rata-rata Model Implikasi Praktis pada AI Agents
Task 1: Readiness Accuracy 78.2% F1-Score 61.5% F1-Score Model cukup peka mendeteksi apakah suatu teks "lengkap atau tidak", namun sering memberikan alasan yang meleset dari cacat riil.
Task 2: Real-World Defect Recovery 9.6% Recovery Rate 3.8% – 6.2% BOMBSHELL BOTTLENECK: Model hampir buta total dalam menemukan lokasi persis cacat metodologis di spesifikasi dunia nyata.
Task 3: Clarification Action Success 80.6% Success Rate 68.4% Success Rate Saat jenis cacat telah ditunjukkan, model sangat piawai menyusun pertanyaan interogatif yang tepat untuk menggali solusi.
Oracle Clarification Utility (Table 2) 14% → 98% Codification Ready Peningkatan 7.0x Lipat Intervensi klarifikasi manusia yang tepat sasaran melenyapkan 100% asumsi liar dan kegagalan koding hilir.

Analisis Kesenjangan 9.6% vs 80.6% (The Information Bottleneck):

Kesenjangan mencolok antara 9.6% pada Task 2 dan 80.6% pada Task 3 membongkar akar masalah sebenarnya pada agen AI modern:

  • Bukan Masalah Ketidakmampuan Koding atau Komunikasi: Ketika agen diberitahu secara eksplisit: "Algoritma ini tidak menyebutkan nilai learning rate awal dan fungsi annealing-nya," model dengan mudah menanyakan nilai parameter tersebut kepada pengguna.
  • Kegagalan Epistemik (Epistemic Blindspot): Masalah utamanya adalah model tidak menyadari bahwa ada sesuatu yang hilang. Karena model dilatih untuk selalu menghasilkan teks lanjutan yang mulus (next-token prediction), agen secara otomatis melompat ke asumsi implisit tanpa menyalakan alarm bahwa spesifikasi yang dipegangnya belum memenuhi syarat codification-ready.

7. Panduan Praktis Membangun Harness Coding Agent 2026

Bagi praktisi AI, arsitek sistem, dan tim rekayasa yang mengintegrasikan autonomous coding agents ke dalam siklus produksi (CI/CD atau autonomous workflow), temuan IdeaAMBIG memberikan 4 panduan mutlak:

01

Terapkan Pre-Execution Readiness Gate (Fail-Closed)

Jangan biarkan autonomous agent langsung menulis kode dari user prompt atau ringkasan arsitektur bebas. Selipkan lapisan verifikasi Readiness Gate terpisah yang bertugas membedah dokumen terhadap 10 kategori cacat spesifikasi. Jika status dokumen NOT_READY, tahan eksekusi dan tolak penulisan kode.

02

Larangan Keras Mengarang Asumsi Tanpa Dasar (Zero-Assumption Mandate)

Instruksikan agent harness secara eksplisit dalam sistem prompt: setiap kali parameter fungsional, formula matematis, atau dependensi arsitektur tidak tercantum di dokumen referensi, agen dilarang keras berasumsi atau memilih nilai default sepihak. Agen diwajibkan menghentikan loop dan menghasilkan clarification request terstruktur.

03

Pemisahan Peran: Validator Khusus vs Generator Kode

Jangan gunakan satu agen tunggal untuk merangkap tugas verifikasi spesifikasi dan penulisan kode. Gunakan model terpisah atau prompt khusus yang berperan murni sebagai Defect Auditor / Adversarial Reviewer yang mencari celah kekurangan dalam rencana implementasi sebelum agen eksekutor mulai menyentuh file repository.

04

Manfaatkan Clarification Loop Aktif Sebelum Commit

Sebagaimana dibuktikan oleh pengujian oracle (peningkatan kesiapan kode dari 14% ke 98%), dialog interaktif terstruktur antara sistem agen dan developer manusia di fase awal (upstream clarification) menghemat ribuan jam waktu debugging yang sia-sia di fase hilir (downstream remediation).

8. Kesimpulan

Riset IdeaAMBIG (arXiv:2609.10539) memberikan fondasi empiris yang sangat dibutuhkan dalam ekosistem rekayasa perangkat lunak modern. Kemampuan model LLM untuk menulis kode dengan sintaksis sempurna tidak ada artinya jika ide dasar yang diterjemahkan dipenuhi oleh asumsi-asumsi palsu akibat cacat spesifikasi yang tak terdeteksi. Dengan memahami batas kritis Defect Localization (9.6%) dan memanfaatkan kekuatan Clarification Action (80.6%) melalui arsitektur harness yang disiplin, komunitas rekayasa perangkat lunak dapat menutup jurang pemisah antara ide riset konseptual dan implementasi kode produksi yang tangguh dan terverifikasi.

Referensi & Sumber Terverifikasi

Butuh Arsitektur Web & AI Berkualitas Tinggi?

Tim engineering NEWSAINT siap membantu merancang website berkecepatan tinggi, sistem AI autonomous, dan solusi SaaS terukur untuk bisnis Anda.

Artikel Terkait Lainnya

Ilustrasi Arsitektur Teknis 16:9 Bellman Language Models (arXiv:2610.24871): Discretize-Then-Decide, Eliminasi Redundant LLM Invocations hingga 98%, dan Optimal Control pada Agentic Workflows

Bellman Language Models (arXiv:2610.24871): Discretize-Then-Decide, Eliminasi Redundant LLM Invocations hingga 98%, dan Optimal Control pada Agentic Workflows

Analisis arsitektur sistemik riset frontier arXiv:2610.24871 (Adarsh Vatsa & William Eiers): Mengapa workflow agen otonom terus-menerus memboroskan komputasi untuk mendeduksi ulang keputusan yang berulang pada setiap turn? Memperkenalkan Bellman Language Models (BLM) dan paradigma "Discretize, Then Decide" yang memodelkan interaksi agen sebagai Markov Decision Process (MDP) diskret dan menyelesaikannya via persamaan optimalitas Bellman. Pada benchmark tau^2-bench telecom, controller mandiri tanpa model LLM mampu menyelesaikan 79% tugas; dipasangkan dengan Qwen3.8-27B, akurasi melonjak dari 29% menjadi 96% dengan pemangkasan 93% panggilan model; serta memangkas 98% biaya Claude Opus 5.5. Artikel ini membedah teori saturasi ruang keputusan, formulasi Bellman controller, batasan pada open synthesis, dan implementasi TypeScript produksi.

Ilustrasi Arsitektur Teknis 16:9 Acceptance Is Not Speed (arXiv:2610.23818): Ilusi Akselerasi Lossy Speculative Decoding, Mengapa Relaxed Sampling Memperpanjang Reasoning Trace 1.54x, dan Solusi Length-Corrected Verification

Acceptance Is Not Speed (arXiv:2610.23818): Ilusi Akselerasi Lossy Speculative Decoding, Mengapa Relaxed Sampling Memperpanjang Reasoning Trace 1.54x, dan Solusi Length-Corrected Verification

Investigasi empiris komprehensif arXiv:2610.23818 (Chiatzen Wang, Bill Xu, Haochen Gu, Hongyang Zhang — University of Waterloo): Mengapa peningkatan rasio penerimaan token (accepted length) pada lossy speculative decoding gagal menghasilkan akselerasi wall-clock? Evaluasi 360 konfigurasi lintas 12 pasangan target-drafter (GPT-OSS-20B, Qwen3-8B, Llama-3.1-8B dengan EAGLE-3, DSpark, dan standalone drafter) membuktikan fenomena sistemik "Length Inflation": relaksasi verifikasi menerima token probabilitas rendah yang mendeformasi lintasan penalaran, menyebabkan model berpikir 1.54x lebih panjang (bahkan 3.3x pada EAGLE-3). Lebih dari 90% token ekstra terbuang di dalam reasoning trace (<think>), memicu kehabisan token budget pada AIME24 dan evaluasi redundan pada GSM8K. Artikel ini membedah taksonomi 5 metode lossy (CACTUS, Mentored Decoding, rFSD, Speculative Cascades), batas matematis net-win, serta implementasi TypeScript Length-Corrected Speculative Harness.

Ilustrasi Arsitektur Teknis 16:9 DLite (arXiv:2610.23787): History-Free Speculative Decoding untuk Agentic AI, Eliminasi Draft KV Cache, dan Akselerasi 2.74x pada SWE-bench

DLite (arXiv:2610.23787): History-Free Speculative Decoding untuk Agentic AI, Eliminasi Draft KV Cache, dan Akselerasi 2.74x pada SWE-bench

Bedah arsitektur dan evaluasi empiris riset frontier arXiv:2610.23787 (Jiaming Xu, Guohao Dai et al. — SJTU, Tsinghua, Shanghai Innovation Institute): Mengapa metode speculative decoding konvensional seperti EAGLE-3, DFlash, dan DSpark mengalami degradasi acceptance length hingga 80% pada beban kerja agen otonom? DLite memperkenalkan paradigma History-Free Speculative Decoding yang sepenuhnya mengeliminasi draft KV cache, menggunakan parallel backbone berbasis reuse hidden state target model dengan learnable depth embeddings, lightweight low-rank RNN sequential head di ruang representasi tersembunyi, serta two-stage distillation training (isomorphic teacher warm-up dan total variation alignment). Evaluasi pada Qwen3-4B dan Qwen3-8B via SGLang membuktikan lonjakan acceptance length hingga 3.19 token dan akselerasi end-to-end 2.74x pada SWE-bench tanpa kehilangan kualitas generasi.