#theory — TECH Dashboard

paper research 2w ago ·

arxiv-cs-lg

ブラックボックス LLM 蒸留における有界行動不可識別性 Bounded Behavioral Indistinguishability for Black-Box LLM Distillation

重要度 Medium Medium priority 重要度 Medium · 論文/研究 · Papers / Benchmarks Medium priority · paper/research · Papers / Benchmarks 公開 6月1日 Published Jun 1

AI要約本論文は、ブラックボックス LLM 蒸留の評価を「出力マッチング」から「行動の不可識別性」へと再定義する新たな枠組みを提案する。学生モデルが教師モデルと区別できない範囲を理論的に定量化し、より厳密な蒸留評価を目指す研究だ。

EN arXiv:2605.30448v1 Announce Type: new Abstract: Black-box LLM distillation is usually evaluated as an output-matching problem: a student is considered successful when its responses are semantically si

#arxiv #paper #llm +5

arxiv.org →

fallback

paper research 3w ago ·

arxiv-cs-cl

検索拡張生成のためのIn-Context最適化：勾配降下法の視点 In-Context Optimization for Retrieval-Augmented Generation: A Gradient-Descent Perspective

重要度 Medium Medium priority 重要度 Medium · 論文/研究 · Papers / Benchmarks Medium priority · paper/research · Papers / Benchmarks 公開 5月27日 Published May 27

AI要約 In-context learningを暗黙的勾配降下と結びつけ、RAGの文脈選択を最適化フレームワークとして再定式化した研究。

EN arXiv:2605.26356v1 Announce Type: new Abstract: In-context learning has recently been linked to implicit gradient descent in linear self-attention models, suggesting that context can induce a forward-

#arxiv #paper #rag +5

arxiv.org →

og fallback

#theory 2 total

Entries page 1/1 · 2 total

ブラックボックス LLM 蒸留における有界行動不可識別性 Bounded Behavioral Indistinguishability for Black-Box LLM Distillation

検索拡張生成のためのIn-Context最適化：勾配降下法の視点 In-Context Optimization for Retrieval-Augmented Generation: A Gradient-Descent Perspective