HomeTags#knowledge-distillation

Tag timeline

#knowledge-distillation 2 total

同じキーワードで束ねられた更新を確認できます。カテゴリをまたいだ関連ニュースや実装トピックの追跡に使えます。

Total 2
Showing 2
Page 1/1
Updated 1h ago

Entries page 1/1 · 2 total

Mon, Jun 1 1 entries
paper research 2w ago · arxiv-cs-lg

ブラックボックス LLM 蒸留における有界行動不可識別性 Bounded Behavioral Indistinguishability for Black-Box LLM Distillation

重要度 Medium Medium priority 重要度 Medium · 論文/研究 · Papers / Benchmarks Medium priority · paper/research · Papers / Benchmarks 公開 6月1日 Published Jun 1

AI要約 本論文は、ブラックボックス LLM 蒸留の評価を「出力マッチング」から「行動の不可識別性」へと再定義する新たな枠組みを提案する。学生モデルが教師モデルと区別できない範囲を理論的に定量化し、より厳密な蒸留評価を目指す研究だ。

EN arXiv:2605.30448v1 Announce Type: new Abstract: Black-box LLM distillation is usually evaluated as an output-matching problem: a student is considered successful when its responses are semantically si

fallback
Wed, Jan 28 1 entries
blog local-llm 4mo ago · huggingface-blog

ClaudeでCUDAカーネルを自動生成し、オープンモデルへ蒸留する取り組みをHugging Faceが公開 We Got Claude to Build CUDA Kernels and teach open models!

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Local LLM / Open Models Medium priority · technical post · Local LLM / Open Models 公開 1月28日 Published Jan 28

AI要約 Hugging FaceがClaudeを用いてCUDAカーネルを自動生成し、その知識をオープンモデルへ蒸留するワークフローを公開した。

EN We Got Claude to Build CUDA Kernels and teach open models!

fallback