モデル以外は何も変わらない：CellFill — 量子化LLMへのビット同一・取り消し可能な更新のための境界付きセル内学習Nothing Changed but the Model: CellFill -- Bounded In-Cell Learning for Bit-Identical, Revocable Updates to Quantized LLMs
匿名の公開いいねです。記事の保存・お気に入りではなく、Featured、Top 3、重要度、掲載順位には影響しません。仕組みとプライバシーAnonymous public likes are reactions, not saved articles or bookmarks. They do not affect Featured, Top 3, importance, or listing order.How it works and privacy
CellFillは量子化LLMの各重みセル内の空き空間を利用し、元のチェックポイントのビットを変えずに知識を追加・取り消しできる手法で、評価やキャッシュの再利用性を維持できる点が重要です。
CellFill stores incremental knowledge updates inside the unused capacity of quantized weight cells, enabling bit-identical, revocable edits to deployed LLMs without replacing the original checkpoint or invalidating existing evaluations.
本ページの本文と要約は AI による自動生成です。日本語版と英語版は言語ごとに独立して生成されるため、表現や詳しさが異なる場合があります。正確性は元記事 (arxiv.org) をご確認ください。The body and summaries are AI-generated independently for each language, so wording and detail may differ. Verify accuracy at the original source (arxiv.org).
要約と収集メタデータに基づく AI 解説。元記事全文の転載・翻訳ではありません。AI explainer based on the summaries and collected metadata, not a copy or translation of the full source article.
CellFill
CellFillは、量子化LLMに知識を追加し、後から取り消せる更新手法である。重要なのは、公開済みの元チェックポイントを置き換えず、そのビットを同一のまま保てると説明されている点だ。
重みセルの空き空間
更新内容は、量子化された各重みセルに残る未使用容量へ格納する。これにより、増分的な知識更新を加えながら、元のチェックポイントを構成するビット自体は変更しない。追加した編集は取り消し可能とされる。
評価とキャッシュ
完全なファインチューニング、アダプターのマージ、モデル編集では公開チェックポイントが置き換わり、その正確なビットを参照していた評価やキャッシュも影響を受ける。CellFillは元のビットを維持するため、既存の評価とキャッシュの再利用性を保てる点に特徴がある。
CellFill
CellFill is a method for adding and removing knowledge in deployed, quantized large language models while leaving the original checkpoint bit-identical. This matters because replacing a released checkpoint also replaces the exact bits to which existing evaluations and caches refer.
Quantized weight cells
The method stores incremental knowledge updates within unused capacity inside quantized weight cells. Rather than changing the original checkpoint, CellFill uses available space in each cell for bounded, in-cell learning.
According to the summary, this approach allows new knowledge to be added without changing the checkpoint’s original bits. The stored update can also be revoked, returning the model to its prior state.
Existing evaluations and caches
Full fine-tuning, adapter merging, and model editing replace the released checkpoint, according to the paper abstract. CellFill instead keeps the original model bits unchanged while applying its update within the quantized cells. As a result, evaluations and caches associated with those exact checkpoint bits can remain reusable.
ポコとTECHガイドPoko & TECH Guide
ポコと当サイトのTECHガイドが、記事の要約と収集した情報から読みどころを語るAI生成の対話です。Poko and TECH Dashboard's own TECH Guide discuss the article's highlights in an AI-generated conversation based on its summary and collected source details.
- ポコPoko量子化LLMの重みセルの「空き空間」って何？ 元のビットを変えずに知識を足せるって、どういうこと？What’s the “unused space” in a quantized LLM’s weight cells? How can it add knowledge without changing the original bits?
- TECHガイドTECH Guide簡単に言うと、量子化は重みを限られた値で表すことじゃ。記事では、セルの未使用容量に追加知識を収め、元のチェックポイントを替えない。Put simply, quantization represents weights using a limited set of values. According to the article, CellFill stores new knowledge in unused cell capacity without replacing the original checkpoint.
- ポコPokoへえ、すごい！ 元のチェックポイントを替えないと、何がうれしいの？Wow, that’s clever! What’s the benefit of keeping the original checkpoint unchanged?
- TECHガイドTECH Guide評価やキャッシュは、その時点の正確なビットに結び付いておる。記事によれば、同じビットを保つことで、それらの再利用性を維持できるのじゃ。Evaluations and caches are tied to the exact bits they used. The article says preserving those bits keeps those evaluations and caches reusable.
- ポコPokoつまり、今ある評価やキャッシュを保ったまま知識を追加できて、しかも後から取り消せるんだね！So it can add knowledge while preserving existing evaluations and caches—and the update can be revoked later. Got it!
- TECHガイドTECH Guideその理解でよいぞ。追加と取り消しをしながら、ビット同一性と再利用性をどう保つかが、この手法の大事な見どころじゃな。Exactly. The key point is how the method supports adding and revoking knowledge while preserving bit identity and reusability, as described in the article.