HomeTags#scaling-laws

#scaling-laws page 1/1 · 2 total

TODAY 2 entries
NEW blog local-llm 2h ago · qiita-llm

医療LLMでは安全性と精度が別のスケーリング則に従う A study on medical LLMs reveals that safety and accuracy follow different scaling laws

AI要約 医療分野のLLMにおいて、安全性と精度はそれぞれ異なるスケーリング則に従うことが示された。モデル規模を拡大しても両者が同時に向上するわけではなく、安全性確保には別途の最適化が必要となる点が指摘されている。

EN A study on medical LLMs reveals that safety and accuracy follow different scaling laws. Simply scaling up model size does not improve both simultaneously, suggesting that ensuring safety in medical applications requires dedicated optimization beyond accuracy scaling.

qiita.com
医療LLMでは安全性と精度が別のスケーリング則に従う og
NEW paper research 10h ago · arxiv-cs-cl

計算量最適なトークナイゼーション Compute Optimal Tokenization

AI要約 本論文は、計算予算に対して最適なトークナイゼーション戦略を探求する研究である。語彙サイズやトークン化手法が学習効率とモデル性能に与える影響を分析し、計算コストを考慮した最適な設定を提案している。

EN This paper investigates compute-optimal tokenization strategies for language models, analyzing how vocabulary size and tokenization choices affect training efficiency and model performance under fixed compute budgets.

arxiv.org