DGX SparkでMistral Small 4 119B (UD-Q4_K_M)を動かす A practical report on running the Mistral Small 4 119B model in UD-Q4_K_M quantized format…
AI要約 NVIDIA DGX Spark上で大規模言語モデルMistral Small 4 119BをUD-Q4_K_M量子化形式で動作させる手順と検証結果を紹介。ローカル環境での大規模モデル運用の実例として参考になる内容。
EN A practical report on running the Mistral Small 4 119B model in UD-Q4_K_M quantized format on NVIDIA DGX Spark, sharing setup steps and performance observations for local large-model deployment.
og