本文へスキップ
新しい製品に最初に出会う場所
M

modelmap

Hugging Face のモデル構造を動く地図として描くツール

AI3日前
カテゴリー
AI
ウェブサイト
modelmap.cc
言語
英語
登録日
3日前

Hugging Face のモデル ID を貼り付けると、重みを一切ダウンロードせずにネットワークの構造を地図として描き出します。モジュールをクリックして中を見たり、内部のステップを開いたりでき、アドレスバーがその状態を追いかけるので、URL 一つで今見ている画面をそのまま再現できます。二つのモデルを並べると、対応するモジュールが両側に表示され、違いは琥珀色で浮かび上がります。

図を描くだけの道具ではありません。順伝播を再生してトークンが層を渡っていく様子を見せ、各層の隠れ状態を語彙スコアへ直接投影して、予測が形になっていく途中を映し出します。小さなモデルはブラウザ内で実際に動くので、プロンプトを入れて本物のアテンションと次トークン確率を眺めたり、特定のヘッドの出力をゼロにして回し直し、そのヘッドが何を担っていたかを確かめたりできます。サービング用のパネルは、手元の GPU に載るか、どう分割するか、KV キャッシュがどれだけ要るか、MoE ならトークンごとに何人のエキスパートが動くかを計算します。ゲート付きのリポジトリには Hugging Face のトークンが必要で、ローカルのチェックポイントもそのまま開けます。

この製品が気に入りましたか?