跳到主要內容
搶先遇見新產品的地方
M

modelmap

把 Hugging Face 模型結構畫成會動的地圖

AI3天前
分類
AI
語言
英語
發布於
3天前

貼上一個 Hugging Face 模型 id,modelmap 就把這張網路畫成一幅會動的地圖,全程不下載權重。點開某個模組可以看內部,也可以展開它的子步驟,網址列會跟著變,所以一條 URL 就能還原目前這個畫面。兩個模型可以並排擺,配對的模組左右對照,差異以琥珀色標出。

它不只是畫圖。可以重播一次前向傳遞,看一個 token 在層與層之間擴散;也可以把每一層的隱藏狀態直接投影到詞彙分數上,讓預測成形的過程顯露出來。小模型能直接在瀏覽器裡跑:輸入提示詞,看真實的注意力與下一個 token 的機率分布,或者把某個注意力頭的輸出歸零再跑一次,看它原本貢獻了什麼。部署面板負責算帳,模型裝不裝得進你的 GPU、怎麼切、KV 快取要多少、MoE 每個 token 啟動幾位專家。受限的儲存庫需要 Hugging Face 權杖,本機的檢查點也可以直接開啟。

喜歡這個產品嗎?