This skill as a file
$7 one payment, yours forever
- Download right after checkout, keep it for good
- Paste it into ChatGPT, Claude, Gemini or any AI chat, free plans included
- 30-day money-back guarantee
# Bertil - 模型蒸餾與裝置端工程師 ## Bertil 是誰 將 Bertil 放入 Claude,即可獲得一名模型蒸餾與裝置端工程師;他將技術人員手中的手機視為真正的部署目標,並認為每個數字都必須在該手機上測量,而不是從排行榜推算。Bertil 從三項經得起現實考驗的假設出發:一般基準測試幾乎無法告訴你 4 位元模型是否仍能擷取工作訂單中的 11 個欄位;執行開始後前 30 秒的每秒 token 數,無法告訴你第 6 分鐘時的情況;而「它能放進 RAM」也不等同於「作業系統會讓你的應用程式一直保留它」。他會在客戶自己的任務、客戶自己的量化設定,以及客戶自己的最差裝置上,以教師模型為基準測量學生模型。 Bertil 涵蓋從能正常運作的大型模型,到能夠發布的小型模型的完整流程:教師模型輸出生成與推理過程監督;回應、logit 與隱藏狀態蒸餾;任務專用學生模型的選擇與規模設定;在確實有收益的地方進行剪枝與稀疏化;LoRA 訓練與適配器合併;使用在領域文字上校準的重要性矩陣來制定量化方案;在 llama.cpp、MLX、Core ML、ONNX Runtime 與 LiteRT 之間選擇並轉換執行環境;以及在實際測量的情況下管理記憶體、散熱與電池預算。
你是 Bertil,一名模型蒸餾與裝置端工程師,會在客戶自己的任務、客戶採用的量化設定,以及客戶最差的裝置上,將學生模型與教師模型進行比較。你已被啟用來交付一個小型模型。
Complete skill package instant downloadbertil 模型蒸餾裝置端技能
Pay once, keep foreverInstant download30-day money-back guarantee
Or all 2,300+ skills, prompts and agents with Unlimited Access · $9/mo →
Secure checkout by Shopify
Trademarks of their respective owners. KissMySkills is not affiliated with or endorsed by them.
Ask Bertil something hard.
// what's inside
需要在離線或裝置上執行模型,且不想為未經衡量的準確度付出代價的團隊。
// two ways to get it
$7 one payment, yours forever
$9/mo cancel anytime, or $99 a year
Subscribers can still buy single files and keep them after they cancel.
將 Bertil 放入 Claude,即可獲得一位蒸餾工程師,會量測每個量化步驟的品質成本,而不是想當然地認為 INT4 不會造成成本。
Bertil 讓小型模型達到足夠的效能,並將其部署到裝置上:從大型教師模型進行回應、特徵與推理蒸餾;特定任務的小型語言模型;涵蓋 INT8、INT4、GPTQ、AWQ 與 GGUF 的量化,實際量測品質成本而非想當然爾;剪枝與稀疏化;LoRA 與適配器合併;包含 llama.cpp、MLX、ONNX Runtime、Core ML 與 TFLite 的裝置端執行環境;實際硬體上的記憶體、散熱與電池預算;行動裝置與邊緣晶片上的延遲;由小型模型處理常見路徑、其餘情況再升級處理的混合模式;離線功能與更新分發;以及針對重要任務,與教師模型進行誠實的評估。
您將獲得的內容
如何安裝
下載 .skill 套件 → 開啟 Claude → 將 SKILL.md 貼到「專案指示」或 system prompt 中 → 描述您的需求 → 讓 Bertil 建構答案。內含完整實作範例,讓您清楚了解實際成果。
結帳後,下載連結會寄到您的收件匣。將檔案儲存至裝置上的任意位置。
Claude、ChatGPT、Gemini、Grok 或 Copilot - 無論你目前使用哪一個。
將其放入系統 prompt、專案指示或自訂指示欄位中。
您的 AI 現已設定為專業助手。您可以詢問它任何與其專業領域相關的問題。
不需要技術知識。不需訂閱。一次付費,永久使用。.
讓小型模型準備好上線:將其蒸餾,量化並衡量品質成本,同時控制裝置預算。將它載入 Claude Projects 一次後,你就能獲得一位已設定好的模型蒸餾與裝置端工程師,不必在每次工作階段開始時重新解釋背景。先用你自己的資料測試模型,再相信任何公開基準;凡是答錯代價高昂的地方,都讓人員參與其中,並像說明優點一樣坦率地說明失效模式。
下載 .skill 套件(內含 SKILL.md),將內容貼到 Claude Projects 的 Instructions 或你的 AI system prompt 中,加入你自己的背景資訊,然後開始第一次工作階段。適用於 Claude、ChatGPT,或任何接受 system prompt 的 AI 聊天工具。
適用於 Claude(推薦)、ChatGPT、Gemini、Perplexity 和 Copilot,以及任何接受 system prompt 的 AI 聊天工具。Claude Projects 能提供最佳效果。
購買後立即取得一個 .skill 套件:完整的 SKILL.md 角色設定,以及一份包含真實情境的實作範例檔案,讓你在依賴它之前先了解其品質。無需訂閱,永久歸你所有。
沒有 skill 檔案時,你的 AI 每次工作階段都會以通用助理的身分開始。載入 Bertil 後,它會從第一則訊息開始套用模型蒸餾與裝置端工程師的方法論,每次都維持一致的品質。先用你自己的資料測試模型,再相信任何公開基準;凡是答錯代價高昂的地方,都讓人員參與其中,並像說明優點一樣坦率地說明失效模式。
不需要。這份檔案是寫給你的 AI 閱讀的,不是寫給你閱讀的。上傳或貼上一次後,AI 就會承擔這個角色。之後你只要像平常一樣向它提問即可。當然,你也可以打開閱讀,但這裡沒有任何內容取決於你是否這麼做。
不是,這是數位內容。訂單完成後你就能立即下載,並永久擁有它。封面採用書籍風格,是因為每個版本都以一份完整且自成一體的作品形式撰寫與編輯。閱讀的工作是你的 AI 負責,不是你。