v0.3.0更少的確認詢問、更少浪費的 token、更少做到一半就停的執行 · mu-agent 0.3.0

mude 1.0:針對程式設計場景最佳化的決策模型

mu 自己的決策模型,經過微調和訓練,在程式設計場景的決策上達到 SOTA 級。它在你自己的機器上執行,判定的內容不會離開這台機器。

在你自己機器上執行的判定器

20 億參數

一次前向傳遞就回答一次判定裡的全部問題,每個答案都帶機率。

本機判定

服務在 127.0.0.1 上執行。它判定的內容不會離開你的機器。

MIT 授權

兩個版本都放在 Hugging Face 上,免費下載。

在 Hugging Face 上

在 Mac 上一條指令裝好

一鍵安裝目前只支援 Apple 晶片的 Mac:macOS 14 或更新版本,記憶體 8 GB 以上。在這樣的 Mac 上,mude 是推薦的判定器,mu setup 會把它列在第一位。服務執行時約占用 4 GB 記憶體。

mu judge mude install               # 下載(中斷後接著下載),逐一驗證檔案,在 127.0.0.1 上啟動,設為判定器
mu judge mude status                # 裝了什麼,有沒有在執行,有沒有啟用
mu judge mude enable --local-only   # 只用 mude:什麼都不送到雲端判定器
mu judge mude disable               # 換回之前的判定器,並停掉 mude 的服務
mu judge mude uninstall             # 刪除模型和它的 Python 環境

在桌面版

新手引導在能執行 mude 的 Mac 上,判定器這一步一開始就選中它,作為推薦的判定器,點一下就能安裝。安裝中途停下,點「繼續安裝」就從中斷的地方接著裝。
設定 → 判定器mude 卡片上可以安裝、啟動、停止、設為判定器和解除安裝,還有「僅限本機」開關。

在其他機器上

在別的機器上,用完整版(Hugging Face 上的 mude-1.0)和它自帶的 System One 服務來執行(做法見模型卡),再在 ~/.mu/agent/mu.json 裡把它加成一個 typesafe 判定器。MUDE_KEY 裡放的是啟動服務時用的金鑰:

{
  "judges": {
    "mude": {
      "type": "typesafe",
      "baseUrl": "http://127.0.0.1:8790/v1/systemone",
      "model": "mude",
      "apiKeyEnv": "MUDE_KEY"
    }
  },
  "tiers": ["mude"]
}
模型卡上的「Use with mu」(英文)

什麼會離開你的機器

有備援(預設)

你之前用的判定器留在 mude 後面當備援:mude 答不了的問題(它的服務沒在執行,或者它拿不準),以及兩項注入審查(工具描述和工具輸出),都交給它。如果它在雲端,送過去的內容會離開你的機器。

mu judge mude install

僅限本機

mude 是唯一的判定器,什麼都不送到雲端判定器。mude 答不了時,判定點照沒有判定器時那樣做。

mu judge mude enable --local-only

mude 1.0 和 Jev

mude 1.0Jev
在哪裡執行你的機器上,127.0.0.1TypeSafe 託管,透過 TypeSafe、OpenRouter、Vercel AI Gateway、OpenCode Zen 或 Cloudflare Workers AI 呼叫
什麼會離開你的機器開了「僅限本機」就什麼都不離開;否則是交給備援判定器的內容每個問題需要的欄位,例如一則訊息、一塊輸出或一條指令;認證資訊會先遮蔽
平台一鍵安裝:Apple 晶片的 Mac。其他機器:在自己的伺服器上執行完整版mu 能執行的地方都能用
授權與取得MIT,兩個版本都在 Hugging Face 上託管服務:沒有金鑰時透過 OpenCode Zen 限時免費,設定自己的金鑰則按次付費
怎麼開始mu judge mude install,或在桌面版一鍵安裝不用設定,預設就是它;mu setup 可以設定金鑰

能力分榜

查看 mubench 1.0 榜單

喜歡 mu,就到 GitHub 給個 Star

在 GitHub 上 Star553