v0.3.0更少的確認詢問、更少浪費的 token、更少做到一半就停的執行 · mu-agent 0.3.0

需要我們為您和您的企業客製決策模型嗎?

每一輪,mu 都要問決策模型幾十個小問題:這條指令能不能執行,哪段舊輸出值得留下,這件事做完了沒有。我們可以依照您團隊的判斷標準客製一個決策模型,讓它在您自己的機器上執行,並用數字告訴您它帶來了什麼改變。

告訴我們您的需求了解 mude 1.0

從 mude 1.0 開始,在您自己的機器上執行

Apple 晶片的 Mac

在桌面版點一下,或執行一條指令 mu judge mude install:mu 會下載 MLX 8 位元版本,逐一驗證檔案,在 127.0.0.1 上啟動它,並把它設為判定器。

huggingface.co/qybaihe/mude-1.0-mlx-8bit

您的 GPU 伺服器

完整的 bf16 模型,搭配它自帶的 System One 服務,建議使用 CUDA GPU。mu 透過您自己的網路,把它當作判定器來呼叫。

huggingface.co/qybaihe/mude-1.0
在模型頁進一步了解 mude 1.0

照您團隊的方式做決策

  1. 您的決策

    從對您重要的決策開始:在您的程式碼庫裡什麼算有風險,您的審查規範要求什麼,工作該怎麼分派。

  2. 先測基準

    像 mubench 那樣,在這些決策上為您目前的設定評分:每個答案按它帶來的後果的代價計分。

  3. 微調

    用您的判定點、工作流程和規則微調一個決策模型。

  4. 前後比較

    用同樣的方法再評一次分,和您目前的設定放在一起比,切換之前就看清變化。

mubench 怎麼為決策模型評分

開箱即用,搭配 mu

命令列和桌面版的判定器在命令列裡執行 mu judge mude install,或在桌面版「設定 → 判定器」的 mude 卡片上操作。
僅限本機執行 mu judge mude enable --local-only 後,mude 是唯一的判定器,什麼都不送到雲端判定器。mude 答不了時,判定點照沒有判定器時那樣做。
先用影子模式影子模式下的判定點照常提問、記錄判定,但不改變任何東西。您可以先觀察模型,再決定信不信任它。
可供稽核的帳本每次判定都記錄在您的機器上:答案和它們的機率、耗時,以及它來自判定器還是備援。用 mu ledger 或桌面版的「判定」頁查看。

常見問題

能先試用 mude 1.0,再聯絡你們嗎?可以。它以 MIT 授權免費提供。裝好之後,把判定點設成影子模式,在帳本裡看它的判定。
我們用的程式設計模型會變嗎?不會。決策模型只回答 mu 的決策。用哪個程式設計模型、它在哪裡執行,仍由您決定。
哪些內容會離開我們的網路?mude 回答的都不會:它在您的機器上執行。開啟僅限本機後,也不會有內容送到雲端判定器。程式設計模型是另一回事:它看到的內容會送到它執行的地方。
怎麼知道客製的模型比較好?像 mubench 那樣,在您自己的判定點上為它評分,前後各一次,和您目前的設定放在一起比。切換之前,您就能看到數字。

告訴我們您想讓模型做哪些決策

敬請期待這份表單還沒有接通。按「送出」不會送出任何內容,也不會儲存任何內容。

喜歡 mu,就到 GitHub 給個 Star

在 GitHub 上 Star553