v0.3.0承認の確認も、トークンの無駄も、途中で止まる実行も減らす · mu-agent 0.3.0

あなたと御社に合わせて、意思決定モデルをカスタマイズしませんか?

mu はターンごとに、意思決定モデルに数十の小さな問いを尋ねます。このコマンドを実行してよいか、どの古い出力を残す価値があるか、作業は終わったか。私たちは、チームの判断基準に合わせて意思決定モデルをカスタマイズし、御社のマシンで動かし、何が変わったかを数字でお見せできます。

ご要望をお聞かせくださいmude 1.0 について

mude 1.0 から始めて、自社のマシンで動かす

Apple シリコン搭載の Mac

デスクトップアプリでワンクリック、またはコマンド 1 つ(mu judge mude install)。mu が MLX 8 ビット版をダウンロードし、全ファイルを検証し、127.0.0.1 で起動して判定器にします。

huggingface.co/qybaihe/mude-1.0-mlx-8bit

御社の GPU サーバー

bf16 のフルモデルを、付属の System One サーバーで動かします。CUDA GPU を推奨します。mu は社内のネットワーク越しに、それを判定器として使います。

huggingface.co/qybaihe/mude-1.0
モデルのページで mude 1.0 を詳しく見る

チームの判断の仕方に合わせて

  1. 御社の判断

    大事な判断から始めます。御社のコードベースで何がリスクになるか、レビューの方針が何を求めるか、作業をどう振り分けるべきか。

  2. ベースライン

    今の構成を、それらの判断について mubench と同じ方法で採点します。答えはそれぞれ、その結果がもたらすコストで採点します。

  3. ファインチューニング

    御社の判定ポイント、ワークフロー、ルールで意思決定モデルをファインチューニングします。

  4. 前後の比較

    同じ採点をもう一度行い、今の構成と並べます。切り替える前に、何が変わったかがわかります。

mubench が意思決定モデルを採点する方法

mu ですぐに使える

CLI とアプリの判定器コマンドラインでは mu judge mude install、デスクトップアプリでは「設定 → 判定器」の mude のカードから。
ローカルのみmu judge mude enable --local-only にすると、mude が唯一の判定器になり、ホスト型の判定器には何も送られません。mude が答えられないときは、判定ポイントは判定器がないときと同じように動きます。
まずはシャドーモードでシャドーモードの判定ポイントは、問い合わせと判定の記録は続けますが、何も変えません。信頼する前に、モデルの様子を見られます。
監査に使える台帳判定はすべて手元のマシンに記録されます。答えとその確率、所要時間、判定器から来たものかフォールバックか。mu ledger やアプリの判定タブで読めます。

よくある質問

問い合わせる前に mude 1.0 を試せますか?はい。MIT ライセンスで無料です。インストールして判定ポイントをシャドーモードにし、台帳で判定を確かめてください。
使っているコーディングモデルは変わりますか?変わりません。意思決定モデルが答えるのは mu の判断だけです。どのコーディングモデルをどこで動かすかは、これまでどおり御社が決めます。
社内のネットワークの外に出るものは?mude が答える判断は出ません。御社のマシンで動くからです。ローカルのみをオンにすれば、ホスト型の判定器にも何も送られません。コーディングモデルは別で、それが見る内容は、そのモデルが動いている場所に送られます。
カスタマイズしたモデルが良くなったと、どうやってわかりますか?御社の判定ポイントで、mubench と同じ方法で採点します。前と後の 2 回、今の構成と並べて比べます。切り替える前に数字を確認できます。

どんな判断をモデルに任せたいか、教えてください

近日公開このフォームはまだ送信に対応していません。「送信」を押しても、何も送信されず、何も保存されません。

mu が役に立ったら、GitHub で Star を付けてください

GitHub で Star を付ける553