v0.3.0更少的确认询问、更少浪费的 token、更少做到一半就停的运行 · mu-agent 0.3.0

需要我们为您和您的企业定制决策模型吗?

每一轮,mu 都要问决策模型几十个小问题:这条命令能不能跑,哪段旧输出值得留下,这件事做完了没有。我们可以照您团队的判断标准定制一个决策模型,让它在您自己的机器上运行,并用数字告诉您它带来了什么变化。

告诉我们您的需求了解 mude 1.0

从 mude 1.0 开始,跑在您自己的机器上

Apple 芯片的 Mac

在桌面端点一下,或者执行一条命令 mu judge mude install:mu 会下载 MLX 8 位版本,逐个校验文件,在 127.0.0.1 上启动它,并把它设为判定器。

huggingface.co/qybaihe/mude-1.0-mlx-8bit

您的 GPU 服务器

完整的 bf16 模型,配上它自带的 System One 服务,建议用 CUDA GPU。mu 通过您自己的网络,把它当作判定器来调用。

huggingface.co/qybaihe/mude-1.0
在模型页进一步了解 mude 1.0

照您团队的方式做决策

  1. 您的决策

    从对您要紧的决策开始:在您的代码库里什么算有风险,您的评审规范要求什么,工作该怎么分派。

  2. 先测基线

    像 mubench 那样,在这些决策上给您现在的配置打分:每个答案按它带来的后果的代价计分。

  3. 微调

    用您的判定点、工作流程和规则微调一个决策模型。

  4. 前后对比

    用同样的方法再打一次分,和您现在的配置放在一起比,切换之前就看清变化。

mubench 怎么给决策模型打分

开箱即用,配合 mu

命令行和桌面端的判定器在命令行里执行 mu judge mude install,或者在桌面端「设置 → 判定器」的 mude 卡片上操作。
仅本地执行 mu judge mude enable --local-only 后,mude 是唯一的判定器,什么都不发给云端判定器。mude 答不了时,判定点照没有判定器时那样做。
先用影子模式影子模式下的判定点照常提问、记录判定,但不改变任何东西。您可以先观察模型,再决定信不信它。
可供审计的流水每次判定都记录在您的机器上:答案和它们的概率、用时,以及它来自判定器还是兜底。用 mu ledger 或桌面端的「判定」页查看。

常见问题

能先试用 mude 1.0,再联系你们吗?可以。它以 MIT 许可证免费提供。装好以后,把判定点设成影子模式,在流水里看它的判定。
我们用的编程模型会变吗?不会。决策模型只回答 mu 的决策。用哪个编程模型、它在哪里运行,仍由您决定。
哪些内容会离开我们的网络?mude 回答的都不会:它跑在您的机器上。打开仅本地后,也不会有内容发给云端判定器。编程模型是另一回事:它看到的内容会发到它运行的地方。
怎么知道定制的模型更好?像 mubench 那样,在您自己的判定点上给它打分,前后各一次,和您现在的配置放在一起比。切换之前,您就能看到数字。

告诉我们您想让模型做哪些决策

敬请期待这个表单还没有接通。点「发送」不会发出任何内容,也不会保存任何内容。

喜欢 mu,就去 GitHub 点个 Star

在 GitHub 上 Star553