学习精选 · AI 工具
Claude 与 Skill

让多个 Claude Code Agent 不再互相打架:一套任务调度与数据库服务的设计实录

DEV Community2026-11-15约 4 分钟读完AI 整理查看原文

作者在用多 Agent 系统验证自研 COW 文件系统时,遇到任务并发抢内存导致 OOM、Agent 忘了回来收结果、脚本直写数据库等真实问题,于是搭建了 task-server 和 prune-server 两个服务。文章给出排队插队(gap-fill)、运行时长估算、固定退出码、主动唤醒 Agent 等具体机制和代码片段,是少见的把多 Agent 资源治理讲透的实战记录。

今天就能做

  • 多 Agent 并发跑任务时,把资源分配从 Agent 手里收走,交给一个带 cgroup 限制的统一调度服务,是防 OOM 最直接的办法
  • 给任务结果设计一套固定退出码表,Agent 不用读日志就能决定下一步动作
  • Agent 的定时检查不可靠,长任务要靠服务端主动推送结果或提醒,而不是指望它自己回来轮询

为什么单靠 Agent 调度撑不住

  • 主 Agent 毫秒级就能派发多个任务,几个任务同时启动互相抢内存,直接 OOM
  • Agent 自己约定的定时检查不可靠,任务占着资源没人回来处理
  • 每个脚本直接写数据库,有损坏风险,任务记录散落各处难以查询
  • 结论:需要一个任务管理服务(task-server)统一调度资源,一个数据库服务(prune-server)统一校验写入

所有任务走一个入口

  • 构建、测试、gate、实验,无论轻重、CPU 还是 GPU,一律通过 task submit 提交进同一个队列
  • 线程数、内存上限、用哪台机器哪张卡等参数全部由服务决定,命令里指定了会被当场拒绝——因为 Agent 最擅长的事之一就是给自己的任务多要资源
  • 服务是用户级 systemd 服务:FastAPI + uvicorn,只监听 unix socket,任务记录存 SQLite,每行带 HMAC 校验列
  • 每次尝试是独立 systemd unit,套 cgroup 内存上限,超限只杀该 unit 不伤别人
  • 工具层用 hook 拦截:任何没走 task submit 的 cargo、gate、实验脚本直接拒绝;子 Agent 被收走验证权限,只能把想跑的命令写进报告交给主 Agent 提交

固定退出码让 Agent 一看就知道下一步

  • 结果映射成固定退出码:成功 0、撞内存上限 250、已到两台主机上限 236、显卡故障 237、哪台都放不下 241、日志 10 分钟没增长被判定停滞 233、累计或预计超 4 小时 229 等
  • 因为 Agent 的定时检查不可靠,服务不指望它回来轮询:任务出结果、排队过久或疑似卡死时,直接往提交会话的 inbox socket 发消息唤醒 Agent
  • 消息第一行说明是结果还是提醒,后面附证据和下一步建议

插队规则:gap-fill 填空隙

  • 场景:内存 50GB,任务 A 占 32GB,B 需要 24GB 排不上,后面的 C 只要 16GB,能不能先跑?
  • 允许插队但有时间约束:C 的预估运行时长不能超过 A 的剩余时长;没跑过的任务一律不许插队
  • 两步判断:先看 B 启动后本机剩余份额是否装得下 C(装得下就不用比时间);只有会吃掉 B 份额的任务才按时间比较
  • 没有历史时长的任务,按已运行时间再翻一倍估算剩余时间
  • 另有保底规则:排队满两小时的任务升为最高优先级,谁也不能再插到它前面

大小任务搭配,防止主机永远被碎片占满

  • 占用达到主机可用上限 85% 的算'整块'任务,其余算'碎片'
  • 碎片填满一批后封批,让整块任务上;整块启动后再填下一批碎片
  • 否则碎片源源不断,大任务永远等不到主机空闲

运行时长估算从哪来

  • 估算取同一命令最近一次成功运行的耗时;最近五次里若有失败但跑得更久的,取更长的那个
  • 刚启动就退出的失败不计入,因为说明不了命令真实耗时
  • 同一命令因复用判定数据库程度不同,快慢差异很大,所以对逐条执行的入口会先起一个估算子任务,让入口报告每条'多少条要新判、多少条可复用'

原文:A Heterogeneous Scheduling System for 18 Billion Tests---Writing a COW Filesystem from Scratch,Part 9

来源:DEV Community · 2026-11-15

查看原文

本文由 AI 阅读原文后整理,未经人工逐字核对,内容以原文为准。

登录后可以点赞、查看和发表评论