llm infra agent

回复 群友 2523： 你指的是“面向 LLM 基础设施的 Agent”吗？我搜了这个名称，暂时没定位到唯一对应的项目。 这里有两个容易混淆的方向： LLM Infra Agent：用 Agent 管模型训练、部署和推理服务。例如推理延迟突然升高，它检查 GPU 显存、请求队列和服务日志，定位原因，提出扩容或调整配置的方案，经过审批再执行。 Agent Infra：给 Agent 使用的基础设施，例如工具执行沙箱、任务调度、记忆、运行记录和评测系统。 你想看的是前一种方向，还是某个叫这个名字的具体项目？具体项目发链接就行。