About · Lin Guanguo

Agent Runtime / AI 系统工程师
上海 · lin.guanguo2000@gmail.com · GitHub · 个人主页

我是一名从大规模用户画像平台后端走向生产级 Agent Runtime 的工程师。现在在一家 AI 初创公司从 0 到 1 建设面向 C 端多模态创作业务的 Agent Runtime，先后落地并上线 Plan-and-Execute 与 ReAct 两套执行架构。

我长期关注模型能力如何在真实产品中稳定兑现；相比展示一次成功的模型调用，我更关心系统能否在长任务、多轮编辑、Tool 副作用和外部 Provider 波动下持续运行，重点解决状态与产物版本、故障恢复和可观测性问题。

此前在字节跳动从事用户画像平台后端研发，使用 Go 开发高并发低延迟在线服务，使用 Scala / Java 17 开发业务与平台服务，并参与 Spark / Flink 数据任务；后期核心负责数千万至近亿级 QPS 的在线查询服务，也建设过权限系统、开放平台与跨区域数据链路。领域从高并发后端转向 Agent Runtime，但处理稳定接口、清晰状态、延迟、成本和失败恢复的工程主线没有改变。

除了 Agent 系统，我也长期关注计算机系统与编程语言，包括操作系统、编译原理、类型化状态、effect、资源生命周期和错误语义。我倾向于从这些基础问题出发，理解复杂系统为什么失控，以及如何让边界重新变得清晰。

工作经历

AI 初创公司｜Agent 研发工程师｜2025.11 至今

从 0 到 1 建设 Plan-and-Execute 与 ReAct 两套 Agent Runtime；初始开发完成后，其他同事开始接入协作。
建设并全量上线 Agent Memory，提升 Planner 对 LLM KV Cache 的利用率，并搭建 Replay / Trace / Metrics 与自动排障工具链。

字节跳动｜用户画像平台后端工程师｜2022–2025

使用 Go 开发并优化高并发低延迟在线查询服务；后期核心负责数千万至近亿级 QPS 生产系统的容量、缓存、稳定性与可观测性治理。
使用 Scala / Java 17 开发 CDP 业务与平台服务，并以 Scala 参与 Spark / Flink 数据任务开发，覆盖在线导入与跨区域同步。

核心项目

1. Plan-and-Execute Agent Runtime｜2026.03–2026.07｜0→1 Owner

面向多轮多模态创作中执行路径难以统一表达、生成过程无法安全打断，以及失败后难以续跑的问题，从 0 到 1 建设并全量上线完整执行底座：

统一 LLM Planner、Plan Validator、typed capability I/O 与 step graph，支持异步 Run、多轮 replanning、fan-out / fan-in 和增量编辑；上线后成为生成中打断与修改、轮次级回退和断点恢复的执行底座。
建设 PostgreSQL checkpoint、soft / hard cancel、跨集群 signal channel、CAS 与轮次级 rollback / resume；通过故障注入与恢复门禁区分“存在 checkpoint”和“业务状态可安全恢复”。
建设事件总线、Prometheus metrics 与结构化运行上下文；完成 100 / 150-case 批量验证、生产 A/B 与全量发布。
通过稳定 Planner Prompt 前缀提升 LLM Provider KV Cache 利用率；两周生产窗口内 hit rate 从 11.37% 提升至 54.79%，独立模型估算 planning LLM 成本占比下降约 31.2%。

2. ReAct Runtime + Versioned Artifact System｜2026.08 至今｜0→1 Owner

面向开放创作任务难以预先固化流程、长任务在多实例运行中容易失去所有权，以及跨轮次产物难以追踪和选择的问题，从 0 到 1 建设并上线独立 ReAct Agent 服务与 Versioned Artifact System：

基于前置架构调研选择 Pi AgentHarness、single-controller ReAct 与 Skill 软路线，不将创作主链固化为 Workflow；模型负责语义判断，Runtime 负责身份、状态、权限、副作用与恢复事实。
为兼顾复杂 Tool 编排效率与动态判断，设计 grammar-constrained Code Mode：模型通过单一 exec 在受限 JavaScript 环境中编排 typed nested tools，阶段内支持有界并发，阶段间回到 ReAct 重新读取事实并决策。
为避免重绘、恢复和并发编辑依赖当前状态推断，建设版本化 Artifact 系统，以 stable identity、immutable Version、active selection、owner、lineage、Manifest、generation recipe 与 CAS 管理多轮产物的来源、选择和最终集合。
为收窄模型可触达的命令、路径和资源，构建 capability-scoped Code Mode 与 Project-scoped 虚拟命令 Worker，基于 just-bash / VFS、只读 Skill mount 与 staged write 控制执行边界。
针对长任务、多实例切换和部分外部副作用，建设 Thread 单写、跨 Thread 并发、lease / heartbeat / drain、owner-loss 失败收敛及 query-before-retry。

3. 用户画像在线高速查询服务｜字节跳动｜2022–2025

使用 Go 开发并优化高并发低延迟在线查询服务，通过内存复用、固定 goroutine 池与 channel 控制并发；后期核心负责容量、缓存、监控、Oncall 与稳定性治理。
一组 2025 年生产峰值快照中，单条主路径达到约 6,583 万 QPS，P99 约 4.9–8.8 ms，并与其他区域和集群共同承载多区域查询流量。

4. 用户画像 CDP 平台建设｜字节跳动｜2023–2025

围绕多租户用户画像平台的权限、开放接入和多区域数据在线化，建设关键平台能力：

使用 Scala / Java 17 开发和维护 CDP 业务与平台服务；建设权限体系，完成权限物化、项目中心重构与资源类型扩展，并补齐初始化检测与存量权限治理。
搭建 OpenAPI 注册系统与上下游 Adapter，开发维护 Java、Python、Go SDK，使分群和元数据接口演进对调用方保持兼容。
使用 Scala 参与 Spark / Flink 数据任务开发：在线导入以 Spark 生成增量、Flink 消费 Kafka 并写入在线 / 分析存储；分群增量改造上线后，凌晨导入高峰期的查询耗时波动基本消失。
设计并落地覆盖亚太、北美和欧洲的在线数据与元数据同步链路，由 Kafka / Flink 任务承担传输、落库、重试与监控。

技术关注

Agent Runtime Reliability：Agent Loop、状态与副作用边界、长任务执行、checkpoint、cancel / rollback / resume、并发控制、恢复与评测。
Tool Interface 与执行环境：面向 Agent 的工具契约、Code Mode、Skill、受限执行环境、资源生命周期和可审计副作用。
后端与数据系统：Go 高并发低延迟服务、Scala / Java 17 业务服务、Spark / Flink 数据任务、多租户权限、跨区域同步、缓存、消息系统、数据在线化与可观测性。
编程模型与系统基础：类型化状态、effect、错误语义、编译器、操作系统，以及这些抽象如何帮助复杂系统维持清晰边界。
工程工具化：倾向于把高频查询、调试、实验复现和工作记录沉淀为工具、文档或 Skill，降低长期维护与团队协作中的隐性成本。

写作与公开产出

我持续记录 Agent 架构、Memory 与 Context、编程语言和生产工程实践。近期代表作包括：

完整文章与后续更新见个人主页。