简体中文 | English

matterloop-runtime

Runtime 把 Loop 变成应用可以调用的服务边界：异步执行、同步桥接、队列控制面、组件生命周期和 本地进程执行。它不决定 Agent 如何规划，也不提供一个“安全运行任意代码”的沙箱。

pip install matterloop-runtime

Context Lifecycle Engine

matterloop_runtime.context 负责模型上下文的检测、外置、压缩、持久化和恢复，不把生命周期逻辑塞进 模型适配器。只有带 ModelContextScope 的请求会被管理；没有 ContextPolicy 或没有作用域的旧调用 保持原样。

from matterloop_runtime import (
    ContextLifecycleManager,
    ContextManagedModelClient,
    ContextPolicy,
    InMemoryContextBlobStore,
    InMemoryContextStore,
)

manager = ContextLifecycleManager(
    ContextPolicy(max_context_tokens=128_000),
    InMemoryContextStore(),
    InMemoryContextBlobStore(),
    semantic_compactor=summary_compactor,
)
model = ContextManagedModelClient(base_model, manager)

默认在 70% 尝试压缩、85% 强制阻断、压缩到 55% 目标；系统指令、任务目标、当前状态和未闭合 Tool Call/Output 固定保留。大结果先写 ContextBlobStore，Context 只保留摘要、哈希和 URI。 生产环境应使用持久化 ContextStore、对象存储和显式 ContextRetentionPolicy。

三种入口

异步应用

from matterloop_runtime import AsyncRuntime

async with AsyncRuntime(engine=agent_loop, resources=(model_client, tool_registry)) as runtime:
    result = await runtime.run(request)

AsyncRuntime(engine, resources) 逆序关闭 resources。不会因为某个对象被 engine 引用就自动取得 它的所有权。

同步应用

from matterloop_runtime import LocalRuntime

with LocalRuntime(runtime=async_runtime, thread_name="matterloop-runtime") as runtime:
    result = runtime.run(request)

LocalRuntime 的 runtime 参数接收要桥接的异步门面，thread_name 默认为 "matterloop-runtime"。它使用专用事件循环线程，应长期复用并在进程退出前关闭；不要在 FastAPI 请求里临时创建，也不要从它自己的事件循环线程调用同步方法。

队列控制面

from matterloop_runtime import QueueRuntime

runtime = QueueRuntime(
    producer=queue_producer,
    repository=run_repository,
    event_reader=event_reader,
)
run_id = await runtime.submit(request)
record = await runtime.wait(run_id, timeout_seconds=30)

QueueRuntime(producer, repository, event_reader) 负责 submit/get/list/wait/cancel/resume/result 和事件 查询，不执行任务。Worker 必须另行消费命令、调用 AsyncRuntime、通过仓储 CAS 提交结果，再 ack 或 release 消息。

显式传入 run_id 时，submit() 把它作为幂等键：相同 run_id 与相同 LoopRequest 重复提交会 直接返回已有标识，不会再次入队；同一标识绑定不同请求会抛 RunRequestConflictError。这项保证依赖 RunRepository.create() 的原子唯一约束，不能用“先查再写”替代。

人工反馈

Runtime 只转发 Core 语义：

await runtime.submit_human_response(run_id, response)
result = await runtime.resume(run_id)  # 默认精确继续

提交反馈不会隐式恢复。需要重新规划时传 ResumeMode.REPLAN。

队列的两个并发边界

QueueBackend 的租约解决“哪个 Worker 暂时持有消息”，RunRepository 的 version CAS 解决“谁能 提交最新状态”。两者缺一不可。拿到租约不等于拥有外部副作用的全局唯一执行权。

• QueueProducer 只有 enqueue/cancel，适合 Celery 等推送系统。
• QueueBackend 还提供 lease/acknowledge/release，适合主动拉取 Worker。
• RenewableQueueBackend 额外提供 renew(lease, lease_seconds)，长任务应在到期前续租，并用返回的 新 QueueLease 替换旧快照；旧快照和已过期租约不能再 ack、release 或 renew。
• RunRepository 提供 create/get/list/compare_and_set。
• RunEventReader 用排他游标分页读取事件。

InMemoryQueueBackend 与 InMemoryRunRepository 只适合测试和单进程开发。过期租约在下一次 队列操作时回收；它实现续租能力，但没有自动 heartbeat、死信队列或跨进程通知。生产 Worker 应按 租约时长主动调用 renew()；续租失败必须停止提交副作用和终态。

wait(timeout_seconds, poll_interval_seconds)、lease(lease_seconds)、renew(lease_seconds) 和 release(delay_seconds) 都拒绝 NaN 与正负无穷。等待超时允许传 0 做一次即时检查；轮询间隔和 租约时长必须大于 0，释放延迟必须大于等于 0。

安全热替换

RuntimeContainer 通过 acquire(name) 给长调用固定组件实例。replace(name, component) 会先启动 新实例，再让新调用看见它；旧实例等待既有租约退出后关闭。get(name) 只返回瞬时快照，不适合 跨 await 的长事务。

async with container.acquire("model") as model:
    await model.generate(request)

await container.replace("model", replacement)

register(name, component, replace=False)、unregister(name)、names() 与 aclose() 组成完整生命 周期。构造器传入的初始组件视为已经启动。当前实现中，旧组件关闭失败时替换已经生效但异常仍会 传播；组件关闭应幂等，调用方收到错误后应查询容器状态再决定是否重试。

本地进程执行

from matterloop_runtime import LocalProcessSandbox, ProcessRequest

sandbox = LocalProcessSandbox(
    root="/srv/workspaces/job-42",
    base_environment={"PATH": "/opt/matterloop/bin:/usr/bin"},
)
result = await sandbox.run(
    ProcessRequest(
        argv=("python", "-m", "pytest"),
        cwd=".",
        timeout_seconds=60,
        max_output_bytes=1_000_000,
    )
)

ProcessRequest(argv, cwd, environment, stdin, timeout_seconds, max_output_bytes) 直接传给 create_subprocess_exec，不使用 Shell；默认环境为空，默认超时 30 秒，stdout/stderr 共享 1,000,000 字节预算。ProcessResult(return_code, stdout, stderr, duration_seconds, timed_out, truncated) 说明执行结果与截断状态。

LocalProcessSandbox 只限制启动 cwd、环境、等待时间和保留输出。它不限制系统调用、网络、CPU、 内存、用户权限、可访问文件或子进程树；root 也不会阻止程序启动后读取目录外文件。不可信代码应 使用容器、虚拟机或远程沙箱实现 Sandbox 协议。

失败与关闭

关闭后的门面抛 RuntimeClosedError；重复 run ID 抛 DuplicateRunError；恢复不存在或不可恢复 运行分别抛 RunNotFoundError、RunNotResumableError；同一 run ID 对应不同请求抛 RunRequestConflictError；CAS 持续冲突抛 RunUpdateConflictError；续租已失效租约抛 QueueLeaseLostError；cwd 逃逸抛 SandboxPathError。

Runtime 不读取环境变量，也不创建 Redis、Celery、数据库或模型客户端。推荐关闭顺序是：停止新 请求，停止投递，排空或取消 Worker，释放租约，关闭 Runtime，最后关闭宿主持有的连接池。更多 部署约束见企业集成指南。