运行时架构¶
了解 Symbi 运行时系统架构和核心组件。
目录¶
概述¶
已实现的收容(containment)变更参见收容运维与架构指南。运行时通过校验、审批、Cedar、必需审计和一次性派发来绑定预备调用;受收容的工作进程由一个独立的监督进程拥有。已覆盖的 CLI、HTTP、调度器和 DSL 默认路径使用受保护日志。下文的原则描述的是设计;仍有执行与审计路径未覆盖,因此还不能宣称完整的收容。
Symbi 运行时系统为自主代理提供安全、可扩展且策略感知的执行环境。基于 Rust 构建以确保性能和安全性,它实现了具有全面审计功能的多层安全模型。
核心原则¶
- 默认安全:每个操作都受策略执行的约束
- 零信任:所有组件和通信都经过验证
- 完全可审计性:每个动作都记录在具有加密完整性的日志中
- 策略驱动:声明性策略控制所有系统行为
- 高性能:针对生产工作负载的 Rust 原生实现
系统架构¶
graph TB
subgraph "Runtime Core"
ARS[Agent Runtime Scheduler]
ALC[Agent Lifecycle Controller]
ARM[Agent Resource Manager]
ACB[Agent Communication Bus]
AEH[Agent Error Handler]
end
subgraph "Context and Knowledge"
ACM[Agent Context Manager]
VDB[Vector Database]
RAG[RAG Engine]
KB[Knowledge Base]
end
subgraph "Security and Policy"
PE[Policy Engine]
AT[Audit Trail]
SO[Sandbox Orchestrator]
CRYPTO[Crypto Operations]
end
subgraph "External Integration"
MCP[MCP Client]
TV[Tool Verification]
API[HTTP API]
end
subgraph "Sandbox Tiers"
T1[Tier 1: Docker]
T2[Tier 2: gVisor]
T3[Tier 3: Firecracker microVM]
end
ARS --> ACM
ARS --> PE
ALC --> SO
ACB --> CRYPTO
ACM --> VDB
ACM --> RAG
SO --> T1
SO --> T2
SO --> T3
MCP --> TV
PE --> AT
核心组件¶
代理运行时调度器¶
负责管理代理执行的中央编排器。
主要职责: - 任务调度:基于优先级的调度,具有资源感知能力 - 负载均衡:在可用资源间分配 - 资源分配:内存、CPU 和 I/O 分配 - 策略协调:与策略执行集成
性能特征: - 支持 10,000+ 个并发代理 - 亚毫秒级调度决策 - 基于优先级的抢占 - 资源感知的放置
pub struct AgentScheduler {
priority_queues: Vec<PriorityQueue<AgentTask>>,
resource_pool: ResourcePool,
policy_engine: Arc<PolicyEngine>,
load_balancer: LoadBalancer,
}
impl AgentScheduler {
pub async fn schedule_agent(&self, config: AgentConfig) -> Result<AgentId>;
pub async fn get_system_status(&self) -> SystemStatus;
}
代理生命周期控制器¶
管理代理从初始化到终止的完整生命周期。
生命周期状态: 1. 初始化中:解析 DSL 并验证配置 2. 就绪:等待任务分配 3. 运行中:主动执行任务 4. 暂停:由于策略违规或资源约束而暂停 5. 已终止:优雅关闭或强制停止
stateDiagram-v2
[*] --> Initializing
Initializing --> Ready: Valid Config
Initializing --> Failed: Invalid Config
Ready --> Running: Task Assigned
Running --> Suspended: Policy Violation
Running --> Ready: Task Complete
Suspended --> Running: Policy Cleared
Suspended --> Terminated: Manual Override
Ready --> Terminated: Shutdown
Failed --> Terminated
Terminated --> [*]
资源管理¶
管理的资源类型: - 内存:具有限制和监控的堆分配 - CPU:核心分配和利用率跟踪 - 磁盘 I/O:读/写带宽限制 - 网络 I/O:带宽和连接限制 - 执行时间:超时执行
资源分配策略: - 首次适应:低延迟场景的最快分配 - 最佳适应:资源效率的最优利用 - 基于优先级:为关键代理保证资源
pub struct ResourceLimits {
pub memory_mb: usize,
pub cpu_cores: f32,
pub disk_io_mbps: usize,
pub network_io_mbps: usize,
pub execution_timeout: Duration,
}
多层安全¶
沙箱架构¶
运行时附带四个主机隔离后端 —— 全部为 OSS —— 外加一个独立的托管云后端(E2B)。其中三个带编号(Docker、gVisor、Firecracker);landlock 使用名称并形成独立的准入分支。它无需容器守护进程即可隔离受监督的原生工作进程。运维方可在 DSL 的 with { sandbox = ... } 块中按智能体选择后端,或在 [sandbox] tier = "..." 中设置项目默认值。通过 HTTP 注册的智能体和计划智能体可明确选择 Landlock;省略沙箱时仍默认使用 Docker/Tier1。
准入检查使用 SecurityTier::satisfies。Hosted < Tier1 < Tier2 < Tier3 是编号
阶梯。Landlock 只满足明确的 Landlock 要求或无隔离最低要求,不会隐式满足容器或虚拟机要求。
第 1 层:Docker 隔离¶
用例:低风险操作、开发任务 - 基于容器的隔离 - 资源限制和能力下降 - 网络隔离和只读文件系统 - 适用于具有最小安全要求的可信代码
第 2 层:gVisor 隔离¶
用例:标准生产任务、数据处理、不受信任代码
- 具有系统调用拦截的用户空间内核
- 内存保护和 I/O 虚拟化
- 增强安全性,性能影响最小
- 需要将 runsc 注册为 Docker 运行时
第 3 层:Firecracker microVM¶
用例:最高隔离级别工作负载 —— 多租户不受信任代码、受监管数据、爆炸半径控制
- 通过 KVM 实现的硬件虚拟化,每次执行使用独立内核
- 由运维方提供 vmlinux 与 rootfs(默认只读)
- 与主机不共享任何内核表面
- 需要 firecracker 二进制,以及与之匹配的 symbi-sandbox-guest PID 1 服务和监督进程 —— 见 docs/firecracker-setup.md。
托管执行:E2B(不是一个层级)¶
E2B 是一个独立的托管云后端,不是第 ½/3 层的对等项。它映射到编号阶梯中位于 Tier1 之下的 SecurityTier::Hosted。策略使用 SecurityTier::satisfies,因此独立 Landlock 分支的要求也会拒绝托管执行。仅可通过 DSL(with { sandbox = "e2b" })选择启用。
通信系统¶
消息类型¶
运行时支持多种通信模式:
直接消息传递:具有传递保证的点对点通信
发布-订阅:基于主题的事件分发
agent_bus.publish("data_processing.completed", event_data).await?;
agent_bus.subscribe("security.alerts", alert_handler).await?;
请求-响应:具有超时的同步通信
安全功能¶
消息加密:用于载荷保护的 AES-256-GCM 数字签名:用于真实性的 Ed25519 签名 消息路由:基于策略的路由控制 速率限制:每个代理的消息速率执行
pub struct SecureMessage {
pub id: MessageId,
pub sender: AgentId,
pub recipient: Option<AgentId>,
pub encrypted_payload: Vec<u8>,
pub signature: Ed25519Signature,
pub timestamp: SystemTime,
}
通信策略门控¶
CommunicationPolicyGate 位于 DSL 内置函数和 CommunicationBus 之间。所有五个智能体间内置函数(ask、delegate、send_to、parallel、race)均通过它路由:
- 策略评估 —— 在发送任何消息之前检查 Cedar 风格的规则
- 消息创建 —— 带有 Ed25519 签名和 AES-256-GCM 加密的
SecureMessage - 投递跟踪 —— 通过
CommunicationBus跟踪消息状态和审计轨迹 - 响应记录 —— 使用
RequestId关联跟踪请求/响应对
当策略门控未配置时(例如独立 REPL 模式),内置函数的行为与原始实现完全相同——无策略检查,无消息跟踪。这保持了向后兼容性。
ReasoningBuiltinContext 携带三个可选字段:
- sender_agent_id —— 调用方智能体的身份
- comm_bus —— 指向 CommunicationBus 的引用,用于消息路由
- comm_policy —— 指向 CommunicationPolicyGate 的引用,用于授权
跨实例智能体消息传递¶
进程内的 CommunicationBus 有一个分布式对应物 —— RemoteCommunicationBus —— 它通过 HTTP 在独立的运行时实例之间转发相同的消息类型(ask、send_to、delegate、parallel、race)。这就是让部署在一台主机上的协调器能够在不放弃策略执行、签名或审计轨迹的情况下,与部署在另一台主机上的工作者通信。
关键特性:
- 相同契约 ——
RemoteCommunicationBus实现与本地总线相同的 trait,因此智能体代码和 DSL 内置函数在进程内拓扑和跨实例拓扑之间无需改动。 - HTTP 消息端点 —— 暴露在运行时 HTTP API 上并接入
RuntimeBridge的默认上下文,因此一个位置的symbi up可以接收来自其他位置symbi up的消息。 - AgentPin 锚定身份 —— 发送方出示 AgentPin ES256 令牌;接收方在策略门控运行之前针对发送方的域锚定密钥进行验证。
- SchemaPin 校验 —— 跨实例引用的任何工具清单在执行前都会针对其已固定的签名进行校验。
- 审计 —— 远程消息的发送与接收以与本地消息相同的密码学防篡改格式记录,因此审计轨迹会跟随消息跳转。
部署拓扑通常为一个协调器实例加上一个或多个工作者实例,每个实例通过 symbi shell /deploy …(Beta)部署到 Docker、Cloud Run 或 App Runner。请参阅 Symbi Shell 部署指南。
上下文和知识系统¶
代理上下文管理器¶
为代理提供持久内存和知识管理。
上下文类型: - 短期记忆:最近的交互和即时上下文 - 长期记忆:持久知识和学习模式 - 工作记忆:主动处理和临时状态 - 共享知识:跨代理知识共享
pub trait ContextManager {
async fn store_context(&self, agent_id: AgentId, context: AgentContext) -> Result<ContextId>;
async fn retrieve_context(&self, agent_id: AgentId, query: ContextQuery) -> Result<Vec<ContextItem>>;
async fn search_knowledge(&self, agent_id: AgentId, query: &str) -> Result<Vec<KnowledgeItem>>;
}
RAG 引擎集成¶
RAG 管道: 1. 查询分析:理解代理信息需求 2. 向量搜索:知识库中的语义相似性搜索 3. 文档检索:获取相关知识文档 4. 上下文排序:相关性评分和过滤 5. 响应生成:上下文增强的响应合成
性能目标: - 上下文检索:平均 <50ms - 向量搜索:100 万+ 嵌入 <100ms - RAG 管道:端到端 <500ms
向量数据库¶
支持的操作: - 语义搜索:基于相似性的文档检索 - 元数据过滤:基于约束的搜索细化 - 批量操作:高效的批量操作 - 实时更新:动态知识库更新
向量数据库抽象:
Symbi 使用可插拔的向量数据库后端。LanceDB 是零配置的默认选项(嵌入式,无需外部服务)。Qdrant 作为可选后端,通过 vector-qdrant 功能标志启用。
| 后端 | 功能标志 | 所需配置 | 用例 |
|---|---|---|---|
| LanceDB(默认) | 内置 | 无(零配置) | 开发、单节点、嵌入式部署 |
| Qdrant | vector-qdrant |
SYMBIONT_VECTOR_HOST |
分布式生产集群 |
pub struct VectorConfig {
pub backend: VectorBackend, // LanceDB(默认)或 Qdrant
pub dimension: usize, // 1536 用于 OpenAI 嵌入
pub distance_metric: DistanceMetric::Cosine,
pub index_type: IndexType::HNSW,
pub data_path: PathBuf, // LanceDB 存储路径
}
MCP 集成¶
模型上下文协议客户端¶
使代理能够安全地访问外部工具和资源。
核心功能: - 服务器发现:可用 MCP 服务器的自动发现 - 工具管理:动态工具发现和调用 - 资源访问:对外部数据源的安全访问 - 协议处理:完全符合 MCP 规范
工具发现过程¶
sequenceDiagram
participant Agent
participant MCP as MCP Client
participant Server as MCP Server
participant Verifier as Tool Verifier
Agent->>MCP: Request Tools
MCP->>Server: Connect and List Tools
Server-->>MCP: Tool Definitions
MCP->>Verifier: Verify Tool Schemas
Verifier-->>MCP: Verification Results
MCP-->>Agent: Verified Tools
Agent->>MCP: Invoke Tool
MCP->>Server: Tool Invocation
Server-->>MCP: Tool Response
MCP-->>Agent: Verified Response
使用 SchemaPin 的工具验证¶
验证过程: 1. 模式发现:从 MCP 服务器检索工具模式 2. 签名验证:验证加密签名 3. 首次使用信任:固定可信密钥以供将来验证 4. 策略执行:应用工具使用策略 5. 审计日志记录:记录所有工具交互
pub struct ToolVerifier {
key_store: SchemaPinKeyStore,
policy_engine: Arc<PolicyEngine>,
audit_logger: AuditLogger,
}
impl ToolVerifier {
pub async fn verify_tool(&self, tool: &MCPTool) -> VerificationResult;
pub async fn enforce_policies(&self, agent_id: AgentId, tool: &MCPTool) -> PolicyResult;
}
策略执行¶
策略引擎架构¶
策略类型: - 访问控制:谁可以访问什么资源 - 数据流:数据如何在系统中流动 - 资源使用:计算资源的限制 - 审计要求:必须记录什么以及如何记录
策略评估:
pub enum PolicyDecision {
Allow,
Deny { reason: String },
AllowWithConditions { conditions: Vec<PolicyCondition> },
}
pub trait PolicyEngine {
async fn evaluate_policy(&self, context: PolicyContext, action: Action) -> PolicyDecision;
async fn register_policy(&self, policy: Policy) -> Result<PolicyId>;
}
实时执行¶
执行点: - 代理创建和配置 - 消息发送和路由 - 资源分配请求 - 外部工具调用 - 数据访问操作
性能: - 策略评估:每次决策 <1ms - 批量评估:每秒 10,000+ 次决策 - 实时更新:策略更改立即传播
审计和合规性¶
加密审计追踪¶
审计事件结构:
pub struct AuditEvent {
pub event_id: Uuid,
pub timestamp: SystemTime,
pub agent_id: AgentId,
pub event_type: AuditEventType,
pub details: AuditDetails,
pub signature: Ed25519Signature,
pub chain_hash: Hash,
}
完整性保证: - 数字签名:所有事件的 Ed25519 签名 - 哈希链:事件在不可变链中链接 - 时间戳验证:加密时间戳 - 批量验证:高效的批量验证
审计功能: - 实时事件流 - 历史事件查询 - 完整性验证
性能特征¶
可扩展性指标¶
代理管理: - 并发代理:10,000+ 个同时代理 - 代理启动:标准代理 <1s - 内存使用:每个代理 1-5MB(根据配置而变) - CPU 开销:运行时的系统开销 <5%
通信性能: - 消息吞吐量:100,000+ 消息/秒 - 消息延迟:本地路由 <10ms - 加密开销:每条消息 <1ms - 内存池:零分配消息传递
上下文和知识: - 上下文检索:平均 <50ms - 向量搜索:100 万+ 嵌入 <100ms - 知识更新:实时,延迟 <10ms - 存储效率:压缩嵌入,大小减少 80%
资源管理¶
内存管理: - 分配策略:基于池的分配以提高性能 - 垃圾收集:具有有界暂停时间的增量清理 - 内存保护:保护页和溢出检测 - 泄漏预防:自动清理和监控
CPU 利用率: - 调度器开销:已测试注册和有界队列的延迟。尚未证实 10,000 个执行中代理的 CPU 开销。 - 上下文切换:硬件辅助虚拟线程 - 负载均衡:动态负载分配 - 优先级调度:实时和批处理层
配置¶
运行时配置¶
[runtime]
max_concurrent_agents = 10000
scheduler_threads = 8
message_buffer_size = 1048576
gc_interval_ms = 100
[security]
default_sandbox_tier = "gvisor"
enforce_policies = true
audit_enabled = true
crypto_provider = "ring"
[context]
vector_backend = "lancedb" # "lancedb"(默认)或 "qdrant"
vector_data_path = "./data/vectors" # LanceDB 存储路径
embedding_dimension = 1536
context_cache_size = "1GB"
knowledge_retention_days = 365
# 可选:仅在 vector_backend = "qdrant" 时需要
# [context.qdrant]
# host = "localhost"
# port = 6334
[mcp]
discovery_enabled = true
tool_verification = "strict"
connection_timeout_s = 30
max_concurrent_connections = 100
环境变量¶
# 必需:用于加密持久化状态的 32 字节十六进制密钥。
# `symbi init` 会将一个密钥写入 .env。可用以下命令生成:openssl rand -hex 32
export SYMBIONT_MASTER_KEY=...
# LLM 提供方(设置其中之一)
export ANTHROPIC_API_KEY=... # 或 OPENAI_API_KEY / OPENROUTER_API_KEY
# 策略门:Cedar 默认开启,并从 policies/*.cedar 自动接入。
# export SYMBI_INSECURE_ALLOW_ALL=1 # 仅限本地开发 —— 宽松门
# 调度器 log_file 交付(该通道必需;被限制在此目录内)
# export SYMBIONT_LOG_DIR=/var/log/symbiont
# 向量搜索:LanceDB 是零配置的默认选项。若改用 Qdrant:
# export SYMBIONT_VECTOR_BACKEND=qdrant
# export QDRANT_URL=http://localhost:6333
# OPA 策略后端(如使用;非环回主机需要 https 与 bearer):
# export SYMBIONT_OPA_URL=https://opa.internal:8181
# export SYMBIONT_OPA_AUTH_TOKEN=...
# 用于 X-Forwarded-For 的受信反向代理 CIDR 允许列表
# export SYMBI_TRUSTED_PROXIES=10.0.0.0/8
监控和可观测性¶
指标收集¶
系统指标: - 代理计数和资源使用情况 - 消息吞吐量和延迟 - 策略评估性能 - 安全事件率
业务指标: - 任务完成率 - 按类型划分的错误频率 - 资源利用效率 - 合规性审计结果
集成: - Prometheus:指标收集和警报 - Grafana:可视化和仪表板 - Jaeger:分布式跟踪 - ELK Stack:日志聚合和分析
健康监控¶
pub struct HealthStatus {
pub overall_status: SystemStatus,
pub component_health: HashMap<String, ComponentHealth>,
pub resource_utilization: ResourceUtilization,
pub recent_errors: Vec<ErrorSummary>,
}
pub async fn health_check() -> HealthStatus {
// Comprehensive system health assessment
}
部署¶
容器部署¶
FROM rust:1.88-slim as builder
WORKDIR /app
COPY . .
RUN cargo build --release --features production
FROM debian:bookworm-slim
RUN apt-get update && apt-get install -y ca-certificates
COPY --from=builder /app/target/release/symbi /usr/local/bin/
EXPOSE 8080
CMD ["symbi", "up"]
Kubernetes 部署¶
apiVersion: apps/v1
kind: Deployment
metadata:
name: symbi-runtime
spec:
replicas: 3
selector:
matchLabels:
app: symbi-runtime
template:
metadata:
labels:
app: symbi-runtime
spec:
containers:
- name: runtime
image: ghcr.io/thirdkeyai/symbi:latest
ports:
- containerPort: 8080
env:
- name: SYMBIONT_MASTER_KEY
valueFrom:
secretKeyRef:
name: symbi-secrets
key: master-key
resources:
requests:
memory: "1Gi"
cpu: "500m"
limits:
memory: "4Gi"
cpu: "2"
开发和测试¶
本地开发¶
# 启动依赖项(LanceDB 是嵌入式的 — 无需外部服务)
docker-compose up -d redis postgres
# Run in development mode
RUST_LOG=debug cargo run --example full_system
# Run tests
cargo test --all --features test-utils
集成测试¶
运行时包括全面的测试套件:
- 单元测试:组件级测试
- 集成测试:跨组件测试
- 性能测试:负载和压力测试
- 安全测试:渗透和合规性测试
# Run all test suites
cargo test --workspace
# Run performance benchmarks
cargo bench
# Run security tests
cargo test --features security-tests
下一步¶
运行时架构为构建安全、可扩展的 AI 代理提供了坚实的基础。其模块化设计和全面的安全模型使其适用于开发和生产环境。