Open Source · AI · Legal Tech

SparkLaw
中文法律多智能体 AI 助手

基于 LangGraph + FastAPI 构建的中文法律 AI 系统，覆盖普法问答、合同审查、模拟庭审核心链路，通过双阶段检索与图状态机编排，实现低幻觉、高可靠的法律级推理与输出。

独立开发者 2026.03 - 至今

LangGraphMulti-AgentRAGFastAPICelerySSEChromaDBDockerNext.js

查看源码 ▶ Live Demo

System Design

System Architecture

SparkLaw · 六层系统架构

L1 接入层

用户 / 浏览器 → Next.js 前端 :3000 → FastAPI 路由层 :18000 REST / SSE

L2 编排层

LangGraph Supervisor ⚡ 庭审串行图 10节点 🔄 ReAct 问答图 🎯 Supervisor 多智能体图

L3 Agent层

LegalAgent 主链路 ⚖️ CourtDebateAgent 👥 Worker Agents Researcher · Analyzer · Strategist

L4 知识/工具

RAG 检索管线

✏️ Query Rewriter 🔍 BGE-small 向量召回 📊 Cross-Encoder 精排 🗄️ ChromaDB 双库隔离

法律工具层 14类计算器

📄 合同审查 🧮 法律计算器 ✍️ 文书起草 🌐 联网检索

L5 安全/记忆

Guardrails 合规护栏

🛡️ 幻觉检测法条白名单 ✅ 输出校验 🔒 隐私脱敏

混合记忆管理

⚡ 短期窗口 📝 摘要压缩 ~88% Token↓ 🧠 语义记忆 → ChromaDB

L6 基础设施

LLMFactory OpenAI / Ollama ChromaDB Redis :6379 ⚙️ Celery Worker Docker Compose

8维性能埋点 TTFT LLM RAG rewrite=2962ms · recall=243ms · rerank=876ms CTX · TOKEN · TOOL · E2E

普法问答与多轮交互

基于 LangGraph ReAct 图与多阶检索管线构建的低幻觉问答

基于 FastAPI + SSE 接口实现 thinking/text/final 三态流式推流，自研 <think> 标签边界切割与防截断算法，安全解耦大模型推理过程，前端首字响应时间降至 300 ms 以内。
构建「Query 重写 → 多路向量召回 → Cross-Encoder 交叉精排 → 降噪去重」四阶 RAG 检索链路；结合 ChromaDB (BGE-small) 向量粗排与 Cross-Encoder 交叉注意力精排，配合序列比对去重，实现法律上下文精准注入。
设计长短时混合记忆架构，引入基于阈值的历史摘要压缩机制与语义偏好检索，在保障多轮上下文连贯性的同时，多轮长上下文场景下，Token 消耗平均降低 40%。

设计双图并行的庭审编排架构，支持动态路由与配置多轮攻防

庭审流采用 Pipeline 严格串行图，利用 TypedDict 与 Reducer 语义实现 10 节点多轮辩论与状态追加；咨询流采用 Supervisor 动态路由，支持 Redis/内存双级 Checkpointer 状态持久化。
创新引入 Verification 质检回环 机制，基于 RAG 召回的真实法条构建校验基准，实现 Worker 节点幻觉打回与重试上限控制，将纠错逻辑零侵入地嵌入图结构。
构建 Guardrails 流式幻觉检测，正则提取大模型输出的法条 ID 并与召回白名单执行集合差集运算，毫秒级追加合规预警，双层防御机制保障法律事实准确性，核心场景幻觉率控制在 2% 以下。

基于微服务架构实现 14+ 法律工具的容器化调度与高并发处理。

采用 工厂 + 策略模式 彻底解耦 Tool Calling 意图识别与底层计算。大模型仅需输出指令，底层自动完成策略类实例化，并统一封装异常捕获注入 ReAct 状态，保障 Agent 无中断运行。
针对动辄数万字的长合同审查场景，引入 Celery + Redis 异步架构，配置 task_acks_late 与防预取策略，彻底解决 Worker 宕机导致的任务丢失问题，并通过 SSE 轮询实现非阻塞流式交互。
整体基于 Docker Compose 实现全栈微服务化部署，包含严格的 API 鉴权、并发限流机制，以及针对 DuckDuckGo 等外部搜索的指数退避与降级兜底策略。

工具演示截图