实践之AI组织架构

平台 作用
AI Gateway 统一模型入口
Model Platform 管理 GPT / Claude / Gemini / 开源模型
Knowledge Platform 企业 RAG / Search
Agent Platform Agent / Workflow
MCP / Tool Platform AI 连接内部系统
AI Observability Trace / Token / Cost / Evaluation
AI Governance 权限 / DLP / Audit / Security

AI Application

AI客服 AI研发 AI运营 AI风控 AI财务 AI合规 AI运维 AI销售 AI数据分析

Copilot / Chatbot / Agent / Workflow

Agent Platform

Agent Runtime Workflow Engine

Planning Tool Calling

Memory Context Management

Multi-Agent Human Approval

LangGraph / LangChain / Pi / OpenAI Agents SDK / DSH / Dify / n8n / Temporal / 自研

AI Gateway

统一 API 模型路由

Token / Cost 限流

Prompt 管理 Cache

Failover Load Balance

内容过滤 审计日志

LiteLLM / 自研 AI Gateway

Model Platform

商业大模型

OpenAI

Claude

Gemini

Azure OpenAI

私有/开源模型

Qwen

Llama

DeepSeek

Mistral

Knowledge Platform

RAG / Knowledge Base / Vector DB

Confluence SharePoint GitLab Jira

Wiki SOP API Doc Policy

Contract Ticket Log DB

ETL → Chunk → Embedding → Index → Retrieval

pgvector / OpenSearch / Milvus / Elasticsearch

ACL-aware RAG

MCP / Tool Gateway

AI 不直接访问系统,统一通过受控 Tool 调用

MCP Server / API / Function

Jira GitLab Database CRM

Payment Risk Finance Monitoring

Teams Email BI Ticket

AI 和核心支付系统之间就有一道非常清晰的安全边界。

Tool Gateway负责判断:

这个用户是谁? 是否有权限? 允许查哪些字段? PAN 是否需要脱敏? 是不是生产环境? 是否需要记录审计日志?

AI Observability

Prompt

Model

Token

Cost

Latency

Tool Call

RAG Retrieval

Agent Step

Output

User Feedback

AI Security & Governance

IAM / RBAC / SSO

Data Classification

DLP / Masking / Tokenisation

Prompt Injection Protection

Model Access Policy

Audit / Trace

Human-in-the-loop

AI Risk Management