平台白皮书
本白皮书阐述国芯词元平台在异构算力纳管、高并发 AI 网关、精准词元(Token)批价结算、国密加密传输以及多级单位治理方面的技术架构与工程规范,为政务单位、大型企业与合作运营方提供架构评估依据。
算力与模型解耦
统一纳管国产与进口 GPU 集群,向上提供兼容 OpenAI 与 Anthropic 的标准化推理接口。
双阶段精准计量
网关准入预估与管控面异步批价解耦,支持多窗口订阅、赠送额度与协议价组合抵扣。
国密与信创合规
支持 TLCP 国密传输协议与 SM2、SM3、SM4 算法,适配主流国产芯片、操作系统与数据库。
私有化同源架构
支持整站私有化交付与多品牌独立运营,隔离网络环境下静态资源与字体全部本地自包含。
技术架构分层
从底层智算集群到业务接口,分层解耦、全程可观测
平台采用高性能数据面网关(Rust)与业务管控面(Java)协同架构:数据面承载高并发流式推理、国密卸载、多维限流与预算准入;管控面负责租户治理、多阶梯批价、云端授权核验与审计留痕。
POST /v1/chat/completionsAuthorization: Bearer sk-••••••••••••X-Channel-Select: auto- 06接入与国密层HTTPS / TLCP 国密双栈接入 · 可信代理校验 · 跨地域算力网加密隧道
- 05数据面 AI 网关OpenAI / Anthropic 协议双向转换 · 流式 SSE 词元实时解析 · 渠道健康探测与故障转移
- 04准入与限流引擎API 密钥鉴权 · IP 与会话滑动窗口限流 · 并发槽位控制 · 部门额度与账户余额预检
- 03精准批价与账务输入、输出、缓存命中与多模态分项计价 · 五小时/周/月滚动窗口订阅抵扣 · 幂等账务流水
- 02单位治理与安全多级部门树与角色授权 · 实名认证门禁 · 通行密钥(Passkey)与双因素认证 · 全量操作审计
- 01异构算力底座国产与进口 GPU 算力容器 · 裸金属集群 · 预签名对象存储与多模态媒体归档
核心子系统设计规范
围绕性能、账务准确性、安全保密与运维可观测性制定的工程准则
数据面推理与多协议路由
保障高并发场景下的低延迟转发与上游渠道高可用。
- 多协议无缝互转
- 原生支持 OpenAI Chat Completions、Responses 与 Anthropic Messages 等接口规范,自动完成请求体、工具调用与流式事件转换。
- 智能选路与容灾切换
- 按租户标签、模型映射与权重规则动态路由,自动识别上游超时、限流与服务端异常并执行平滑降级。
- 多模态异步任务托管
- 内置文生图、语音合成与长耗时视频生成任务状态机,支持预扣冻结、定时轮询与失败自动退费。
批价引擎与多级额度核算
确保每一笔词元消费账实相符、可回溯、可对账。
- 多维阶梯价目表
- 支持按上下文长度、缓存命中状态、分辨率与时长配置阶梯单价,叠加客户专属协议价与限时折扣规则。
- 优先级抵扣链
- 按套餐订阅窗口(五小时、自然周、月度周期)、定向赠送额度、专项补贴与充值余额顺序精确抵扣。
- 部门树配额传导
- 支持多层组织架构的额度下发与套餐共享比例限制,达到预警阈值时自动生成领域事件并触发通知。
密码学安全与信创内网交付
满足政务与重点行业对数据主权与密码合规的严格要求。
- 国密算法全链路集成
- 采用 SM2 数字签名核验云端授权与请求身份,SM4-GCM 信封加密保护上游渠道密钥与敏感实名字段,SM3 保障消息完整性。
- 按照等保三级要求设计
- 管理后台与租户控制台物理隔离会话与权限边界,高危操作强制要求二次身份核验并写入不可篡改审计日志。
- 离线与私有化自治
- 支持无公网环境的独立部署,内置定时自检、数据库分区维护与实时健康监控指标。