跳到主要内容
国芯词元

平台白皮书

本白皮书阐述国芯词元平台在异构算力纳管、高并发 AI 网关、精准词元(Token)批价结算、国密加密传输以及多级单位治理方面的技术架构与工程规范,为政务单位、大型企业与合作运营方提供架构评估依据。

  • 算力与模型解耦

    统一纳管国产与进口 GPU 集群,向上提供兼容 OpenAI 与 Anthropic 的标准化推理接口。

  • 双阶段精准计量

    网关准入预估与管控面异步批价解耦,支持多窗口订阅、赠送额度与协议价组合抵扣。

  • 国密与信创合规

    支持 TLCP 国密传输协议与 SM2、SM3、SM4 算法,适配主流国产芯片、操作系统与数据库。

  • 私有化同源架构

    支持整站私有化交付与多品牌独立运营,隔离网络环境下静态资源与字体全部本地自包含。

技术架构分层

从底层智算集群到业务接口,分层解耦、全程可观测

平台采用高性能数据面网关(Rust)与业务管控面(Java)协同架构:数据面承载高并发流式推理、国密卸载、多维限流与预算准入;管控面负责租户治理、多阶梯批价、云端授权核验与审计留痕。

POST /v1/chat/completionsAuthorization: Bearer sk-••••••••••••X-Channel-Select: auto
  1. 接入与国密层HTTPS / TLCP 国密双栈接入 · 可信代理校验 · 跨地域算力网加密隧道
  2. 数据面 AI 网关OpenAI / Anthropic 协议双向转换 · 流式 SSE 词元实时解析 · 渠道健康探测与故障转移
  3. 准入与限流引擎API 密钥鉴权 · IP 与会话滑动窗口限流 · 并发槽位控制 · 部门额度与账户余额预检
  4. 精准批价与账务输入、输出、缓存命中与多模态分项计价 · 五小时/周/月滚动窗口订阅抵扣 · 幂等账务流水
  5. 单位治理与安全多级部门树与角色授权 · 实名认证门禁 · 通行密钥(Passkey)与双因素认证 · 全量操作审计
  6. 异构算力底座国产与进口 GPU 算力容器 · 裸金属集群 · 预签名对象存储与多模态媒体归档
平台全链路架构(技术白皮书摘要)

核心子系统设计规范

围绕性能、账务准确性、安全保密与运维可观测性制定的工程准则

数据面推理与多协议路由

保障高并发场景下的低延迟转发与上游渠道高可用。

多协议无缝互转
原生支持 OpenAI Chat Completions、Responses 与 Anthropic Messages 等接口规范,自动完成请求体、工具调用与流式事件转换。
智能选路与容灾切换
按租户标签、模型映射与权重规则动态路由,自动识别上游超时、限流与服务端异常并执行平滑降级。
多模态异步任务托管
内置文生图、语音合成与长耗时视频生成任务状态机,支持预扣冻结、定时轮询与失败自动退费。

批价引擎与多级额度核算

确保每一笔词元消费账实相符、可回溯、可对账。

多维阶梯价目表
支持按上下文长度、缓存命中状态、分辨率与时长配置阶梯单价,叠加客户专属协议价与限时折扣规则。
优先级抵扣链
按套餐订阅窗口(五小时、自然周、月度周期)、定向赠送额度、专项补贴与充值余额顺序精确抵扣。
部门树配额传导
支持多层组织架构的额度下发与套餐共享比例限制,达到预警阈值时自动生成领域事件并触发通知。

密码学安全与信创内网交付

满足政务与重点行业对数据主权与密码合规的严格要求。

国密算法全链路集成
采用 SM2 数字签名核验云端授权与请求身份,SM4-GCM 信封加密保护上游渠道密钥与敏感实名字段,SM3 保障消息完整性。
按照等保三级要求设计
管理后台与租户控制台物理隔离会话与权限边界,高危操作强制要求二次身份核验并写入不可篡改审计日志。
离线与私有化自治
支持无公网环境的独立部署,内置定时自检、数据库分区维护与实时健康监控指标。

架构评估与私有化交付流程

支持从公有云接口验证平滑演进至单位专属算力底座交付

  1. 架构师团队

    业务与合规评估

    梳理并发规模、模型选型、网络隔离要求与国密合规指标。

  2. 双方研发

    接口与基准验证

    通过平台标准接口开展精度回归、吞吐压测与业务系统联调。

  3. 交付工程师

    集群纳管与部署

    完成自有 GPU 节点纳管或私有化环境部署,配置部门权限与计费策略。

  4. 运维团队

    持续运维与升级

    提供运行监控看板、等保测评材料配合与模型版本平滑升级。

构建自主可控、账实清晰的智算服务底座

如需获取完整版技术架构方案或预约私有化部署评估,请联系架构顾问