跳到主要内容
国芯词元

模型接入与实践指南

全部文档模型接入与实践指南

这份指南帮您用自己的示例材料,在国芯词元上跑通第一次模型调用,并把过程整理成可以复用的记录。调用已有模型不需要租用 GPU。

先写一页项目需求单

动手之前,用几句话写清楚:

  • 目标用户:谁会使用这个功能。
  • 要解决的问题:用户现在遇到的具体困难。
  • 输入材料:模型回答时依据的资料,如产品说明、活动事实清单或公开通知。
  • 预期输出:希望得到的回答样式,最好写出两三个例子。
  • 完成标准:什么情况下算做成,例如“资料里没有的内容会明确说明,不自行编造”。

需求单在对接时会与您逐项确认,也是后续测试的依据。

在模型调试里试

  1. 完成平台账号开通,登录控制台。
  2. 打开模型调试,选择一个对话模型,例如 <模型名称>。
  3. 把示例资料放进系统提示词,用需求单里的问题逐条提问。
  4. 记下每次的回答,标出答对、答错和资料不足的情况。

在调试里把提示词和资料调好,再接入应用,能省去大量来回排查。

接入应用

  1. 在控制台创建 API 密钥,可以限定能调用的模型、来源地址与调用频率。
  2. 在应用后端或受控的开发环境中配置密钥,不要写进网页代码或公开仓库。
  3. 平台兼容 OpenAI 的接口格式,接入地址为 https://api.intl-preview.gxcy.com/v1:
curl https://api.intl-preview.gxcy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<模型名称>",
    "messages": [
      { "role": "system", "content": "只根据给定资料回答,资料没有的内容请说明无法确认,并注明依据。" },
      { "role": "user", "content": "连接件是什么材质,能直接装到车上吗?" }
    ]
  }'

更多客户端与开发工具的配置方法见接入指南。

排查常见错误

现象 先检查什么
返回 401 密钥是否完整、是否已撤销,请求头是否为 Authorization: Bearer
返回 403 密钥是否限定了模型或来源地址,单位是否还有余额或额度
返回 429 调用是否过于频繁,适当降低并发或稍后重试
回答偏离资料 系统提示词是否写明“只根据资料回答”,资料是否完整放入
回答被截断 输出长度上限是否过小

排查时记下请求时间、所用模型和完整的报错,方便对接人员定位。

记录测试结果

每次测试按下面的格式各记一行,正常与失败的情况都要留下:

问题 资料是否覆盖 实际回答 是否符合预期 调整
连接件是什么材质 覆盖 铝合金,注明依据 符合 无
适配哪些车型 未覆盖 说明资料未提供 符合 无

测试至少覆盖三类问题:资料能回答的、资料没有覆盖的、容易答错的。整理好的测试记录可以作为申请项目成长包的材料。