模型接入与实践指南
全部文档模型接入与实践指南
这份指南帮您用自己的示例材料,在国芯词元上跑通第一次模型调用,并把过程整理成可以复用的记录。调用已有模型不需要租用 GPU。
先写一页项目需求单
动手之前,用几句话写清楚:
- 目标用户:谁会使用这个功能。
- 要解决的问题:用户现在遇到的具体困难。
- 输入材料:模型回答时依据的资料,如产品说明、活动事实清单或公开通知。
- 预期输出:希望得到的回答样式,最好写出两三个例子。
- 完成标准:什么情况下算做成,例如“资料里没有的内容会明确说明,不自行编造”。
需求单在对接时会与您逐项确认,也是后续测试的依据。
在模型调试里试
- 完成平台账号开通,登录控制台。
- 打开模型调试,选择一个对话模型,例如
<模型名称>。 - 把示例资料放进系统提示词,用需求单里的问题逐条提问。
- 记下每次的回答,标出答对、答错和资料不足的情况。
在调试里把提示词和资料调好,再接入应用,能省去大量来回排查。
接入应用
- 在控制台创建 API 密钥,可以限定能调用的模型、来源地址与调用频率。
- 在应用后端或受控的开发环境中配置密钥,不要写进网页代码或公开仓库。
- 平台兼容 OpenAI 的接口格式,接入地址为
https://api.intl-preview.gxcy.com/v1:
curl https://api.intl-preview.gxcy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "<模型名称>",
"messages": [
{ "role": "system", "content": "只根据给定资料回答,资料没有的内容请说明无法确认,并注明依据。" },
{ "role": "user", "content": "连接件是什么材质,能直接装到车上吗?" }
]
}'
更多客户端与开发工具的配置方法见接入指南。
排查常见错误
| 现象 | 先检查什么 |
|---|---|
| 返回 401 | 密钥是否完整、是否已撤销,请求头是否为 Authorization: Bearer |
| 返回 403 | 密钥是否限定了模型或来源地址,单位是否还有余额或额度 |
| 返回 429 | 调用是否过于频繁,适当降低并发或稍后重试 |
| 回答偏离资料 | 系统提示词是否写明“只根据资料回答”,资料是否完整放入 |
| 回答被截断 | 输出长度上限是否过小 |
排查时记下请求时间、所用模型和完整的报错,方便对接人员定位。
记录测试结果
每次测试按下面的格式各记一行,正常与失败的情况都要留下:
| 问题 | 资料是否覆盖 | 实际回答 | 是否符合预期 | 调整 |
|---|---|---|---|---|
| 连接件是什么材质 | 覆盖 | 铝合金,注明依据 | 符合 | 无 |
| 适配哪些车型 | 未覆盖 | 说明资料未提供 | 符合 | 无 |
测试至少覆盖三类问题:资料能回答的、资料没有覆盖的、容易答错的。整理好的测试记录可以作为申请项目成长包的材料。