基石智算大模型服务支持 JSON 模式输出功能

作为一种轻量级的数据交换格式ON 具有简洁、清晰、易于解析和生成的特点ON 模式是大模型 API 实现结构化输出的关键功能。当用户在调用大模型 API 时，返回的结果以ON 格式呈现，有利于阅读和理解。

基石智算Coreshub 大模型服务支持ON 模式输出功能，帮助用户在与大模型交互时，获得更加结构化、标准化的数据结果。无论是复杂的文本分析、数据处理，还是智能应用开发，基石智算都能为用户带来更高效、便捷和灵活的数据处理方式。

支持的模型

目前平台上的 DeepSeek-V3 模型支持该功能。

注意事项

用户需提前在

//docs.coreshub.cn/console/big_model_server/api_key/create_api_key/ 中创建与获取 API KEY 用于替换示例代码中的 api_key 参数。

使用方法

将 response_format 参数设置为 {'type':on_object'}。

用户传入的 system 或 user prompt 中必须含有on 字样，并给出希望模型输出的ON 格式的样例。

合理设置 max_tokens 参数，防止ON 字符串被中断。

代码示例

示例一

代码运行回显示例：

示例二

代码运行回显示例：