某中心宣布其SageMaker JumpStart平台现已支持OpenAI最新开源的GPT OSS模型(gpt-oss-120b和gpt-oss-20b)。这两款模型专长于编程、科学分析和数学推理任务,具有128K上下文窗口和可调节推理级别(低/中/高),支持外部工具集成和代理工作流。
from sagemaker.jumpstart.model import JumpStartModel
model = JumpStartModel(model_id="openai-reasoning-gpt-oss-120b")
predictor = model.deploy(accept_eula=True)payload = {
"input": [{
"role": "user",
"content": "解释量子计算基础"
}],
"max_output_tokens": 200
}
response = predictor.predict(payload)通过集成EXA搜索API实现网络信息检索:
model = JumpStartModel(
model_id="openai-reasoning-gpt-oss-120b",
enable_network_isolation=False,
env={"EXA_API_KEY": "<API_KEY>"}
)展示天气查询工具的调用格式:
{
"tools": [{
"type": "function",
"name": "get_current_weather",
"parameters": {
"location": {"type": "string"}
}
}]
}完成测试后需删除端点避免额外计费:
predictor.delete_model()
predictor.delete_endpoint()该解决方案为企业用户提供了安全可控的生成式AI部署环境,支持在私有VPC内运行模型,满足企业级数据安全需求。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。