Node.js SDK 接入快速入门

npm install @tencent/tcaicc

import { Protocol, SessionFactory, SessionPool, defaultPolicy, newModelPool } from '@tencent/tcaicc'

const BASE_URL = '<AICC_BASE_URL>'       // 安全会话服务地址
const GATEWAY_URL = '<AICC_GATEWAY_URL>' // 网关地址
const API_KEY = '<API_KEY>'
const MODEL = '<MODEL_NAME>'             // 模型名称
const TTL = 8 * 60 * 60                  // 会话寿命与模型/端点绑定时长,单位为秒

async function main(): Promise<void> {
  // 1. 创建模型池。回调必须为每个端点新建一个独立的工厂。
  const models = newModelPool(BASE_URL, API_KEY, TTL, () =>
    new SessionPool(new SessionFactory(BASE_URL, API_KEY, { ttl: TTL }), 4), // 4 为池中最多保留的会话数
  )
  try {
    // 2. 每轮 HTTP 请求取一个 Request。
    const req = await models.newRequest(MODEL, [])
    const policy = defaultPolicy(Protocol.OPENAI)

    // 3. 加密请求体。
    const body = { model: MODEL, messages: [{ role: 'user', content: '你好' }] }
    const encBody = req.encryptRequest(Buffer.from(JSON.stringify(body)), policy)

    // 4. 发送请求。
    const r = await fetch(GATEWAY_URL, {
      method: 'POST',
      body: encBody.toString(),
      headers: {
        'Content-Type': 'application/json',
        'X-AICC-Mode': '1', // 标识这是密文请求
        Authorization: `Bearer ${API_KEY}`,
      },
    })
    const raw = Buffer.from(await r.arrayBuffer())
    if (!r.ok) throw new Error(`gateway ${r.status}: ${raw.toString()}`)

    // 5. 解密响应体。
    const plain = req.decryptResponse(raw, policy)
    console.log(JSON.parse(plain.toString()).choices[0].message.content)
    req.close()
  } finally {
    models.close()
  }
}

main().catch((e) => {
  console.error(e)
  process.exit(1)
})


import { SessionFactory, Protocol } from '@tencent/tcaicc'

const factory = new SessionFactory(BASE_URL, API_KEY, { ttl: TTL })
factory.setProtocol(Protocol.ANTHROPIC) // 或 Protocol.RESPONSES