tokrouterdocs
使用指南

使用指南

按任务组织的能力指南:流式输出、工具调用、视觉输入、结构化输出、协议互转。

每篇只讲一件事,给出可直接运行的代码。

  • 流式输出:SSE 的读取方式、半包处理、什么时候不该用流式
  • 工具调用:function calling 的请求与响应形态、多轮循环
  • 视觉输入:图片以 URL 或 base64 传入的两种写法与体积限制
  • 结构化输出:JSON Schema 约束与解析容错
  • 协议互转:四种入站协议与各厂商的字段映射边界

能力取决于模型

网关负责协议归一化,但能力来自模型本身。某个模型不支持视觉或工具调用时,网关不会伪造能力, 而是返回明确错误。选型前先看模型页的说明。