Fluxio

让 AI 的回答像水一样,一边写一边流到用户眼前

Fluxio 以实时 token 流的方式中转 Claude、GPT、Gemini 等十多个模型系列——为聊天应用、智能助手和一切实时产品而做。

新账号注册即送 ¥0.80 体验额度。

一段流式回答的回放

提问给一个实时聊天组件写一句宣传语。

GPT-6.1 Sol · gpt-6.1-sol顾客还没读完问题,答案已经开始送达。

提问用两句话说说,服务器推送事件为什么适合聊天回复?

Gemini 2.5 Flash · gemini-2.5-flash它让一个 HTTP 响应保持打开,每生成一段文字就立刻推出去。浏览器原生就能读取,所以聊天窗口可以在字词生成的那一刻把它画出来。

提问给流式机器人想一句友好的加载提示。

Claude Haiku 4.5 · claude-haiku-4-5-20251001边想边说——第一句话马上就到。

提问列出实时助手绝不该做的三件事。

Grok 4.7 · grok-4.7卡住却不给任何进度提示;把答案埋在一堆客套话里;用户已经换了话题还在自说自话。

提问把“直播已开始”翻译成英语和日语。

MiniMax M3 · MiniMax-M3英语:“The stream is live.” 日语:「配信が始まりました。」

— 个片段已流入这段回答

这是一段录好的回答,在你的浏览器里按流式节奏回放。

流式回答怎么计费

流式回答和普通调用一样,按用掉的 token 计价。不同之处在于:用量数字从哪里来,以及流提前结束时怎么算。

  1. 用量帧

    OpenAI 格式的流在最后一个分块里报告用量,Fluxio 会为每个流式对话打开 stream_options.include_usage,保证这个分块一定到达。Anthropic 的用量在 message_start 和 message_delta 里;Gemini 放在每个分块的 usageMetadata 中。

  2. 中途挂断

    客户端一断开,Fluxio 立刻停掉上游请求,只按已经生成的部分计费。如果用量帧还没到,输入按请求大小估算、输出按已流出的文字估算,并在记录里标注为估算。

  3. 不花钱的调用

    数 token 的接口免费;以上游错误结束的回答记为 0 元。HTTP 402 表示这把密钥背后的余额或月卡已经用完。

举个例子:GPT-6.1 Sol 在这里每百万输入 token ¥1.05、每百万输出 token ¥5.25;官方标价是 ¥14.40 和 ¥72.00。

月卡

想要固定的月度开销?每张月卡在 30 天内覆盖 Claude 或 GPT 调用,并设有每周上限。

Claude · $1100 额度 · 30 天 · 每周 $350

¥449.00 / 30 天有效期

本卡额度
$1100
每周上限
$350
计费倍率
× 2.8

只用于 Claude 系列模型;购买后自动生成一把专用 API 密钥。

登录后购买

Claude · $2900 额度 · 30 天 · 每周 $850

¥1,189.00 / 30 天有效期

本卡额度
$2900
每周上限
$850
计费倍率
× 2.8

只用于 Claude 系列模型;购买后自动生成一把专用 API 密钥。

登录后购买

GPT · $2600 额度 · 30 天 · 每周 $800

¥319.00 / 30 天有效期

本卡额度
$2600
每周上限
$800
计费倍率
× 2.8

只用于 GPT 系列模型(含 Codex 可用的全部 GPT id);购买后自动生成一把专用 API 密钥。

登录后购买

GPT · $8000 额度 · 30 天 · 每周 $2400

¥989.00 / 30 天有效期

本卡额度
$8000
每周上限
$2400
计费倍率
× 2.8

只用于 GPT 系列模型(含 Codex 可用的全部 GPT id);购买后自动生成一把专用 API 密钥。

登录后购买

关于流式输出的三个问题

Fluxio 会先把流缓存起来再转发吗?

不会。每一行完整的 SSE 一到就转发出去;只有收到一半的行会等它的换行符,所以没有任何内容被扣留超过它到达所需的时间。

我的客户端把 include_usage 设成了 false,费用会变成估算吗?

不会。对流式对话,无论这个设置是什么,Fluxio 都会向上游要用量帧,费用按真实 token 数计算。

可以同时开好几条流吗?

可以:每个账户最多同时 8 条,每把密钥每分钟最多发起 120 次请求。第 9 条并行的流会收到 HTTP 429,直到前面有一条结束。