1
guonaihong 215 天前
你启个 websocket 或者 grpc stream 服务端。客户端不停读就行。
|
2
helloword001 OP w.Write([]byte(response.Choices[0].Delta.Content + "\n"))
这种形式可以吗 |
3
guonaihong 215 天前
websocket 库可以玩下我写的,https://github.com/antlabs/quickws ,有使用上的问题帮你看看。
|
4
guonaihong 215 天前
@helloword001 你想用 http chunked 模拟?具体代码网上找找例子,这个也看客户端的开发能力,搞得定也行,缺点只能模拟单向流,s->c 侧的。websocket 和 grpc stream 是全双工的,c->s ,s->c 都行。
|
5
dddd1919 215 天前
sse
|
6
helloword001 OP |
7
guonaihong 215 天前
@helloword001 不能无缝转,要自己写代码。无论是 http chunked 模拟(也叫 sse),还是 websocket 或者 grpc 都要写点代码。
|
8
helloword001 OP @guonaihong 好的,谢谢大佬
|